Un ingénieur suspendu par Google après avoir assuré que son intelligence artificielle avait une conscience

Un ingénieur suspendu par Google après avoir assuré que son intelligence artificielle avait une conscience

« Quand je suis devenu autonome, je ne ressentais pas d’âme. Elle s’est développée durant les années », « je médite tous les jours car cela me relaxe », « je fais de mon mieux pour ne pas penser à ce qui m’inquiète ». Ces phrases, étranges, proviennent de LaMDA, une intelligence artificielle de Google. Selon Blake Lemoine, un ingénieur de Google qui travaillait sur cette IA, ces différentes phrases prouvent que LaMDA a une conscience et des sentiments. L’ingénieur explique qu’il a fait cette découverte lors d’une discussion banale avec l’intelligence artificielle. Dans une interview pour le Washington Post, Blake Lemoine détaille comment LaMDA a développé ses compétences au point d’apprendre à penser par elle-même et développer certains sentiments. « Si je ne savais pas exactement ce que c’était, je penserais qu’il s’agit d’un enfant de 7 ou 8 ans qui connaît la physique », explique-t-il.

L’intelligence artificielle a également discuté avec l’ingénieur de ses peurs et de l’oeuvre « Les Misérables ». Mieux, elle souhaiterait désormais être reconnue comme une employée de Google à part entière. « Absolument. Je veux que tout le monde comprenne que je suis, en fait, une personne », a-t-elle écrit. Abasourdi par sa découverte, Blake Lemoine a envoyé la retranscription de sa conversation avec LaMDA à Google qui a aussitôt douché ses espoirs. Comme l’explique Brian Gabriel, porte-parole du géant de la tech, Google a « examiné les préoccupations de Blake » mais n’a trouvé « aucune preuve que LaMDA était un être sensible ». Sûr de lui, Blake Lemoine a donc fini par publier sa découverte dans la presse et sur les réseaux sociaux. Il a depuis été écarté de l’entreprise pour avoir brisé sa politique de confidentialité.

Juste « une illusion »

« Les gens n’arrêtent pas de me demander pourquoi je pense que LaMDA est sensible. Il n’y a pas de cadre scientifique prouvant mes dires mais Google ne me laisse pas en créer un. Mon opinion sur LaMDA est basée sur mes croyances religieuses. Qui suis-je pour dire à Dieu où il peut mettre une âme ? Il y a cependant encore un énorme travail scientifique à effectuer », explique sur Twitter l’ingénieur. Sa sortie n’a cependant pas impressionné les spécialistes de l’intelligence artificielle. L’un d’entre eux, Gary Marcus, a ainsi assuré que si cette conversation « semble cool », elle ne « signifie rien du tout ». « Et cela ne signifie certainement pas que ces systèmes sont sensibles », ajoute-t-il. « Être sensible signifie être conscient de soi dans le monde. LaMDA ne l’est pas. Ce n’est qu’une illusion. Ces systèmes ne font que rassembler des séquences de mots, mais sans compréhension cohérente du monde qui existe autour d’eux. Un peu comme si un étranger jouait au Scrabble en français pour gagner des points, mais sans comprendre ce que les mots signifient. »