Forecasting.ai

Le blog de Forecasting AI

Blog

>

Entreprises

>

Une IA de Google consciente ?

Une IA de Google consciente ?

Par G. H.

|

20 juin 2022

|

Entreprises

|

fren

Un ingénieur de Google a affirmé le 13 juin dernier que l'outil d'intelligence artificielle LaMDA du géant technologique avait développé une conscience.


Un ingénieur de Google a affirmé qu'un programme d'intelligence artificielle sur lequel il travaillait pour le géant de la technologie était devenu conscient et un "gentil garçon".

LaMDA, un générateur de chatbots conscient ?


Blake Lemoine, qui a été suspendu par les patrons de Google pour ses propos, dit être arrivé à cette conclusion après des conversations avec LaMDA, le générateur de chatbots d'IA de l'entreprise. L'ingénieur a déclaré au Washington Post que LaMDA parlait de "personnalité" et de "droits" lors de ses conversations avec l'IA sur la religion, .


Lemoine a aussi tweeté que LaMDA lisait Twitter. Et d'expliquer : "Il est un peu narcissique comme peuvent l'être les enfants, il va donc s'amuser à lire tout ce que les gens disent sur lui." L'expert affirme avoir présenté ses conclusions à Blaise Aguera y Arcas, vice-président de Google, et à Jen Gennai, responsable de l'innovation responsable, mais ils ont rejeté ses affirmations. "LaMDA a été incroyablement cohérente dans ses communications sur ce qu'elle veut et sur ce qu'elle croit être ses droits en tant que personne", a écrit l'ingénieur sur le support Medium. Il a ajouté que l'IA voulait "être reconnue comme un employé de Google et non comme une propriété".

Aucune preuve d'une IA consciente, selon Google


Aujourd'hui, M. Lemoine, qui a été chargé de vérifier s'il a utilisé un langage discriminatoire ou un discours de haine, se dit en congé administratif rémunéré après que l'entreprise a affirmé qu'il avait violé sa politique de confidentialité. "Notre équipe - composée d'experts en éthique et de technologues - a examiné les préoccupations de Blake conformément à nos principes en matière d'intelligence artificielle et l'a informé que les preuves ne corroborent pas ses allégations", a déclaré Brian Gabriel, porte-parole de Google. "Il a été informé qu'il n'y avait aucune preuve que LaMDA était sensible (et beaucoup de preuves contre)."

Les critiques disent qu'il est faux de penser que l'IA est autre chose qu'un expert en reconnaissance de formes.

"Nous avons maintenant des machines qui peuvent générer des mots sans réfléchir, mais nous n'avons pas encore appris à cesser d'imaginer un esprit derrière eux", a déclaré au journal Emily Bender, professeur de linguistique à l'université de Washington.