Geoffrey Hinton, l'un des pionniers de l'intelligence artificielle (IA) et fervent chercheur, a récemment pris la décision de quitter Google afin de sonner l'alarme sur les menaces potentielles inhérentes à cette technologie.

À 75 ans, ce scientifique d'origine canadienne et britannique a joué un rôle de premier plan dans le développement des réseaux de neurones, qui ont permis des avancées majeures dans le domaine de l'IA. Ses travaux réalisés à l'Université de Toronto en 2012 ont notamment démontré la supériorité de ces réseaux, ce qui lui a valu de recevoir en 2019 le prestigieux prix Turing en reconnaissance de ses contributions exceptionnelles.

Pourtant, suite à sa démission de Google, Geoffrey Hinton exprime des inquiétudes quant à l'avenir de l'IA et aux conséquences potentiellement désastreuses pour l'humanité. Dans une entrevue accordée au New York Times, il affirme que "les futures versions de cette technologie pourraient représenter un risque pour l'humanité". Ses préoccupations se concentrent principalement sur la prolifération de vidéos, de photos et d'articles fallacieux sur Internet, susceptibles de tromper les individus et de semer le chaos.

"Des perspectives effrayantes"

Mais ce n'est pas tout, le chercheur souligne également, lors d'une interview avec la BBC, que les perspectives futures de l'IA sont "plutôt effrayantes" pour les êtres humains. "Pour l'instant, elles ne sont pas plus intelligentes que nous, à ma connaissance. Mais je crains qu'elles ne le deviennent bientôt", précise-t-il.

En envisageant des scénarios "cauchemardesques" où une puissance conquérante telle que la Russie de Vladimir Poutine accéderait à des versions améliorées des technologies actuelles, Geoffrey Hinton redoute les progrès de ces dernières et craint qu'elles ne tombent entre de mauvaises mains, notamment en ce qui concerne l'utilisation d'armes autonomes, telles que des robots tueurs.

"Dangereux pour l'humanité"

Les préoccupations de Geoffrey Hinton rejoignent celles d'autres experts en IA qui ont récemment réclamé une pause de six mois dans la recherche afin d'élaborer des réglementations pour ces logiciels considérés comme "dangereux pour l'humanité".
Malgré ses critiques, Hinton ne blâme pas son ancien employeur, Google, qu'il qualifie au contraire de "très responsable" dans une interview accordée à la BBC. Il explique avoir choisi de quitter l'entreprise pour pouvoir parler librement des dangers de l'IA sans craindre d'avoir un impact négatif sur Google.

Le dilemme moral de Geoffrey Hinton est nourri par la compétition exacerbée dans le secteur de l'IA ces derniers mois, avec des investissements massifs de la part de Microsoft, Google et d'autres géants du numérique tels que Meta. Face à ces enjeux, Geoffrey Hinton appelle à une réglementation plus stricte de cette technologie afin de prévenir toute menace qu'elle pourrait représenter pour l'humanité.