L’Intelligence Artificielle donne du fil à retordre à Google. Entre échec à un concours de mathématiques pour Américains de 16 ans via sa filiale spécialisée en IA DeepMind et dissolution du Comité d’éthique qu’elle avait créé voilà à peine une semaine, la firme de Mountain View navigue ces jours-ci en eaux troubles. Récit d’une semaine mouvementée pour l’IA.

Cela n’avait pas du tout bien commencé. Et cela s’est mal terminé. Avec sa filiale DeepMind, Google a vécu pour le moins une dernière semaine étrange, entre railleries et moqueries du grand public et contestations en interne jusque dans son Comité d’éthique sur l’Intelligence Artificielle qui n’existe d’ailleurs plus.

Cette information, la première à avoir été dévoilée par la compagnie américaine elle-même, a été suivie par un échec dans les grandes largeurs de DeepMind à un concours de mathématiques normalement destiné aux étudiants américains de moins de… 16 ans. A vrai dire, cette dernière information n’est pas vraiment surprenante si l’on considère que DeepMind, la filiale anglaise dont sont actionnaires Alphabet et Google, n’a pas vocation à résoudre des problèmes qu’un adolescent lui-même peut rencontrer au cours de son parcours scolaire. Il n’empêche, cette information a été relayée par bon nombre de médias et fait tâche dans un univers aujourd’hui entouré d’une hype certaine et considéré comme la quatrième révolution industrielle ! Et dire qu’il y a à peine un an, Google réalisait une démonstration de force en IA lors de sa conférence…

IA plus de Comité d’éthique

Les temps ont changé rapidement et cela a donc débuté en début de semaine dernière avec l’annonce faite par Google auprès de nos confrères de Vox de mettre un terme à la courte aventure de son Comité d’éthique. En à peine une semaine, ce dernier était terrassé, rongé de l’intérieur par des membres qui ne souhaitaient pas cohabiter ou travailler ensemble et torpillé de l’extérieur par des employés de la firme elle-même qui refusaient de voir certaines personnes y siéger pour des raisons différentes.




Par conséquent, ce comité qui devait d’abord veiller au « développement responsable de l’Intelligence Artificielle », selon les termes mêmes employés par l’entreprise, a été purement et simplement dissous. Huit membres le composaient et devaient initialement se réunir quatre fois par an pour examiner . Mais voilà, la force de coercition était devenue tellement puissante que l’ATEAC (pour Advanced Technology External Advisory Council) a été balayé d’un revers de la main par cette déclaration d’un porte-parole de Google auprès du média américain : « Il est devenu clair que dans l'environnement actuel, l’ATEAC ne peut pas fonctionner comme nous le voulions. Donc, nous mettons fin au conseil et retournons à la planche à dessin. Nous continuerons d'être responsables dans notre travail sur les questions importantes que soulève l'IA et nous trouverons différents moyens d'obtenir des opinions extérieures sur ces sujets. »

IA, ton univers impitoyable

La cause de ce revirement soudain est donc multiple mais a bien débuté dans les rangs même du Comité d’éthique. Le premier à dégainer a été Alessandro Acquisti qui a lui-même annoncé publiquement son retrait du Comité d’éthique via Twitter : « Bien que je sois dévoué à la recherche sur les questions éthiques clés d'équité, de droits et d'inclusion dans l'IA, je ne crois pas que ce soit le bon forum pour moi pour entreprendre cet important travail." Effet boule de neige ou non, toujours est-il que les employés de Google s’en sont ensuite mêlés, refusant de voir siéger à ce conseil Kay Coles James, Républicaine, présidente de la Heritage Foundation et connue pour ses positions contre la communité LGBTQ et climatosceptiques. Des milliers d’employés ont ainsi signé une pétition en interne demandant son départ (plus de 2 300 signatures), confortant alors Alessandro Acquisti de ne pas poursuivre l’aventure.

La position de Dyan Gibbens, autre membre de ce feu conseil, était également intenable. Présidente d’une compagnie de drones, la jeune femme a aussitôt fait resurgir des divisions qui avaient déjà mis à mal l’entreprise sur le sujet de l’Intelligence Artificielle et son application militaire. Enfin, Joanna Bryson enterrait définitivement ce Comité d’éthique par cette déclaration ô combien lunaire pour défendre sa consoeur républicaine, toujours dans les colonnes de Vox : « Croyez-le ou non, je sais pire sur l'une des autres personnes. D'autres membres du conseil d'administration se sont trouvés submergés d'exigences pour justifier leur décision de rester au conseil d'administration. » Avec tant de divergences, sa disparition était inéluctable, avant même que Google ne confirme publiquement la nouvelle.

DeepMind est nul en maths et complète le tableau

A vrai dire, il valait mieux pour Google de désamorcer elle-même cette bombe à retardement qui lui aurait tôt ou tard explosé au visage. Qu’aurait-on dit par exemple si ce comité d’éthique avait conseillé la firme au niveau éthique sur la reconnaissance faciale avec une personne anti-LGBTQ dans ses rangs ?

L’autre nouvelle, plus inattendue, est tombée en milieu de semaine quand les étudiants, les vrais, planchaient eux à l’école sur leur programme scolaire. DeepMind a fait un bide sur un concours de mathématiques normalement réservé aux Américains de 16 ans. Et ce, malgré toute une préparation en amont pour y participer. Une faute qui serait presque inexcusable si la filiale anglaise de Google et Alphabet était vraiment programmée pour ça. Mais ce n’est évidemment pas le cas.

DeepMind, une IA trop inhumaine…

Alors, comment DeepMind s’est-il pris les pieds dans le tapis ? En fait, l’Intelligence Artificielle a été incapable de comprendre l’intitulé d’une question où se mêlaient des mots, des symboles et des fonctions. Trop pointu pour lui, DeepMind a été dans l’incapacité de démarrer les opérations et autres calculs pouvant résoudre cet énoncé. Bilan ? Un 14/40 sur le test qui ferait de lui un cancre dans n’importe quelle classe.




Formée à l’algèbre ou au calcul infinitésimal, l’Intelligence Artificielle si douée au Jeu de go s’est retrouvée face à un problème insolvable : raisonner comme un être humain pour appréhender la totalité de l’énoncé face à lui. Mais qu’elle se rassure, les humains se heurtent parfois aussi à leurs propres raisonnements. Le Comité d’éthique de Google peut en témoigner. Paix à son âme…