Lors d’une discussion animée avec d’éminents spécialistes de l’IA mardi soir, Eric Schmidt, l’homme d’affaires américain qui a occupé le poste le plus élevé chez Google de 2001 à 2011, a soutenu que les systèmes d’IA peuvent développer des comportements inattendus qui limiter la mesure dans laquelle des entreprises comme Google peuvent mettre en œuvre des mécanismes préventifs de sécurité et de gouvernance dans leurs produits.
Un « problème » central dans la régulation des modèles d’IA frontières est que, parfois, « une nouvelle fonctionnalité émerge dans ces systèmes qui n’est pas testée, testable », a déclaré Schmidt sur scène lors du débat commémoratif annuel Isaac Asimov, animé par le physicien Neil deGrasse Tyson à Manhattan.
« Nous pouvons arrêter [the emergence of new features or behaviors]et donc arrêter tout progrès, par la loi, en interdisant les modèles plus grands », a-t-il déclaré, « mais tant que vous aurez ce nouveau pouvoir émergent, vous aurez un raisonnement profond, des capacités profondes, et ils feront des erreurs. Il faut être tolérant. »
Schmidt – qui a également été président d’Alphabet, société mère de Google de 2015 à 2017 et a ensuite conseillé Alphabet pendant trois ans – a soutenu l’acquisition en 2014 de DeepMind, l’unité qui héberge désormais la recherche la plus avancée de Google en matière d’IA.
Schmidt a déclaré que les développeurs d’IA, comme Google et d’autres, « devraient être tenus responsables » s’ils sont reconnus en violation de la loi, mais a souligné que les développeurs d’IA doivent fréquemment expédier des produits d’IA et corriger rétroactivement les mauvais comportements qu’ils n’avaient pas prédits à mesure que les modèles évoluent.
« J’ai vécu cela lorsque j’étais chez Google, dans les versions antérieures de [Google’s AI] technologie, où le système ferait quelque chose de mal, et nous l’avons corrigé. Et nous l’avons réparé aussi vite que possible, parce que nous le devions, parce que c’était la bonne chose à faire », a-t-il déclaré.
Google n’a pas répondu par une déclaration officielle au moment de la publication.
Schmidt a été contesté par Latanya Sweeney, professeur de gouvernement et de technologie à Harvard et ancien directeur de la technologie à la Federal Trade Commission, qui a mis en doute la suggestion selon laquelle les dirigeants de l’IA se conformeraient volontiers aux réglementations. Elle a déclaré que les grandes entreprises technologiques ont prouvé à maintes reprises qu’elles ignoraient les réglementations clés ou tentaient de plier la loi à leurs intérêts commerciaux.
Jeanne est une journaliste de 27 ans qui se passionne pour le cinéma et la culture pop. Elle adore dévorer des séries Netflix et se tenir au courant des dernières news sur les célébrités du moment. Jeanne a toujours été intéressée par l’écriture, et elle aime travailler comme journaliste car cela lui permet de partager sa passion pour la narration avec les autres.