Sweeney n’est pas hors de propos. L’année dernière, des juges fédéraux américains ont déclaré Google coupable d’avoir exploité non pas un mais deux monopoles illégaux : un dans le domaine des technologies publicitaires et un dans la recherche en ligne. Ces décisions ont été prises six ans après que Meta, puis Facebook, ont été contraints de verser 5 milliards de dollars à la FTC et de modifier leurs pratiques commerciales après qu’il a été découvert qu’ils avaient mal géré de grandes quantités de données d’utilisateurs dans le désormais tristement célèbre scandale Cambridge Analytica.
« La technologie ignore tout simplement [laws] et les réécrit. C’est vrai dans les médias sociaux. C’est également vrai dans le domaine de l’IA », a déclaré Sweeney à Schmidt. « Nous avons déjà des lois [that] aborder les questions de partialité, de protection des consommateurs, etc. Aucune de ces mesures n’est appliquée en ligne.
Sweeney a suggéré que l’atténuation des risques associés à l’IA, y compris les préjudices algorithmiques et les biais codés dans les systèmes d’IA à partir de leurs données de formation, nécessite des changements plus fondamentaux plutôt que des corrections a posteriori.
« Il y a des questions sur les dommages existentiels à l’avenir, mais de nombreux dommages se produisent en ce moment. Et il n’est pas nécessaire que ce soit le cas… Cela dépend de qui cette IA dessert, et en particulier, de la conception de la technologie – les décisions prises dans cette conception déterminent vraiment quelles seront nos valeurs », a-t-elle déclaré.
Schmidt a repoussé l’idée selon laquelle tous les dommages pourraient être évités grâce à une meilleure conception et une meilleure formation, arguant que les principaux programmes d’IA ne sont pas de simples machines mais des systèmes complexes et non linéaires qui développent souvent des capacités imprévues. Mais il est d’accord avec l’affirmation de Sweeney selon laquelle les dirigeants de la Silicon Valley ont parfois « précipité » des produits sur le marché, ajoutant : « Ils ont trouvé toutes sortes de problèmes, puis ils s’emploient à les corriger. Je pense que c’est le cycle, et c’est très difficile. »
Heureusement, a-t-il déclaré, les développeurs d’IA disposent de cartes d’évaluation et d’équipes de tests de sécurité pour atténuer autant de risques que possible à l’avance.
Mais ces mesures sont insuffisantes pour protéger l’humanité, selon un autre panéliste, Nate Soares. Soares est président du Machine Intelligence Research Institute de Berkeley, en Californie et co-auteur de If Anybody Builds It, Everyone Dies, un livre de 2025 sur les risques existentiels posés par l’IA.
Dans les principaux laboratoires d’IA, les principaux domaines d’intervention en matière de sécurité et de gouvernance sont aujourd’hui la recherche sur l’interprétabilité, ou « essayer de comprendre ce qui se passe dans la tête des IA », et les cartes d’évaluation des modèles, « qui tentent de comprendre à quel point les IA sont dangereuses », comme l’explique Soares.
Il a comparé ces efforts à une tentative comiquement inadéquate de limiter les catastrophes nucléaires. « Si quelqu’un construisait une centrale nucléaire dans votre ville natale, et que vous alliez chez lui et que vous disiez : ‘Hé, j’ai entendu dire que cet uranium peut avoir de nombreux avantages énergétiques, mais peut aussi fondre lorsque les choses tournent mal. Qu’avez-vous qui vous fait penser que vous allez en tirer des avantages et non des pièges ?’ Si les ingénieurs disent : « Oh oui, nous avons deux équipes d’experts qui travaillent là-dessus ; la première équipe essaie de comprendre ce qui se passe à l’intérieur, et la deuxième équipe essaie de mesurer si elle est en train d’exploser – ce n’est pas bon signe.
Jeanne est une journaliste de 27 ans qui se passionne pour le cinéma et la culture pop. Elle adore dévorer des séries Netflix et se tenir au courant des dernières news sur les célébrités du moment. Jeanne a toujours été intéressée par l’écriture, et elle aime travailler comme journaliste car cela lui permet de partager sa passion pour la narration avec les autres.