Plus d’un millier d’acteurs clés du domaine de l’intelligence artificielle (IA) et des technologies, dont Yoshua Bengio, fondateur et directeur scientifique de Mila – Institut québécois d’intelligence artificielle co-signent aujourd’hui une lettre ouverte initiée par le Future of Life Institute afin de demander aux laboratoires d’IA d’interrompre immédiatement, pour une durée d’au moins six mois, l’entraînement de systèmes d’IA plus puissants que GPT-4.
Les signataires s’inquiètent que « les systèmes d’IA dotés d’une intelligence humaine compétitive puissent poser de graves risques pour la société et l’humanité, comme le montrent des recherches approfondies et reconnus par les meilleurs laboratoires d’IA ».
Intitulée Pause Giant AI Experiments: An Open Letter, la lettre cite des principes largement approuvés selon lesquels « l’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre, et devrait être planifiée et gérée avec des soins et des ressources proportionnés. Malheureusement, ce niveau de planification et de gestion ne se produit pas, même si ces derniers mois ont vu les laboratoires d’IA enfermés dans une course effrénée pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable ».
La lettre appelle par conséquent tous les laboratoires d’IA à « suspendre immédiatement pendant au moins 6 mois la formation des systèmes d’IA plus puissants que GPT-4. Cette pause doit être publique et vérifiable, et inclure tous les acteurs clés ». « Si une telle pause ne peut pas être décrétée rapidement, les gouvernements devraient intervenir et instituer un moratoire », poursuit le document.
La requête exhorte les laboratoires d’IA et les experts indépendants à « profiter de cette pause pour développer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés d’IA qui sont rigoureusement audités et supervisés par des experts externes indépendants ». « Ces protocoles devraient garantir que les systèmes qui y adhèrent sont sûrs au-delà de tout doute raisonnable. »
En parallèle, le document suggère que « les développeurs d’IA devraient travailler avec les décideurs politiques pour accélérer considérablement le développement de systèmes de gouvernance de l’IA robustes ».
Outre Yoshua Bengio, on retrouve parmi les signataires de la lettre :
- Yuval Noah Harari, Auteur et professeur, Université hébraïque de Jérusalem
- Stuart Russell, Berkeley, Professeur d’informatique, directeur du Centre des systèmes intelligents et co-auteur de l’ouvrage « Artificial Intelligence: a Modern Approach »
- Elon Musk, PDG de SpaceX, Tesla et Twitter
- Steve Wozniak, Co-fondateur d’Apple
- Evan Sharp, Co-fondateur de Pinterest
- Rachel Bronson, Présidente du « Bulletin of the Atomic Scientists »
Le texte de la lettre ouverte (en anglais) est disponible sur le site Web de l’organisme Future of Life.
