Note : Rapport provenant d'une seule source ; en attente de corroboration.
Le Haut-Commissaire des Nations Unies aux droits de l'homme, Volker Türk, a déclaré que le développement rapide de systèmes d'intelligence artificielle puissants représente une augmentation significative des risques existentiels affectant tous les aspects de la vie. Il a exprimé cette opinion dans une lettre ouverte faisant suite à des incidents tels que la démission d'un ancien chercheur en anthropologie en raison des menaces potentielles que représente l'IA d'ici la fin de la décennie.
M. Türk a souligné que les pays accueillant des entreprises de pointe en IA ont une responsabilité particulière en matière de mise en œuvre de réglementations rigoureuses. Celles-ci devraient inclure le signalement obligatoire des incidents graves liés à l'IA, la vérification des capacités de l'IA et une obligation de diligence raisonnable en matière de droits humains. Il a également insisté sur la nécessité d'une coopération multilatérale entre les États membres afin de parvenir à un consensus mondial sur la gouvernance de l'IA axée sur la protection des droits humains.
Reconnaissant le rôle de premier plan de la Chine et des États-Unis dans le développement de l'IA avancée, M. Türk a appelé à une harmonisation des approches réglementaires entre les juridictions afin de prévenir une course aux armements en matière d'IA ou un abaissement des normes de sécurité. Il a affirmé qu'aucun pays ni aucune entreprise ne devrait déterminer unilatéralement les niveaux de risque acceptables en matière d'IA.
Le PDG d'Anthropic, Dario Amodei, a plaidé en faveur de la poursuite des progrès en matière d'IA, assortis de garanties suffisantes pour prévenir tout comportement potentiellement dangereux de l'IA. Les dirigeants d'OpenAI, de Google et de xAI soutiennent également des mesures telles que l'évaluation des modèles d'IA par des tiers et une collaboration accrue entre les entreprises et les gouvernements. M. Türk a salué ces propositions, mais a souligné qu'une réglementation gouvernementale est nécessaire de toute urgence, parallèlement à l'autorégulation du secteur.