Nota: Informe de una sola fuente; pendiente de corroboración.
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, afirmó que el rápido desarrollo de potentes sistemas de inteligencia artificial representa un aumento significativo de los riesgos existenciales que afectan a todos los aspectos de la vida. Así lo expresó en una carta abierta tras incidentes como la dimisión de un antiguo investigador del Instituto Antropológico por las posibles amenazas de la IA a finales de la década.
El Sr. Türk hizo hincapié en que los países que albergan a empresas líderes en IA tienen una responsabilidad especial de implementar regulaciones sólidas. Estas deben incluir la notificación obligatoria de incidentes graves relacionados con la IA, la verificación de las capacidades de la IA y la debida diligencia obligatoria en materia de derechos humanos. También destacó la necesidad de cooperación multilateral entre los Estados miembros para construir un consenso global sobre la gobernanza de la IA centrado en la protección de los derechos humanos.
Reconociendo el liderazgo de China y Estados Unidos en el desarrollo avanzado de la IA, el Sr. Türk abogó por la armonización de los enfoques regulatorios entre las distintas jurisdicciones para prevenir una carrera armamentística en IA o una reducción de los estándares de seguridad. Afirmó que ningún país ni empresa debería determinar unilateralmente los niveles de riesgo aceptables en IA.
El director ejecutivo de Anthropic, Dario Amodei, ha abogado por el progreso continuo de la IA con suficientes salvaguardas para prevenir comportamientos potencialmente peligrosos. Los líderes de OpenAI, Google y xAI también apoyan medidas como la evaluación de modelos de IA por terceros y una mayor colaboración entre empresas y gobiernos. El Sr. Türk acogió con satisfacción estas propuestas, pero enfatizó que se necesita urgentemente una regulación gubernamental junto con la autorregulación de la industria.