El avance de la inteligencia artificial ha llevado el debate sobre sus límites hasta el Consejo de Seguridad de la ONU. En una sesión de alto nivel, Sam Altman, director ejecutivo de OpenAI, llamó a impulsar una cooperación internacional que permita orientar a las empresas tecnológicas y establecer estándares nacionales y globales para enfrentar los riesgos de esta tecnología.
Altman advirtió que el desarrollo acelerado de la IA requiere un extremo cuidado para evitar que los seres humanos pierdan el control sobre los modelos más avanzados.
Una tecnología con grandes posibilidades y riesgos
Durante su intervención, Altman planteó que la inteligencia artificial podría impulsar una nueva etapa comparable con un Renacimiento, siempre que se utilice como una herramienta para ampliar las capacidades de las personas. 
Al mismo tiempo, señaló riesgos relacionados con sistemas capaces de programarse y mejorar de manera recursiva. Según su planteamiento, estos modelos podrían avanzar hasta un punto en el que los humanos ya no comprendan plenamente su funcionamiento o sus decisiones.
También advirtió sobre la posibilidad de repetir algunas fracturas asociadas con la Revolución Industrial si la tecnología termina sustituyendo la agencia humana o escapa de la supervisión de las personas.
Marcos técnicos para evaluar la IA
Ante estos riesgos, Altman pidió que gobiernos y empresas trabajen en mecanismos que permitan evaluar las capacidades y amenazas asociadas con los sistemas avanzados. Entre las necesidades que mencionó se encuentran:
- Marcos técnicos rigurosos para medir capacidades.
- Evaluación de amenazas.
- Verificación de salvaguardas.
- Canales internacionales para compartir vulnerabilidades críticas.
El director de OpenAI sostuvo que la cooperación internacional debe involucrar incluso a países que compiten entre sí, cuando existan intereses comunes frente al desarrollo de una tecnología con gran capacidad de transformación.
Altman también presentó tres principios que, según explicó, orientan el trabajo de OpenAI: mantener a las personas en el centro de la toma de decisiones, dirigir el progreso científico y económico hacia las personas y ampliar la capacidad de acción de cada individuo.
La sesión fue presidida por Jean-Noël Barrot, ministro francés de Exteriores, y también contempló la participación de Dario Amodei, de Anthropic, y Clément Delangue, de Hugging Face.
Te podría interesar: Corte De Caja En La IA: ¿Para Qué Le Sirve A Mi Negocio En 2026?
