Sam Altman y Dario Amodei expusieron ante el Consejo de Seguridad la necesidad de avanzar con cautela en el desarrollo de sistemas cada vez más potentes
El rápido avance de la inteligencia artificial llegó al Consejo de Seguridad de la Organización de las Naciones Unidas (ONU), donde directivos de OpenAI, Anthropic y Hugging Face expusieron los riesgos y desafíos que acompañan al desarrollo de sistemas cada vez más avanzados. Sam Altman, director ejecutivo de OpenAI, señaló que la evolución actual de esta tecnología requiere de un “extremo cuidado”.
Altman advirtió que la industria no debería asumir riesgos tecnológicos excesivos únicamente por la magnitud de los beneficios que puede generar la inteligencia artificial. Al mismo tiempo, planteó la necesidad de evitar tanto un optimismo sin reservas como una visión completamente catastrófica sobre el futuro de estas herramientas, por lo que llamó a buscar un punto intermedio.
OpenAI pide cautela ante la inteligencia artificial
Durante la sesión, Altman recordó que OpenAI ha planteado que Estados Unidos encabece un esfuerzo internacional para establecer estándares globales en torno a esta tecnología. La discusión se da mientras gobiernos y organismos internacionales observan con mayor atención la velocidad con la que evolucionan los nuevos modelos y la ausencia de un marco regulatorio global que avance al mismo ritmo.
En el encuentro también participó Dario Amodei, director ejecutivo de Anthropic, quien envió un mensaje en video al Consejo de Seguridad. El empresario aseguró que su compañía está dispuesta a reducir el ritmo de desarrollo de sus modelos el tiempo que resulte necesario para garantizar que cada nuevo sistema sea seguro antes de ser puesto a disposición de los usuarios.
Anthropic plantea reducir el ritmo de desarrollo
La postura de Amodei se produjo diez días después de que propusiera una desaceleración coordinada entre las principales compañías dedicadas al desarrollo de inteligencia artificial. Sin embargo, hasta ahora ese planteamiento no se ha convertido en un acuerdo conjunto entre las empresas del sector.
Clément Delangue, director de Hugging Face, también participó en la reunión y presentó una perspectiva distinta a la de OpenAI y Anthropic, debido a que su plataforma aloja modelos desarrollados por investigadores y compañías de diferentes partes del mundo. La presencia de los tres directivos mostró las distintas aproximaciones que existen dentro de la industria frente al crecimiento de esta tecnología.
La sesión resultó poco habitual para el Consejo de Seguridad, organismo cuya agenda suele estar centrada en conflictos armados y crisis geopolíticas. Aunque OpenAI y Anthropic expusieron compromisos relacionados con la seguridad, Altman y Amodei no detallaron plazos específicos ni mecanismos para verificar su cumplimiento, dejando abierta la discusión internacional sobre cómo supervisar el desarrollo de la inteligencia artificial.
