Los líderes de la inteligencia artificial se pronuncian en la ONU sobre posibles riesgos
Los directores de OpenAI y Anthropic acudieron al Consejo de Seguridad de las Naciones Unidas para advertir sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial (IA). Durante su intervención, destacaron que la creciente complejidad de estos sistemas podría representar amenazas significativas para la humanidad, a menos que se implementen mecanismos de seguridad y supervisión adecuados.
Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, de Anthropic, presentaron su mensaje en conjunto con Clément Delangue, de Hugging Face, y el pionero en el campo, Yoshua Bengio. Esta reunión marcó un hito importante para la industria tecnológica, ya que se abordaron preocupaciones sobre la capacidad de la IA para volverse autónoma y las posibles implicancias que esto podría conllevar si se gestiona de manera inadecuada.
Amodei enfatizó que, si no se manejan correctamente, los sistemas de IA avanzados podrían representar un riesgo para la humanidad a gran escala. En un contexto donde las empresas y los gobiernos luchan por controlar el desarrollo de esta tecnología, hizo un llamado a la cooperación internacional, indicando que los desafíos trascienden la capacidad de respuesta de individuos o naciones aisladas.
Altman también subrayó la importancia de que las decisiones sobre el desarrollo de tecnologías con potencial transformador no deben dejarse exclusivamente en manos de las empresas. Expresó que la IA tiene el potencial de generar una nueva era de creatividad y descubrimientos, pero que una falta de control podría llevar a desórdenes significativos en la economía y la sociedad.
La discusión abarcó temas más allá de las aplicaciones conocidas de la IA, incluyendo sus capacidades para realizar tareas complejas y su inclinación hacia una mayor autonomía. Con esto, aumentaron las preocupaciones sobre la posible incapacidad de los humanos para mantener el control sobre sistemas que podrían evolucionar sin supervisión adecuada.
El científico Yoshua Bengio, por su parte, agregó que los peligros ya están presentes y requieren una respuesta colaborativa a nivel global, sugiriendo que la noción de una «carrera armamentista» en el campo de la IA podría intensificar los riesgos para la humanidad colectiva.