Un reciente informe encargado por el gobierno de los Estados Unidos y elaborado por Gladstone AI ha encendido las alarmas sobre los riesgos potenciales que la inteligencia artificial (IA) avanzada podría representar para la seguridad nacional y la humanidad. Este documento, que compara la amenaza de la IA con la introducción de armas nucleares, sugiere que estamos al borde de enfrentar riesgos de nivel de extinción si no se toman medidas decisivas y rápidas.
El informe, basado en conversaciones con más de 200 expertos, incluidos empleados de laboratorios de IA de vanguardia como OpenAI, Google DeepMind, Meta y Anthropic, revela una preocupación significativa entre los trabajadores de seguridad de IA sobre los incentivos perversos que guían la toma de decisiones de los ejecutivos que controlan sus compañías. Estas preocupaciones abarcan desde un enfoque laxo hacia la seguridad, motivado por el deseo de no ralentizar el trabajo en sistemas más potentes, hasta medidas de contención insuficientes para prevenir que una inteligencia general artificial (AGI) escape de su control.
Un informe encargado por el gobierno destaca los riesgos existenciales de la IA avanzada, equiparándolos con las armas nucleares.
El documento titulado «Un Plan de Acción para Aumentar la Seguridad y Seguridad de la IA Avanzada» recomienda una serie de acciones políticas radicales que, de implementarse, transformarían radicalmente la industria de la IA. Entre las recomendaciones se incluye hacer ilegal el entrenamiento de modelos de IA utilizando más de cierto nivel de potencia computacional, requerir que las compañías de IA en la «frontera» de la industria obtengan permiso gubernamental para entrenar y desplegar nuevos modelos por encima de un cierto umbral más bajo, y considerar urgentemente la prohibición de la publicación de los «pesos» o funcionamientos internos de modelos de IA poderosos, por ejemplo, bajo licencias de código abierto.
El informe fue encargado por el Departamento de Estado en noviembre de 2022 como parte de un contrato federal valorado en $250,000 y fue entregado al Departamento de Estado el 26 de febrero. Aunque las recomendaciones no reflejan las vistas del Departamento de Estado o del gobierno de los Estados Unidos, plantean un llamado urgente a la acción para evitar posibles desastres futuros asociados con el desarrollo descontrolado de la IA.
Esta llamada de atención llega en un momento crítico, donde el rápido desarrollo de sistemas de IA, como el chatbot ChatGPT, ha llevado a muchos a cuestionar si las futuras IA podrían representar riesgos existenciales para la humanidad. Mientras los gobiernos del mundo discuten cómo regular mejor la IA, las mayores compañías tecnológicas han estado construyendo rápidamente la infraestructura para entrenar la próxima generación de sistemas más poderosos, en algunos casos planeando usar 10 o 100 veces más potencia computacional.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
