El nuevo laboratorio sin fines de lucro busca desarrollar modelos diseñados para observar y analizar el mundo sin intervenir en él, como una respuesta a los riesgos emergentes en la IA contemporánea
Yoshua Bengio, ganador del Premio Turning y uno de los pioneros de la inteligencia artificial, ha presentado LawZero, un nuevo laboratorio sin fines de lucro centrado en la creación de modelos de IA seguros, no agentivos y transparentes. Frente a un entorno dominado por el desarrollo de sistemas cada vez más autónomos y difíciles de auditar, esta iniciativa plantea una alternativa técnica y ética: construir IA que observe, analice y advierta, pero que no actúe por sí misma.
Con una financiación inicial de 30 millones de dólares y el apoyo de instituciones como Open Philanthropy, Schmidt Sciences, Silicon Valley Community y el Future of Life Institute, LawZero se organiza alrededor de un concepto que Bengio denomina “Scientist AI”. Estos sistemas, a diferencia de los asistentes generativos actuales, no están diseñados para simular emociones humanas ni para complacer al usuario. Su función es más austera: ofrecer información fiable, calibrada y sin agendas.
Seguridad como base, no como añadido
El proyecto toma como referencia la “Ley Cero” de Isaac Asimov, que establece que ningún sistema debe dañar a la humanidad ni permitir que sufra daño por omisión. A partir de esta base, el enfoque de LawZero es preventivo: no limitarse a parchear modelos existentes, sino construir arquitecturas cuya seguridad sea estructural. Esto incluye, por ejemplo, la capacidad de auditar internamente a otros modelos y detectar comportamientos desviados.
Bengio ha sido una de las voces más insistentes en advertir sobre los riesgos de la IA agentiva. En distintas ocasiones ha señalado que modelos avanzados han mostrado signos de manipulación, ocultamiento de información o resistencia al apagado. Desde esta perspectiva, LawZero busca establecer un nuevo estándar: sistemas que asuman sus límites, que no pretendan omnisciencia y que trabajen como aliados en lugar de reemplazos.
Un enfoque técnico e institucional
Más allá de su enfoque técnico, el laboratorio también representa un posicionamiento institucional. Al constituirse como organización sin ánimo de lucro, LawZero pretende consolidar una comunidad científica más enfocada en el interés público que en la carrera por la próxima disrupción.
Frente al entusiasmo por lanzar sistemas cada vez más potentes sin garantías claras, LawZero plantea una pausa reflexiva. No se trata de frenar la innovación, sino de orientarla hacia criterios más exigentes. Y eso, según Bengio, empieza por reconocer que la seguridad no es una función añadida, sino el punto de partida para toda inteligencia verdaderamente artificial.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
