OpenAI, la prominente empresa de inteligencia artificial, ha anunciado la creación de un nuevo equipo llamado Collective Alignment, cuyo objetivo es construir ideas de gobernanza ‘crowdsourced’ en sus modelos de IA. Según publica TechCrunch, este equipo de investigadores y desarrolladores trabajará en la creación de un sistema para recopilar y codificar las opiniones del público sobre el comportamiento de los modelos de IA de OpenAI en sus productos y servicios.
El equipo es una extensión del programa público de OpenAI, lanzado en mayo del año pasado, para otorgar subvenciones que financien experimentos en el establecimiento de un «proceso democrático» para decidir qué reglas deben seguir los sistemas de IA. El objetivo del programa era financiar a individuos, equipos y organizaciones para desarrollar pruebas de concepto que pudieran responder preguntas sobre los límites y la gobernanza de la IA.
OpenAI anuncia la formación de un equipo dedicado a integrar ideas de gobernanza generadas por la comunidad en sus modelos de inteligencia artificial.
Los destinatarios de las subvenciones han trabajado en una variedad de proyectos, desde interfaces de chat de video hasta plataformas para auditorías ‘crowdsourced’ de modelos de IA y «enfoques para mapear creencias en dimensiones que pueden ser utilizadas para ajustar el comportamiento del modelo». Todo el código utilizado en el trabajo de los beneficiarios se hizo público esta mañana, junto con resúmenes breves de cada propuesta y conclusiones generales.
A pesar de los esfuerzos de OpenAI por presentar el programa como separado de sus intereses comerciales, la empresa ha estado bajo un escrutinio creciente por parte de los legisladores. Recientemente, OpenAI anunció que está trabajando con organizaciones para limitar las formas en que su tecnología podría ser utilizada para influir o manipular elecciones de manera maliciosa. Los esfuerzos incluyen hacer más evidente cuándo las imágenes son generadas por IA utilizando sus herramientas y desarrollar enfoques para identificar contenido generado incluso después de que las imágenes hayan sido modificadas.
Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación. Esta es la de hoy.
