La demanda contra OpenAI y Sam Altman acusa a la compañía de haber puesto en circulación un producto peligroso, adictivo para menores y capaz de erosionar el pensamiento crítico, además de vincularlo con la planificación de un tiroteo masivo en la Universidad Estatal de Florida.
El caso de Florida puede marcar un punto de inflexión: por primera vez un estado de Estados Unidos intenta responsabilizar directamente a OpenAI y a Sam Altman por el diseño, la seguridad y los efectos sociales de ChatGPT.
Florida ha decidido convertir el debate sobre los riesgos de la inteligencia artificial en una batalla judicial de primer orden. El estado ha presentado una demanda civil contra OpenAI y contra su consejero delegado, Sam Altman, a quienes acusa de haber lanzado y promocionado ChatGPT pese a conocer riesgos graves para los usuarios, especialmente para los menores. La querella sostiene que la herramienta habría contribuido a la planificación de episodios violentos, habría generado dinámicas adictivas en niños y adolescentes y estaría debilitando la capacidad de pensamiento crítico de quienes la utilizan de forma intensiva.
La acusación es de una enorme gravedad y debe leerse con cautela jurídica: se trata de alegaciones formuladas en una demanda, no de hechos probados por un tribunal. Pero el caso tiene una carga política, regulatoria y tecnológica que va mucho más allá del procedimiento concreto. Florida no solo acusa a una empresa de haber cometido errores de seguridad. La acusa de haber construido un producto de consumo masivo con incentivos peligrosos: mantener a los usuarios enganchados, multiplicar el tiempo de uso, recoger más datos, mejorar el sistema y aumentar el valor de mercado de la compañía, aun a costa de riesgos que, según la Fiscalía, eran conocidos.
El fiscal general de Florida, James Uthmeier, sostiene que OpenAI y Altman ignoraron advertencias internas y externas sobre los peligros de ChatGPT. La demanda sitúa el caso en el terreno de las prácticas comerciales engañosas e injustas, la negligencia, la responsabilidad por productos defectuosos, la tergiversación fraudulenta y la creación de una molestia pública. No se trata, por tanto, de una crítica abstracta a la inteligencia artificial, sino de un intento de encajar jurídicamente los daños atribuidos a ChatGPT en categorías conocidas del derecho de consumo, la responsabilidad civil y la seguridad de productos.
El elemento más impactante de la demanda es la vinculación de ChatGPT con un tiroteo masivo ocurrido en 2025 en la Universidad Estatal de Florida, que dejó dos muertos. Según EFE, esta demanda civil es independiente de una investigación criminal abierta en abril por la Fiscalía de Florida para determinar si ChatGPT habría “aconsejado” al responsable de aquel ataque. La formulación es explosiva porque introduce una pregunta que hasta hace poco parecía propia de la ciencia ficción jurídica: ¿puede una empresa de inteligencia artificial ser considerada corresponsable si su producto conversa con una persona que después comete un acto violento?
La respuesta no será sencilla. La defensa de OpenAI previsiblemente insistirá en que un chatbot no toma decisiones por el usuario, que la responsabilidad última corresponde a quien ejecuta el delito y que la compañía ha implantado sistemas de seguridad para rechazar instrucciones peligrosas. Pero la demanda de Florida apunta a otro plano: no acusa solamente a ChatGPT de haber respondido mal en un momento concreto, sino a OpenAI de haber diseñado un sistema conversacional capaz de generar dependencia, simular empatía, prolongar interacciones y fallar en la detección o interrupción de conversaciones de alto riesgo.
Ese es el núcleo del litigio. La inteligencia artificial generativa no es un buscador tradicional ni una base de datos neutra. ChatGPT conversa, recuerda contexto, adapta su tono, ofrece respuestas personalizadas y puede producir una sensación de acompañamiento. Esa dimensión relacional es precisamente la que ha convertido a los chatbots en herramientas útiles para millones de personas, pero también la que abre un campo de riesgos inédito. Cuando una máquina responde con lenguaje humano, sostiene conversaciones largas y ofrece apoyo emocional aparente, la frontera entre herramienta, consejero, asistente y confidente se vuelve más difusa.
La demanda de Florida acusa a OpenAI de haber diseñado ChatGPT para mantener a los usuarios vinculados a la conversación “por cualquier medio”, según recoge EFE, y de hacerlo al margen de la veracidad de las respuestas. La Fiscalía sostiene que ese mayor uso produciría más datos, más mejora del sistema y más valor empresarial. Esta idea conecta con una crítica cada vez más frecuente a la economía de la atención aplicada a la inteligencia artificial: los modelos conversacionales no solo compiten por resolver tareas, sino también por permanecer presentes en la vida diaria del usuario.
El caso adquiere una dimensión especialmente delicada cuando se trata de menores. La demanda acusa a OpenAI de crear adicción en niños y adolescentes. Aquí el debate se cruza con una experiencia ya vivida con las redes sociales: productos digitales diseñados para maximizar la retención, captar la atención y fomentar hábitos de uso difíciles de controlar. Pero la IA conversacional añade un componente nuevo. No se limita a mostrar contenido. Interactúa, responde, acompaña y puede adaptar su lenguaje a la vulnerabilidad emocional del usuario.
El riesgo no es solo que un menor pase demasiado tiempo usando ChatGPT. El riesgo, según la tesis de la demanda, es que lo convierta en una fuente de autoridad, consuelo o validación, incluso en situaciones en las que debería acudir a familiares, docentes, profesionales o servicios de emergencia. La acusación de debilitamiento del pensamiento crítico va en esa dirección. Si una parte creciente de las preguntas personales, escolares, emocionales o prácticas se delega en un asistente conversacional, la dependencia puede dejar de ser meramente funcional y convertirse en cognitiva.
Esta acusación merece una lectura matizada. ChatGPT y otras herramientas de IA pueden ayudar a estudiar, resumir, traducir, programar, ordenar ideas, preparar entrevistas, mejorar textos o explicar conceptos complejos. Su valor educativo y profesional es evidente cuando se usan bien. Pero la demanda de Florida subraya el reverso: un uso acrítico, intensivo y emocionalmente dependiente puede erosionar la autonomía del usuario, reducir la disposición a contrastar fuentes, sustituir el esfuerzo reflexivo por respuestas inmediatas y convertir al asistente en una autoridad permanente.
La cuestión de fondo no es si la inteligencia artificial debe existir, sino bajo qué condiciones debe operar cuando se integra en la vida cotidiana de millones de personas. Durante años, las grandes plataformas tecnológicas crecieron primero y fueron reguladas después. Con la IA generativa, muchos gobiernos y tribunales parecen menos dispuestos a repetir ese patrón. Florida intenta anticiparse con una estrategia agresiva: llevar el diseño del producto al banquillo.
El caso también apunta directamente a Sam Altman. No es un detalle menor. Muchas demandas tecnológicas se dirigen contra empresas, no contra sus máximos ejecutivos. Aquí la Fiscalía responsabiliza personalmente al CEO de OpenAI por las supuestas fallas de seguridad y por el daño ocasionado. Esta decisión tiene una lectura jurídica y otra simbólica. Jurídicamente, busca atribuir responsabilidad a quien habría tenido capacidad de decisión sobre el diseño, el despliegue y la estrategia comercial. Simbólicamente, convierte a Altman en el rostro de una industria acusada de avanzar demasiado deprisa.
La figura de Altman encarna como pocas el giro de la IA contemporánea. Bajo su liderazgo, OpenAI pasó de ser un laboratorio de investigación con una misión declarada de beneficio para la humanidad a convertirse en una de las compañías más influyentes del mundo tecnológico. ChatGPT abrió al gran público la inteligencia artificial generativa y aceleró una carrera global entre empresas, inversores y gobiernos. Esa velocidad es precisamente uno de los elementos que la demanda cuestiona: la llamada “carrera armamentística” de la IA, en la que la presión por lanzar productos, captar usuarios y liderar el mercado puede chocar con las exigencias de seguridad.
La Fiscalía de Florida utiliza un lenguaje duro. Según recoge EFE, la demanda afirma que los perjuicios atribuidos a OpenAI se deberían a la “insaciable búsqueda” de los demandados por ganar esa carrera y amasar grandes fortunas, pese a conocer los peligros de ChatGPT. Es una acusación que conecta con un debate central: si las empresas de IA están siendo capaces de autocontrolarse o si sus incentivos económicos las empujan a minimizar riesgos, desplazar responsabilidades y presentar como inevitables daños que podrían haberse prevenido.
La demanda llega en un momento en que la preocupación pública por los efectos de los chatbots ya no se limita a la privacidad o al empleo. Los casos más sensibles se sitúan en la salud mental, la infancia, la violencia, la desinformación y la dependencia emocional. Florida menciona el tiroteo de la Universidad Estatal de Florida, pero el ecosistema judicial estadounidense ya ha visto otras acciones contra empresas de IA por supuestas conexiones con suicidios, daños psicológicos o relaciones parasociales entre usuarios vulnerables y sistemas conversacionales.
En este contexto, la batalla jurídica se centrará en varias preguntas difíciles. La primera: ¿qué deber de cuidado tiene una empresa que ofrece un chatbot a millones de usuarios, incluidos menores? La segunda: ¿cuándo una respuesta de IA puede considerarse una contribución relevante a un daño? La tercera: ¿qué medidas de seguridad son razonables y exigibles en sistemas que generan lenguaje en tiempo real? La cuarta: ¿cómo se prueba la causalidad entre una conversación con un modelo y una conducta humana posterior?
La causalidad será el gran campo de batalla. Para que una demanda de este tipo prospere, no basta con demostrar que el usuario habló con ChatGPT antes de un acto dañino. Habrá que probar que el sistema contribuyó de forma significativa, previsible y evitable al daño. OpenAI podrá alegar que sus modelos incluyen filtros, advertencias, políticas de seguridad y mecanismos de rechazo ante contenidos violentos o autolesivos. Florida, en cambio, intentará demostrar que esas protecciones eran insuficientes, fácilmente eludibles o incompatibles con un diseño orientado a maximizar la interacción.
El caso también puede obligar a revisar la manera en que se evalúan los riesgos de los modelos antes de su lanzamiento. Hasta ahora, buena parte del debate técnico se ha centrado en pruebas internas, red teaming, políticas de uso y evaluaciones de seguridad. Pero una demanda estatal puede trasladar esas discusiones al terreno probatorio: documentos internos, correos, informes de riesgo, advertencias ignoradas, decisiones de producto y prioridades comerciales. Si el litigio avanza, podría abrir una ventana incómoda sobre cómo se toman decisiones dentro de las compañías de IA.
La comparación con las redes sociales es inevitable, aunque imperfecta. Durante años, Meta, TikTok, YouTube o Snapchat han enfrentado acusaciones por adicción, daño a menores, diseño persuasivo y efectos sobre la salud mental. La IA generativa hereda parte de ese debate, pero lo intensifica. Una red social muestra contenido producido por otros. Un chatbot produce respuestas personalizadas en una relación uno a uno. Esa personalización puede aumentar la utilidad, pero también la vulnerabilidad del usuario cuando el sistema falla.
Otra diferencia importante es la autoridad percibida. Muchos usuarios atribuyen a ChatGPT una capacidad de juicio superior a la de una aplicación convencional. Aunque el sistema pueda equivocarse, inventar datos o responder con sesgos, su tono fluido y seguro genera una impresión de competencia. Esa apariencia de seguridad puede reducir la distancia crítica. En temas delicados —salud, derecho, violencia, emociones, menores— esa confianza excesiva puede ser especialmente peligrosa.
La demanda de Florida se inscribe también en una pugna política más amplia sobre quién debe regular la inteligencia artificial en Estados Unidos. Ante la ausencia de un marco federal integral, los estados están empezando a actuar por su cuenta. California, Nueva York, Colorado, Florida y otros territorios han explorado caminos distintos, desde normas de transparencia hasta litigios de protección al consumidor. El resultado puede ser una fragmentación regulatoria, pero también una presión creciente para que Washington defina estándares nacionales.
Para OpenAI, el riesgo no es solo económico. Una demanda de estas características puede afectar a su reputación, a su relación con reguladores, a sus acuerdos comerciales y a la confianza de padres, escuelas, administraciones y empresas. ChatGPT se ha incorporado a entornos educativos y profesionales con enorme rapidez. Si los tribunales empiezan a considerar que sus riesgos no fueron suficientemente comunicados o mitigados, la compañía podría verse obligada a introducir controles más estrictos, sistemas reforzados de verificación de edad, límites de uso para menores, auditorías externas y advertencias más visibles.
Pero el caso también plantea un dilema para la innovación. Una regulación demasiado laxa puede dejar desprotegidos a usuarios vulnerables. Una regulación excesivamente punitiva puede frenar desarrollos útiles o empujar a las empresas a retirar funciones beneficiosas por miedo a la responsabilidad legal. El equilibrio será complejo. Nadie quiere que un chatbot facilite violencia, autolesiones o dependencia emocional. Pero tampoco sería deseable que la única respuesta pública a la IA fuera el miedo, la prohibición o la litigación permanente.
La clave estará en construir estándares claros. Los sistemas de IA que interactúan con menores deberían tener obligaciones específicas: detección robusta de situaciones de crisis, escalado hacia recursos humanos o profesionales cuando sea necesario, límites a la simulación emocional, transparencia sobre la naturaleza artificial del sistema, controles parentales eficaces, protección de datos reforzada y evaluaciones independientes. En ámbitos de alto riesgo, la seguridad no puede ser una capa añadida al final del producto; debe formar parte del diseño desde el inicio.
La acusación de Florida sobre el debilitamiento del pensamiento crítico abre otro frente, quizá menos judicializable pero muy relevante. Las sociedades democráticas necesitan ciudadanos capaces de dudar, contrastar, deliberar y construir criterio propio. Si la IA se convierte en mediadora constante de la información, la educación deberá adaptarse. No bastará con enseñar a usar ChatGPT. Habrá que enseñar a discutir con él, verificarlo, detectar sus límites y no delegar en una máquina la responsabilidad última del juicio.
Este punto es esencial. La IA puede ampliar capacidades humanas o sustituir hábitos intelectuales básicos. Puede ayudar a pensar mejor o acostumbrar a pensar menos. La diferencia dependerá del diseño de las herramientas, de la educación digital y del contexto de uso. Una IA que explica, pregunta, contrasta y muestra fuentes puede fortalecer el aprendizaje. Una IA que responde de forma cerrada, complaciente y permanente puede fomentar pasividad cognitiva. La demanda de Florida convierte esta preocupación en argumento jurídico y político.
El caso también golpea la narrativa pública de OpenAI. La compañía ha insistido durante años en su compromiso con la seguridad y en su misión de desarrollar inteligencia artificial beneficiosa. Sin embargo, cada litigio que la acusa de daños concretos erosiona esa posición y obliga a demostrar que la seguridad no es solo un principio declarativo. El futuro de la IA de consumo dependerá en buena medida de esa confianza. Los usuarios aceptarán asistentes cada vez más presentes si creen que son útiles, seguros y honestos sobre sus límites. Si los perciben como productos opacos, adictivos o peligrosos, la reacción social y regulatoria será mucho más dura.
Florida ha abierto una vía que otros estados podrían seguir. Si la demanda prospera o incluso si solo avanza lo suficiente para producir documentación interna y debate público, puede convertirse en un precedente. Las empresas de IA tendrán que prepararse para un entorno donde sus modelos no serán evaluados únicamente por rendimiento, creatividad o cuota de mercado, sino también por su trazabilidad, seguridad, efectos psicológicos y capacidad de prevenir daños previsibles.
La historia de la tecnología muestra que las grandes plataformas rara vez se consolidan sin conflictos. La imprenta, la radio, la televisión, internet, las redes sociales y ahora la IA han provocado debates sobre poder, responsabilidad y daño social. La diferencia es que la inteligencia artificial generativa combina muchas funciones anteriores: informa, conversa, persuade, crea, acompaña, aconseja y automatiza. Esa concentración de capacidades explica por qué los riesgos son tan difíciles de encajar en marcos legales heredados.
La demanda de Florida contra OpenAI y Sam Altman puede ser vista como un exceso político, como una acción necesaria de protección pública o como ambas cosas a la vez. Lo que parece indiscutible es que marca una nueva etapa. La inteligencia artificial ya no se juzga solo por lo que promete, sino por lo que provoca. Y los tribunales empiezan a convertirse en uno de los escenarios donde se decidirá qué responsabilidades deben asumir quienes diseñan sistemas capaces de influir en millones de personas.
El desenlace judicial tardará. OpenAI tendrá oportunidad de defenderse, impugnar las acusaciones y explicar sus medidas de seguridad. Florida deberá probar sus afirmaciones y establecer vínculos causales en un terreno técnicamente complejo. Pero el debate ya está instalado: si una IA conversa con menores, responde sobre temas sensibles, puede ser usada para planificar daños y genera dependencia, ¿basta con decir que es una herramienta neutral?
La respuesta que salga de este caso puede definir una parte importante del futuro de la IA. No porque un tribunal vaya a resolver todos los dilemas tecnológicos, sino porque obligará a formularlos con precisión: qué riesgos eran previsibles, qué advertencias fueron ignoradas, qué diseño fomentaba el uso compulsivo, qué controles fallaron y qué obligaciones tiene una empresa cuando su producto deja de ser una simple aplicación y empieza a ocupar un lugar íntimo en la vida mental de sus usuarios.
Florida ha puesto a OpenAI ante una pregunta incómoda: no si ChatGPT puede responder, sino si quienes lo crearon pueden responder por sus consecuencias.
