El chatbot Grok, desarrollado por la empresa xAI de Elon Musk e integrado en la red social X, acaba de cerrar la puerta a una de sus funciones más populares. Desde esta semana, solo los usuarios que pagan por una suscripción pueden generar o editar imágenes mediante la inteligencia artificial del asistente. Una decisión repentina, tomada tras días de controversia internacional.
Una herramienta que desbordó su marco
Hasta ahora, cualquier persona con cuenta en X podía pedirle a Grok que generara o modificara imágenes. El sistema tenía límites diarios, pero no exigía pago. Las peticiones se hacían desde la misma interfaz de la red social, en un movimiento que buscaba hacer de Grok un asistente visible, ágil y accesible. La idea funcionó, millones de usuarios empezaron a usar la función visual como parte del flujo cotidiano de la plataforma.
Sin embargo, el volumen de solicitudes dio paso al descontrol. La facilidad con la que se podía pedir una imagen —y la potencia del modelo para generarla— convirtieron a Grok en una vía rápida para producir contenido sexualizado, falsos desnudos y montajes que vulneraban la imagen de personas reales. Algunas peticiones llegaban a pedir «sangre» o «sonrisas forzadas» en retratos manipulados. La escalada fue rápida, y no pasó desapercibida.
Reacciones desde fuera (y desde dentro)
Gobiernos europeos y asiáticos comenzaron a reaccionar. En el Reino Unido, el ejecutivo tachó la situación de «insultante» y exigió medidas inmediatas. Indonesia fue más lejos, prohibió Grok por generar deepfakes sexuales que afectaban a mujeres y menores. Mientras tanto, la Comisión Europea exigió a X preservar datos internos como parte de una investigación en curso sobre su sistema de moderación.
En este contexto, la respuesta de Musk fue limitar el uso de la herramienta visual a quienes pagan por usar Grok en X. En práctica, esto significa que solo los suscriptores de la red social pueden generar imágenes desde el chatbot. Quienes no pagan reciben un aviso: la función está «limitada temporalmente».
La medida divide: control o negocio
La decisión no ha calmado los ánimos. Diversas organizaciones y portavoces oficiales acusan a X de haber convertido un problema de integridad en una oportunidad de negocio. «No es una solución, es un peaje», señaló un representante del gobierno británico. El problema, a ojos de muchos, no está en quién accede, sino en cómo se permite que la tecnología genere ciertos contenidos. A esto se suma el hecho relevante que, aunque X ha limitado el uso en su plataforma, la versión web y la app independiente de Grok siguen permitiendo la generación de imágenes sin coste. Es decir, el bloqueo no es técnico ni global, sino un cierre parcial centrado en la red social.
El foco se desplaza hacia el diseño
Más allá de la polémica sobre el modelo de negocio, la cuestión clave sigue siendo de diseño. Organismos europeos y expertos en regulación digital apuntan a la necesidad de sistemas que prevengan, desde el origen, la generación de contenidos lesivos o no consensuados. Y señalan que no basta con poner una suscripción como filtro. En paralelo, aumenta la presión sobre las tiendas de aplicaciones y las plataformas que alojan este tipo de herramientas. Si no se garantiza un uso seguro, algunas agencias regulatorias estudian pedir la retirada de estas apps.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
