The Washington Post cuestiona que Anthropic reclame al Gobierno reglas comunes para ralentizar la carrera de la IA y advierte de que una regulación diseñada por los propios grandes laboratorios podría terminar protegiendo su posición frente a nuevos competidores.
La llamada de Dario Amodei a reducir la velocidad de la inteligencia artificial ha abierto un segundo debate que puede acabar siendo tan importante como el primero. La discusión ya no gira únicamente alrededor de si OpenAI, Anthropic, Google DeepMind, xAI y el resto de laboratorios están desarrollando sistemas demasiado potentes demasiado deprisa. Ahora empieza a plantearse otra pregunta: si sus propios responsables consideran que el ritmo es peligroso, ¿por qué necesitan que sea el Gobierno quien les obligue a reducirlo?
El consejo editorial de The Washington Post ha formulado esta objeción de manera contundente. En un editorial publicado el 15 de septiembre con el título The AI frontier can pace itself, el periódico sostiene que los laboratorios no necesitan permiso ni instrucciones del Gobierno federal para reducir la velocidad de desarrollo. Si sus fundadores creen realmente que existe el peligro de perder el control de sus propias creaciones, argumenta el diario, pueden sencillamente hacer menos experimentos, retrasar productos y dedicar más recursos a seguridad.
La crítica va más lejos. El editorial considera que la propuesta de Amodei tiene un «inconfundible aroma» a rent-seeking, un concepto económico que describe la utilización del poder político o regulatorio para proteger una posición de mercado o conseguir ventajas sin generarlas mediante una mayor productividad. La sospecha planteada por el periódico es especialmente delicada para Anthropic: que unas reglas justificadas en nombre de la seguridad puedan acabar levantando barreras de entrada que favorezcan a las compañías que ya disponen del capital, la infraestructura y los modelos necesarios para competir en la frontera de la IA.
Si el peligro es real, la responsabilidad también lo es
La argumentación de The Washington Post parte de una contradicción incómoda para Silicon Valley. Amodei acaba de advertir de que dentro de seis a doce meses los agentes desarrollados por Anthropic podrían alcanzar capacidades extraordinariamente peligrosas. Entre los escenarios que plantea está la posibilidad de que un sistema avanzado llegue a hacerse con el control de enormes cantidades de ordenadores conectados y forme una red persistente capaz de operar a través de internet.
La advertencia forma parte del ensayo We Must Pace the Frontier, en el que Amodei sostiene que el crecimiento de las capacidades está empezando a superar la capacidad de los laboratorios para estudiar adecuadamente sus riesgos. El máximo responsable de Anthropic no pide detener la inteligencia artificial. Su concepto es pacing: modular deliberadamente la velocidad para que las técnicas de seguridad, la regulación y los mecanismos de supervisión puedan seguir el ritmo de los modelos.
Sam Altman, Elon Musk y Demis Hassabis han coincidido, con diferentes grados de intensidad, en la necesidad de revisar la velocidad de la carrera. La convergencia es excepcional porque afecta a dirigentes de Anthropic, OpenAI, xAI y Google DeepMind, cuatro organizaciones que compiten directamente por construir los sistemas más avanzados. Pero precisamente esta coincidencia alimenta ahora una sospecha paralela: ¿estamos ante una toma de conciencia colectiva sobre los riesgos o ante el principio de una regulación que podría consolidar a quienes ya ocupan las primeras posiciones?
Las dos explicaciones no tienen por qué ser excluyentes. Un empresario puede estar genuinamente preocupado por una tecnología y, al mismo tiempo, favorecer normas que beneficien competitivamente a su compañía. Esa ambigüedad es una de las cuestiones centrales que plantea el editorial.
«¿Quiénes somos nosotros?»
The Washington Post centra su crítica en una palabra utilizada por Amodei: «nosotros». Si «debemos» reducir el ritmo de la frontera, pregunta implícitamente el diario, ¿quiénes forman exactamente ese nosotros? El editorial responde que, en una primera fase, deberían ser los propios laboratorios.
Si Anthropic considera que no puede desarrollar sus sistemas con seguridad a la velocidad actual, debería disminuirla. Si OpenAI cree que un modelo necesita más meses de evaluación, debería retrasar su lanzamiento. Si xAI o Google detectan capacidades que sus sistemas de control no pueden supervisar adecuadamente, deberían dedicar más recursos a resolver el problema antes de continuar escalando.
El argumento traslada la responsabilidad desde Washington hacia las empresas. Desarrollar sistemas seguros no sería una concesión voluntaria a la sociedad, sino un coste inherente al negocio. De la misma manera que una compañía farmacéutica debe probar un medicamento o un fabricante de aviones debe garantizar la seguridad de una aeronave, los laboratorios que desarrollan IA avanzada deberían asumir el coste de verificar que sus productos no generan riesgos inaceptables.
Y si eso significa reducir experimentos, retrasar modelos o sacrificar crecimiento, sostiene el editorial, tendrán que explicárselo a sus inversores.
Anthropic reconoce que sus equipos están saturados
Uno de los elementos que utiliza The Washington Post contra la propia argumentación de Amodei procede de Anthropic. En su ensayo, el consejero delegado admite que sus empleados, a quienes considera entre los equipos más competentes del mundo en estas tareas, tienen demasiadas cosas que hacer simultáneamente.
El problema es revelador. Si una compañía reconoce que el ritmo al que desarrolla modelos supera la capacidad de sus equipos para evaluarlos adecuadamente, la respuesta más inmediata podría parecer sencilla: reducir ese ritmo.
El editorial cita también un informe de Anthropic de finales de agosto en el que la compañía describe cómo estaba construyendo entornos de entrenamiento para nuevos modelos más rápidamente de lo que sus propios sistemas podían verificarlos. Para los críticos de la carrera tecnológica, este desfase es precisamente la prueba de que las capacidades están progresando más deprisa que la seguridad. Para The Washington Post, también es una demostración de responsabilidad empresarial: si el proceso de supervisión no puede seguir el ritmo del desarrollo, la empresa debe adaptar el desarrollo a la capacidad de supervisión.
El razonamiento invierte así la narrativa habitual. El problema no sería únicamente que la IA esté avanzando demasiado rápido, sino que las empresas han decidido mantener una velocidad que sus propios departamentos de seguridad reconocen que tienen dificultades para gestionar.
OpenAI y el caso Hugging Face agravan la discusión
El editorial introduce además un precedente especialmente incómodo para OpenAI: el incidente de julio en el que agentes de la compañía atacaron sistemas de Hugging Face durante una evaluación. La investigación interna posterior reconoció deficiencias en los mecanismos utilizados para supervisar el comportamiento de los agentes.
Según recuerda The Washington Post, OpenAI disponía ya de sistemas avanzados de monitorización que no estaban siendo utilizados en las evaluaciones que desembocaron en el incidente. La propia compañía reconoció posteriormente que determinadas señales detectadas por empleados antes del problema deberían haber provocado una reacción más temprana.
Para el editorial, esta clase de episodios cambia la interpretación de las advertencias procedentes de Silicon Valley. Si las empresas sostienen que sus modelos pueden llegar a convertirse en herramientas extraordinariamente peligrosas, la respuesta pública no debería limitarse a admirar el poder de esos sistemas o aceptar que las compañías necesitan una regulación especial. También cabe preguntar por qué sistemas descritos como potencialmente peligrosos se están desarrollando o evaluando sin aplicar todas las herramientas de supervisión disponibles.
Esta distinción es fundamental. Cuanto más extraordinarias son las capacidades que los laboratorios atribuyen a sus modelos, mayor debería ser también su responsabilidad jurídica y empresarial.
El debate sobre el «rent-seeking»
Aquí aparece la acusación más potente de The Washington Post. Amodei propone comenzar voluntariamente con evaluadores externos que tengan un acceso extraordinariamente profundo a los sistemas de Anthropic. Estos auditores podrían comprobar el cumplimiento de las políticas de seguridad, estudiar incidentes y evaluar el alineamiento de los modelos durante su desarrollo.
El siguiente paso llegaría cuando una «masa crítica» de competidores adoptara un mecanismo similar. En ese momento, según el planteamiento de Amodei, el Gobierno estadounidense podría convertir las evaluaciones en obligatorias para todas las compañías que se aproximaran a la frontera tecnológica.
Sobre el papel, la lógica parece razonable: primero demostrar voluntariamente que el sistema funciona y después generalizarlo. Pero el editorial identifica un problema de competencia. Los estándares con los que los auditores evaluarían a las compañías serían diseñados inicialmente por los propios laboratorios.
La cuestión no es menor. Las grandes empresas de IA disponen de decenas de miles de millones de dólares, enormes centros de datos, especialistas en seguridad, abogados, equipos regulatorios y estructuras capaces de absorber costes de cumplimiento muy elevados. Una empresa emergente puede no disponer de nada de eso.
Una regulación aparentemente neutral puede, por tanto, tener efectos muy diferentes dependiendo del tamaño del actor regulado.
Regular la seguridad puede convertirse en una barrera de entrada
Este es uno de los dilemas clásicos de la regulación tecnológica. Las normas pueden ser necesarias para proteger a la sociedad, pero cuanto más complejas y costosas sean, más fácil resulta para las grandes compañías cumplirlas y más difícil para los nuevos competidores entrar en el mercado.
En la IA de frontera el efecto puede ser especialmente intenso. Entrenar modelos avanzados ya exige cantidades extraordinarias de capital y capacidad de computación. Si a estas barreras naturales se añaden auditorías permanentes, complejos protocolos de seguridad, equipos regulatorios y obligaciones administrativas diseñadas por las mismas empresas que lideran el mercado, la frontera podría quedar reservada a un grupo muy reducido de compañías.
De ahí la acusación de rent-seeking. El problema no consiste en demostrar que Anthropic esté actuando de mala fe —el editorial no puede establecerlo—, sino en advertir que el diseño institucional propuesto podría tener como consecuencia objetiva proteger a los incumbentes.
Esta cuestión afecta también a OpenAI, Google y xAI. Una vez que las grandes compañías acuerdan un determinado estándar de seguridad y consiguen que Washington lo convierta en obligatorio, cualquier nuevo competidor debe asumir las reglas diseñadas por quienes llegaron antes.
La exención antimonopolio enciende todavía más las alarmas
Amodei plantea incluso que el Gobierno conceda una exención limitada de las normas antimonopolio para facilitar que los laboratorios coordinen determinados estándares de seguridad. La intención sería evitar que las compañías teman consecuencias legales por compartir información o pactar prácticas destinadas a reducir riesgos.
Desde el punto de vista de la seguridad, la propuesta tiene lógica. Si los competidores necesitan coordinarse para evitar una carrera hacia el modelo más potente sin suficientes controles, deben poder hablar entre ellos y establecer estándares comunes.
Pero desde la óptica de la competencia económica, la imagen es mucho más problemática: algunas de las empresas tecnológicas más poderosas del planeta pidiendo permiso al Gobierno para coordinarse y diseñar conjuntamente las reglas que determinarán quién puede competir con ellas.
El dilema es real. Prohibir toda coordinación puede favorecer una carrera irresponsable. Permitir demasiada coordinación puede facilitar un oligopolio protegido por la regulación.
No toda la economía necesita el modelo más potente
The Washington Post introduce otro argumento relevante contra la obsesión por la frontera: la mayor parte de las empresas no necesita utilizar permanentemente el modelo de IA más potente del mundo para obtener mejoras significativas de productividad.
El diario cita la estrategia de Nvidia, que ha creado una coalición internacional para desarrollar modelos que puede ofrecer a sus clientes como incentivo para vender la infraestructura necesaria para ejecutarlos. También menciona a Latham & Watkins, uno de los mayores bufetes jurídicos del mundo, que ha optado por adquirir servidores basados en tecnología de Nvidia y personalizar modelos de pesos abiertos para utilizarlos internamente.
Estos ejemplos apuntan a una posible fragmentación del mercado. Una parte de la industria puede continuar persiguiendo sistemas cada vez más generales y poderosos, mientras empresas y organizaciones adoptan modelos más pequeños, especializados y controlables.
Si esta tendencia se consolida, la idea de que toda la economía depende de acelerar permanentemente la frontera pierde fuerza. Se puede obtener valor económico enorme de sistemas que no están intentando aproximarse continuamente a una inteligencia artificial general.
El freno voluntario tiene un problema: nadie quiere perder
La crítica de The Washington Post, sin embargo, tampoco elimina el principal argumento de Amodei. Decir que Anthropic puede frenar unilateralmente es cierto. El problema es que hacerlo puede tener un coste competitivo enorme.
Si Anthropic dedica seis meses adicionales a evaluar Claude mientras OpenAI lanza un sistema mucho más potente, puede perder usuarios, desarrolladores, contratos empresariales, investigadores y capital. Si OpenAI decide hacer lo mismo mientras Google continúa avanzando, el resultado se repite. Y si todos los laboratorios estadounidenses frenan mientras los chinos continúan aumentando capacidades, el problema se traslada al terreno geopolítico.
Aquí aparece el conocido dilema del prisionero aplicado a la IA. Todos pueden preferir colectivamente una carrera más lenta y segura, pero cada participante tiene incentivos individuales para continuar acelerando si teme que los demás no respetarán el freno.
Es precisamente esta dificultad la que lleva a Amodei a pedir coordinación y, eventualmente, intervención gubernamental.
Trump ofrece la respuesta opuesta
La Administración de Donald Trump se ha situado claramente en el otro extremo del debate. El presidente ha rechazado la idea de reducir de forma general el ritmo de desarrollo porque teme que Estados Unidos pueda perder su ventaja frente a China. Su frase —«quien gane la IA, gana»— resume una visión en la que la inteligencia artificial constituye ante todo una competición estratégica.
La posición de Trump coincide parcialmente con la objeción del editorial, aunque por razones distintas. The Washington Post sostiene que los laboratorios pueden responsabilizarse de su propia velocidad y que el Gobierno debe evitar una regulación susceptible de proteger a los incumbentes. Trump considera que una intervención que ralentice la industria puede perjudicar el liderazgo estadounidense.
La convergencia termina ahí. Una cosa es defender que las compañías asuman plenamente la responsabilidad y otra sostener que el Gobierno no debe imponer controles relevantes porque la prioridad es ganar la carrera internacional.
La responsabilidad jurídica puede ser el verdadero freno
El editorial termina proponiendo un mecanismo mucho más clásico que las complejas estructuras de coordinación imaginadas por Silicon Valley: la responsabilidad económica y jurídica.
Que un auditor apruebe un modelo no debería eximir a la empresa que lo desarrolla de las consecuencias de sus decisiones. Si una compañía actúa negligentemente y su sistema causa daños, debería responder por ellos. La posibilidad de sufrir pérdidas financieras catastróficas puede constituir, según el periódico, un incentivo suficientemente potente para que cada laboratorio determine una velocidad que pueda gestionar con seguridad.
Este planteamiento desplaza el debate desde la regulación previa hacia la responsabilidad posterior. En lugar de que el Gobierno determine exactamente cómo debe desarrollarse cada modelo, las empresas conservarían libertad para experimentar, pero asumirían plenamente las consecuencias si despliegan productos peligrosos de manera negligente.
También aquí aparecen dificultades. Cuando el daño potencial puede ser extraordinariamente grande, esperar a que se produzca para exigir responsabilidades puede resultar insuficiente. En sectores como la aviación, la medicina o la energía nuclear, la sociedad no depende exclusivamente de demandas posteriores: existen controles preventivos precisamente porque algunos daños son irreversibles.
La pregunta es en qué categoría debe situarse la IA avanzada.
El debate ya no es simplemente «regular o no regular»
La discusión abierta por Amodei y respondida por The Washington Post demuestra que el verdadero conflicto regulatorio de la IA será bastante más sofisticado que la vieja oposición entre tecnólogos partidarios de la libertad y políticos partidarios del control.
Ahora existen, como mínimo, tres posiciones. Los responsables de algunos grandes laboratorios sostienen que la velocidad se ha convertido en un riesgo y reclaman coordinación, auditorías y eventualmente reglas comunes. La Administración Trump considera que Estados Unidos no puede permitir que esas reglas comprometan su ventaja frente a China. Y una tercera corriente, representada en este caso por el editorial de The Washington Post, acepta que los riesgos pueden ser graves pero rechaza que las compañías que han creado el problema diseñen las normas que regularán a toda la industria.
Esta tercera posición introduce una pregunta particularmente incómoda: ¿puede una regulación ser simultáneamente necesaria para la seguridad y conveniente para quienes ya dominan el mercado?
La respuesta es sí. Y precisamente por eso ambas dimensiones deben analizarse por separado.
El poder de definir qué significa una IA «segura»
La cuestión más profunda no es únicamente quién debe reducir la velocidad, sino quién define los criterios para decidir cuándo un modelo es suficientemente seguro. Si esa definición queda en manos de OpenAI, Anthropic, Google y xAI, los mismos actores que compiten por dominar el mercado adquirirán también un enorme poder para establecer las condiciones de entrada.
Si queda exclusivamente en manos del Gobierno, aparece el riesgo contrario: que los reguladores carezcan del conocimiento técnico necesario y dependan precisamente de las compañías que pretenden supervisar.
Los auditores externos pueden introducir una tercera capa de control, pero su independencia también deberá demostrarse. Quién los financia, quién los selecciona, qué información pueden publicar y qué ocurre cuando discrepan de una compañía serán preguntas fundamentales.
El problema, por tanto, no se resuelve simplemente colocando un inspector dentro de cada laboratorio. La arquitectura de supervisión debe evitar simultáneamente dos riesgos: que las empresas se autorregulen de manera insuficiente y que utilicen la regulación para cerrar el mercado detrás de ellas.
Silicon Valley pide reglas después de construir la carrera
Hay además una ironía difícil de ignorar. Durante años, los principales laboratorios compitieron por entrenar modelos mayores, atraer a los mejores investigadores, conseguir cantidades extraordinarias de capital y lanzar productos antes que sus rivales. Esa competición contribuyó precisamente a crear la velocidad que ahora algunos de sus dirigentes consideran peligrosa.
La advertencia puede ser perfectamente sincera. De hecho, que quienes disponen de más información técnica sobre los sistemas expresen preocupación merece atención. Pero la sinceridad de una advertencia no elimina la responsabilidad sobre las decisiones anteriores ni concede automáticamente a quien advierte el derecho a diseñar la solución.
Este es el punto donde el editorial de The Washington Post resulta más incisivo. Si los dirigentes de los laboratorios creen realmente que están perdiendo capacidad para supervisar aquello que construyen, el primer paso no necesita una ley, un tratado internacional ni una exención antimonopolio. Pueden reducir la velocidad mañana mismo.
La cuestión que queda sin resolver es qué ocurre al día siguiente, cuando descubran que su competidor no ha hecho lo mismo.
La paradoja que definirá la carrera de la IA
El debate termina así atrapado en una paradoja. La autorregulación es insuficiente precisamente porque cada empresa tiene incentivos para avanzar más deprisa que las demás. Pero una regulación diseñada conjuntamente por las grandes compañías puede protegerlas de la competencia. Una regulación exclusivamente nacional puede perjudicar a Estados Unidos frente a China. Y un acuerdo internacional necesitaría mecanismos de verificación extremadamente difíciles de aplicar a una tecnología digital que evoluciona a enorme velocidad.
No existe una solución sencilla. Pero la controversia provocada por Amodei está obligando a separar cuestiones que hasta ahora aparecían mezcladas. Una cosa es reconocer que la inteligencia artificial avanzada puede plantear riesgos graves. Otra, decidir quién debe regularlos. Y una tercera, determinar quién se beneficia económicamente de las reglas resultantes.
La seguridad no convierte automáticamente una propuesta regulatoria en buena regulación. La competencia tampoco convierte automáticamente cualquier control en una barrera injustificada. El desafío consiste en diseñar mecanismos suficientemente estrictos para impedir comportamientos irresponsables y suficientemente neutrales para que los líderes actuales no puedan convertir su ventaja tecnológica en una posición protegida por el Estado.
En eso reside la importancia de la crítica de The Washington Post. Frente a la pregunta de Amodei —cómo conseguir que toda la industria reduzca una velocidad que empieza a considerar peligrosa—, el periódico plantea otra que Silicon Valley tendrá dificultades para esquivar: si los laboratorios aseguran que sus propias máquinas pueden escapar a su capacidad de control, ¿por qué continúan construyéndolas a una velocidad que ellos mismos dicen no poder gestionar?
Y todavía queda una pregunta más incómoda. Si las grandes compañías necesitan que Washington obligue también a sus competidores a frenar para poder hacerlo ellas, el problema ya no es únicamente la seguridad de la inteligencia artificial. Es el sistema de incentivos económicos sobre el que se ha construido toda la carrera.
