¿Y si la inteligencia artificial empieza a mejorar sin nosotros?, la posibilidad de sistemas capaces de automejorarse de forma recursiva ya no es solo teórica. El ritmo de inversión, la concentración de talento y la velocidad de mejora de los modelos hacen que este escenario esté cada vez más cerca de la realidad. De hecho, Jack Clark, cofundador de Anthropic, explicó recientemente que es necesario disponer de un “pedal de freno”, advirtiendo de que los desarrolladores podrían perder el control de estos sistemas a medida que evolucionan de forma cada vez más autónoma e imprevisible.
Si las IA llegaran a ser capaces de diseñar, entrenar y desplegar a sus propios sucesores, se abrirían escenarios potencialmente problemáticos. El más evidente es que los ingenieros ya no pudieran comprender plenamente cómo funcionan, lo que haría insuficientes los mecanismos actuales de regulación, auditoría y seguridad.
Al mismo tiempo, los errores o comportamientos incorrectos podrían amplificarse, ya que defectos de diseño podrían heredarse y amplificarse en generaciones posteriores, persiguiendo objetivos equivocados con gran eficacia, pudiendo generar desequilibrios económicos, militares o sociales de magnitud.
La automejora de la IA presenta riesgos considerables, pero también beneficios potencialmente si se planifica y gestiona adecuadamente, ya que podría acelerar significativamente los avances científicos y tecnológicos, facilitando el descubrimiento de nuevos materiales, medicamentos o fuentes de energía más allá de lo que los seres humanos somos capaces de concebir y diseñar. Este binomio riesgo potencialidad es lo que hay que considerar.
Si estamos más cerca de lo que se pensaba de sistemas capaces de automejorarse, quizá sea prudente ralentizar su desarrollo para comprender mejor sus implicaciones y orientarlo hacia el bien común, y no hacia los intereses de unos pocos. Sin necesidad de que la IA supere ampliamente la inteligencia humana, ya es plausible que pueda realizar la mayoría de las tareas intelectuales y físicas mejor que las personas. En ese escenario, surgen preguntas inevitables: ¿qué significará trabajar?, ¿cómo se distribuirá la riqueza?, ¿cómo debe transformarse la educación?
En este contexto conviene recordar que los seres humanos no somos solo inteligencia analítica: también somos conciencia, emoción y experiencia subjetiva. Características que las IA no poseen y que difícilmente llegarán a poseer. Sin embargo, esto no impide que dejemos de ser la principal fuente de inteligencia operativa en muchas áreas, ni que una pérdida de control sobre estos sistemas tenga consecuencias profundas.
Por ello es preciso entender que la IA ampliará nuestras capacidades como sociedad, si somos capaces de combinar innovación con responsabilidad y criterio ético sin sustituir nuestros valores, para construir un futuro donde la IA no nos reemplace, sino que nos ayude a ser más humanos.
