La IA que ayuda a crear IA: el aviso de Anthropic no va de ciencia ficción

Anthropic ha puesto sobre la mesa una idea: la inteligencia artificial ya no solo responde preguntas o genera textos, también empieza a acelerar el desarrollo de nueva inteligencia artificial. En su análisis When AI builds itself, la compañía advierte de un escenario en el que los sistemas avanzados participen cada vez más en su propio ciclo de mejora. No estamos ante una IA “consciente” ni ante una máquina que despierte por arte de magia. El punto relevante es más técnico: qué ocurre cuando el software que diseña, programa, prueba y optimiza modelos empieza a hacerlo mejor que los equipos humanos.

El salto no es escribir código, es cerrar el ciclo de I+D

Que una IA escriba código ya no sorprende demasiado. GitHub Copilot, Claude Code, ChatGPT y herramientas similares han normalizado que un desarrollador delegue funciones, pruebas, refactorizaciones o documentación. La novedad es otra: Anthropic afirma que, en mayo, más del 80% del código incorporado a su propia base de código fue escrito por Claude.

Eso no significa que Claude “haga Anthropic” sin humanos. El matiz es importante. Normalmente hay revisión, integración, pruebas, criterio de producto y decisiones de arquitectura. Pero el dato sí muestra una tendencia clara: los modelos ya no son solo productos finales, sino herramientas internas que aceleran el trabajo de quienes construyen los siguientes modelos. Cuando esa ayuda se extiende a la programación, la evaluación, la generación de datos sintéticos, el análisis de fallos y la experimentación, el ciclo de I+D cambia de escala.

La auto-mejora recursiva no es magia, es un bucle de ingeniería

La expresión “auto-mejora recursiva” suena a ciencia ficción, pero se entiende mejor si la bajamos a ingeniería. Un sistema se vuelve recursivo cuando participa de forma relevante en la creación de una versión posterior de sí mismo o de otro sistema más capaz. Primero ayuda a los ingenieros. Después automatiza partes de la investigación. Más adelante podría proponer arquitecturas, diseñar pruebas, detectar cuellos de botella, generar datos de entrenamiento y validar resultados con menos intervención humana.

El riesgo no aparece de golpe. Hay una zona gris muy amplia entre “asistente de programación” y “sistema autónomo que construye sucesores”. Ahí está lo interesante. Anthropic no dice que la auto-mejora completa ya haya llegado, sino que las tendencias actuales podrían acercarnos a ese punto si los modelos adquieren capacidades parecidas a la creatividad técnica humana en investigación y desarrollo. Dicho de otra forma: el problema no es que una IA escriba una función. El problema es que pueda acelerar el proceso que produce IA más potente.

Por qué Anthropic habla de pausas coordinadas

La parte más política del aviso es la propuesta de una pausa coordinada y verificable entre laboratorios de IA de frontera. Anthropic plantea que, si los sistemas empiezan a mejorar sus propias capacidades más rápido de lo que la sociedad puede gestionar los riesgos, debería existir un mecanismo pactado para ralentizar o pausar el desarrollo.

Aquí aparece un dilema clásico de seguridad tecnológica. Si todos compiten por llegar antes, cada actor tiene incentivos para seguir acelerando aunque reconozca riesgos. Por eso Anthropic habla de reglas comunes, criterios de activación y mecanismos de verificación. Su Responsible Scaling Policy ya intenta vincular el avance de modelos más capaces con medidas de seguridad proporcionales, aunque el debate sobre si estas políticas son suficientes sigue abierto. La pregunta incómoda es quién define el umbral: ¿las empresas, los reguladores, organismos internacionales o una combinación de todos?

El riesgo práctico empieza antes de la superinteligencia

Conviene evitar dos errores. El primero es ridiculizar el tema porque suena exagerado. El segundo es convertirlo en apocalipsis instantáneo. Entre ambos extremos hay riesgos bastante terrenales: modelos que descubren vulnerabilidades, automatizan campañas de manipulación, diseñan ataques más baratos o generan herramientas que otros sistemas pueden reutilizar. No hace falta una superinteligencia para que eso sea relevante.

En Tecnoic ya hemos hablado de cómo los agentes de IA empiezan a usar webs y aplicaciones como una persona. Ese salto es relevante porque combina razonamiento, ejecución y acceso a entornos reales. Si a eso se suma la capacidad de mejorar herramientas de desarrollo, probar variantes y aprender de resultados, la supervisión humana se vuelve más compleja. Ya no basta con revisar una respuesta generada. Hay que auditar procesos, permisos, trazas, objetivos, datos y decisiones intermedias.

Empresas y administraciones deberían mirar la cadena de control

Para una empresa normal, el debate puede parecer lejano: “eso es cosa de Anthropic, OpenAI o Google”. Pero la lección práctica llega antes. Cada vez más organizaciones incorporan IA al desarrollo de software, a la ciberseguridad, a la atención al cliente o a procesos internos. La cuestión no es prohibir esas herramientas, sino gobernarlas bien.

Hay preguntas muy concretas que conviene hacerse. ¿Qué puede ejecutar el agente? ¿A qué repositorios accede? ¿Quién revisa sus cambios? ¿Puede modificar infraestructura? ¿Se registran sus acciones? ¿Hay entornos aislados de prueba? ¿Se controla qué datos usa para decidir?

La auto-mejora recursiva puede parecer un escenario de laboratorio, pero la dependencia operativa de herramientas de IA ya es real. Y cuanto más se integren en cadenas de desarrollo, despliegue y operación, más importante será separar productividad de delegación ciega.

Conclusión

El aviso de Anthropic no debe leerse como una profecía, sino como una señal de madurez del sector. La IA ya no es solo una interfaz conversacional: empieza a meterse en los talleres donde se fabrica la siguiente generación de IA. Eso puede acelerar avances útiles, pero también exige mejores controles, métricas y responsabilidades. La pregunta no es si debemos usar IA para crear software. La pregunta es hasta qué punto entendemos y gobernamos el bucle que estamos construyendo...