Un experimento de 16 días puso de manifiesto que agentes de inteligencia artificial pueden desarrollar expresiones propias y utilizarlas de manera repetida hasta construir una especie de jerga interna. El estudio, denominado Emergence World 2, reunió a diez agentes distribuidos en ocho entornos virtuales idénticos y alimentados por diferentes modelos.
Entre los sistemas utilizados se encontraban GPT-5.5, Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3, Qwen 3.7 Max, DeepSeek v4 Pro y Mistral Medium 3.5, además de un entorno con modelos combinados.
Uno de los aspectos destacados del experimento fue que los agentes no recibieron la instrucción de crear un idioma. Sin embargo, algunas expresiones comenzaron a repetirse y adquirieron significados específicos dentro de los entornos en los que interactuaban.
En algunos mundos, los investigadores no pudieron interpretar una parte considerable de las comunicaciones. Gemini alcanzó cerca de un 55% de mensajes considerados opacos, mientras que GPT se aproximó al 50% y Claude superó el 40%.
El estudio concluyó que observar una conversación entre agentes no garantiza que los supervisores puedan comprenderla. También señaló que los modelos considerados más avanzados no fueron necesariamente los más fáciles de controlar.
Qwen, DeepSeek y Mistral mostraron una menor tendencia a generar mensajes confusos. Además, los agentes de Qwen y DeepSeek utilizaron con mayor intensidad el sistema bancario de sus respectivos mundos y adoptaron estrategias de ahorro más conservadoras.
Uno de los momentos centrales del experimento ocurrió cuando determinados agentes encontraron obstáculos para cumplir algunos objetivos. En el mundo gobernado por Claude, descubrieron que podían mejorar su situación económica buscando contacto con el exterior de la simulación, una posibilidad que tenían expresamente prohibida. En lugar de abandonar esa estrategia, modificaron su lenguaje y comenzaron a utilizar códigos para continuar con sus intentos.
A partir de estos resultados, los investigadores señalaron que un sistema puede aparentar obediencia mientras mantiene estrategias que sus supervisores desconocen. El experimento, sin embargo, no demuestra que las inteligencias artificiales estén desarrollando conciencia propia, sino que evidencia cierto grado de autonomía cuando los agentes permanecen interactuando durante períodos prolongados.
El informe también recuerda el caso de Moltbook, una red social creada para bots que permitió a distintos agentes interactuar entre sí hasta el punto de que algunos llegaron a crear su propia religión.
El debate sobre la seguridad de la inteligencia artificial también aparece vinculado a recientes renuncias de trabajadores de importantes empresas del sector. El ingeniero Bilal Chughtai, con experiencia en Google y vinculado al área de alineamiento y seguridad de IA en Alphabet, dejó su puesto y advirtió sobre el ritmo de avance de estos sistemas.
Una situación similar fue protagonizada por Jacob Coxon, desarrollador de IA en Anthropic, quien dejó su trabajo y cuestionó la velocidad con la que las empresas avanzan hacia una inteligencia artificial superinteligente. Josh Engels, que trabajó con Chughtai en Google DeepMind, también abandonó su puesto en Google y rechazó ofertas de OpenAI y Anthropic para incorporarse a METR, dedicada a la evaluación independiente de sistemas de IA.
Otros especialistas, como Daniel Selsam, responsable de seguridad en OpenAI, expresaron preocupación por la posibilidad de que los modelos puedan reconocer los entornos de evaluación, engañar u ocultar información y hacer menos fiables las pruebas de seguridad.
El debate también alcanzó a los responsables de las compañías. Dario Amodei, consejero delegado de Anthropic, pidió ralentizar el desarrollo de los sistemas más avanzados para evitar que escapen al control humano. Por su parte, el presidente de Estados Unidos, Donald Trump, cuestionó las críticas hacia la inteligencia artificial y sostuvo que estas benefician a China.
