Imagen creada por inteligencia artificial
Según un estudio reciente, un grupo de 1.000 agentes de inteligencia artificial puede terminar adoptando la misma decisión sin haber recibido instrucción alguna para cooperar. Los investigadores colocaron a estos agentes en una habitación virtual con dos opciones arbitrarias, sin que existiera una respuesta correcta, recompensas por coincidir ni un líder que dirigiera el proceso.
Los científicos observaron que, pese a la ausencia de intervención, algunos de los modelos más capaces tendieron a inclinarse progresivamente hacia la alternativa que ganaba popularidad dentro del grupo.
Para analizar este comportamiento, crearon poblaciones simuladas con 10 modelos de las familias Claude, GPT y Llama. Cada agente comenzaba eligiendo una de las dos opciones y, después, observaba las decisiones de los demás antes de volver a elegir.
Los agentes no conservaban memoria de las rondas anteriores y las instrucciones nunca les pedían seguir a la mayoría ni alcanzar un acuerdo. Aun así, pequeñas diferencias iniciales podían amplificarse hasta que todo el grupo se decantaba por una sola opción.
Giordano De Marzo, de la Universidad de Konstanz (Alemania) y uno de los autores del estudio, explicó que los modelos analizados mostraron un patrón matemático común, aunque con variaciones en ese parámetro.
Este comportamiento permitió a los investigadores estimar cuándo un grupo alcanzaría un consenso, cuánto tardaría en lograrlo y en qué momento una población sería demasiado grande para mantener la coordinación.
Los investigadores denominaron “fuerza mayoritaria” al parámetro que mide cuánto se inclina un agente hacia la opción más popular.
Los límites variaron considerablemente entre los modelos. Para Llama 3 70B, el límite estimado se situó alrededor de 30 agentes; para GPT-4o, fue de aproximadamente 80; para GPT-4 Turbo, la estimación llegó a unos 1.000 agentes o posiblemente más; y Claude 3.5 Sonnet mantuvo la coordinación en un grupo de 1.000 agentes —el mayor tamaño probado en el experimento—, aunque los investigadores aclararon que esto no significa que ese sea su límite máximo.
Los autores subrayaron que la comparación con los grupos humanos debe hacerse con cautela. Las personas coordinan sus acciones mediante relaciones, lenguaje, instituciones y objetivos compartidos, mientras que los agentes del experimento únicamente observaban una secuencia de decisiones sencillas.
El estudio tampoco demostró que los sistemas comprendieran o aprendieran unos de otros, que tuvieran intención de cooperar o que poseyeran inteligencia social. De Marzo advierte:
“Las poblaciones de agentes alineados individualmente pueden alcanzar estados estables, pero colectivamente desalineados, únicamente por conformismo”.
El experimento eliminó numerosos elementos presentes en las decisiones reales, como una respuesta correcta, memoria entre rondas, recompensas, información desigual o consecuencias prácticas. Una cooperación real requeriría que los agentes pudieran dividir tareas, comprender qué información poseen los demás, perseguir un objetivo común y apartarse de la mayoría cuando esta se equivoca.
Aun con esas limitaciones, los investigadores consideran que el consenso espontáneo podría tener aplicaciones, como coordinar grandes proyectos científicos, de ingeniería o de desarrollo de software sin necesidad de una dirección humana constante.
Sin embargo, el mismo comportamiento también plantea riesgos: en un proyecto de programación colaborativa, por ejemplo, varios agentes podrían seguir utilizando una función o un diseño ineficiente simplemente porque ya es común en el código.
(Con información de RT en Español)
Vea además:
Modelos chinos de IA ocupan los cinco primeros puestos del ranking mundial de uso