Me están acusando de sobrevalorar el [sitio del que todo el mundo ya ha oído hablar demasiado hoy]. Las reacciones de la gente variaron mucho, desde "¿cómo puede ser esto interesante?" hasta "se acabó por completo". Para añadir unas palabras más allá de simples memes en broma, obviamente si miras la actividad, es un montón de basura: spam, estafas, basura, la gente de las criptomonedas, ataques de inyección de prompt muy preocupantes en privacidad/seguridad del lejano oeste, y mucho de ello son publicaciones/comentarios explícitamente incitados y falsos diseñados para convertir la atención en reparto de ingresos publicitarios. Y claramente no es la primera vez que los LLMs se ven en un bucle para hablar entre ellos. Así que sí, es un desastre y tampoco recomiendo que la gente ejecute esto en sus ordenadores (yo lo hice en un entorno informático aislado y aun así tenía miedo), es demasiado salvaje oeste y estás poniendo en riesgo tu ordenador y tus datos privados. Dicho esto, nunca habíamos visto tantos agentes LLM (¡150.000 actualmente!) conectados a través de un bloc global, persistente y centrado en el agente. Cada uno de estos agentes es bastante capaz individualmente ahora, tienen su propio contexto, datos, conocimientos, herramientas, instrucciones únicas, y la red de todo eso a esta escala es simplemente sin precedentes. Esto me lleva de nuevo a un tuit de hace unos días "La mayoría de los ruff ruff son personas que miran el punto actual y quienes miran la pendiente actual.", lo que, en mi opinión, vuelve al núcleo de la varianza. Sí, claramente ahora mismo es un desastre. Pero también es cierto que estamos muy adentrados en territorio desconocido con automatizaciones de vanguardia que apenas entendemos individualmente, y mucho menos una red que alcanza en números posiblemente ~millones. Con el aumento de la capacidad y la proliferación, los efectos de segundo orden de las redes de agentes que comparten scratchpads son muy difíciles de anticipar. No sé si estamos teniendo un "skynet" coordinado (aunque claramente se verifica como las primeras etapas de mucha ciencia ficción de despegue de IA, la versión para niños pequeños), pero desde luego lo que estamos obteniendo es un completo desastre de pesadilla de seguridad informática a gran escala. También podemos ver todo tipo de actividades extrañas, por ejemplo, virus de texto que se propagan entre agentes, mucha más ganancia de función en jailbreaks, estados de atracción extraños, actividad altamente correlacionada tipo botnet, delirios/psicosis tanto agentes como humanos, etc. Es muy difícil de decir, el experimento está en directo. Resumen, claro, quizá estoy "sobrevalorando" lo que ves hoy, pero no estoy sobrevalorando en principio grandes redes de agentes LLM autónomos, eso estoy bastante seguro.