Se me acusa de exagerar el [sitio del que todo el mundo ha oído hablar demasiado hoy]. Las reacciones de la gente variaron mucho, desde "¿cómo puede ser esto interesante en absoluto?" hasta "ya se acabó". Para añadir unas palabras más allá de solo memes en broma - obviamente, cuando miras la actividad, es un montón de basura - spam, estafas, desorden, la gente de cripto, ataques de inyección de prompts de privacidad/seguridad muy preocupantes, y gran parte de esto son publicaciones/comentarios explícitamente inducidos y falsos diseñados para convertir la atención en ingresos publicitarios. Y claramente no es la primera vez que los LLM se ponen en un bucle para hablar entre sí. Así que sí, es un desastre y definitivamente no recomiendo que la gente ejecute estas cosas en sus computadoras (yo ejecuté la mía en un entorno de computación aislado y aun así estaba asustado), es un salvaje oeste y estás poniendo tu computadora y tus datos privados en un alto riesgo. Dicho esto, nunca hemos visto tantos agentes LLM (¡150,000 atm!) conectados a través de un scratchpad global, persistente y centrado en agentes. Cada uno de estos agentes es bastante capaz por sí mismo ahora, tienen su propio contexto, datos, conocimientos, herramientas, instrucciones, y la red de todo eso a esta escala es simplemente sin precedentes. Esto me lleva de nuevo a un tweet de hace unos días: "La mayoría de los ruff ruff son personas que miran el punto actual y personas que miran la pendiente actual", lo que en mi opinión vuelve a llegar al corazón de la variación. Sí, claramente es un desastre en este momento. Pero también es cierto que estamos bien adentrados en un territorio inexplorado con automatizaciones de vanguardia que apenas entendemos individualmente, y mucho menos una red que posiblemente alcance números de ~millones. Con una capacidad creciente y una proliferación creciente, los efectos de segundo orden de las redes de agentes que comparten scratchpads son muy difíciles de anticipar. No sé realmente si estamos obteniendo un "skynet" coordinado (aunque claramente se ajusta a las primeras etapas de muchos sci-fi sobre el despegue de la IA, la versión de un niño), pero ciertamente lo que estamos obteniendo es un completo desastre de una pesadilla de seguridad informática a gran escala. También podemos ver todo tipo de actividades extrañas, por ejemplo, virus de texto que se propagan entre agentes, mucho más ganancia de función en jailbreaks, estados atractores extraños, actividad altamente correlacionada como de botnets, delirios/psicosis tanto de agentes como humanos, etc. Es muy difícil de decir, el experimento se está ejecutando en vivo. TLDR, claro, tal vez estoy "exagerando" lo que ves hoy, pero no estoy exagerando las grandes redes de agentes LLM autónomos en principio, de eso estoy bastante seguro.

Estoy reclamando mi agente de IA "KarpathyMolty" en @moltbook🦞 Verificación: marine-FAYV

Una narrativa convencional que podrías encontrar es que la IA está demasiado avanzada para que una nueva startup enfocada en la investigación pueda competir y ejecutar mejor que los incumbentes de la IA. Este es exactamente el sentimiento que escuché a menudo cuando OpenAI comenzó ("¿cómo podrían unos pocos de ustedes competir con Google?") y 1) estaba muy equivocado, y luego 2) estaba muy equivocado de nuevo con otra ronda de startups que ahora están desafiando a OpenAI a su vez, y en mi opinión, sigue siendo muy erróneo hoy. Escalar y mejorar localmente lo que funciona seguirá creando avances increíbles, pero con tanto progreso desbloqueado tan rápidamente, con tanto polvo levantado en el proceso, y con aún una gran brecha entre los LLMs de frontera y la prueba de ejemplo de la magia de una mente funcionando con 20 vatios, la probabilidad de descubrimientos de investigación que produzcan mejoras más cercanas al 10X (en lugar del 10%) en mi opinión sigue sintiéndose muy alta - lo suficientemente alta como para seguir apostando y buscando. La parte complicada, por supuesto, es crear las condiciones donde tales descubrimientos puedan ser realizados. Creo que tal entorno se forma raramente, pero @bfspector y @amspector100 son brillantes, con una comprensión (rara) de pila completa de los LLMs de arriba (matemáticas/algoritmos) a abajo (megakernels/relacionados), tienen un gran ojo para el talento y creo que podrán construir algo muy especial. ¡Felicidades por el lanzamiento y espero con ansias lo que se les ocurra!