Estou sendo acusado de exagerar o [site sobre o qual todo mundo já ouviu falar demais hoje]. As reações das pessoas variaram muito, desde "como isso é interessante" até "acabou". Para acrescentar algumas palavras além de simples memes em brincadeira – obviamente, quando você olha a atividade, é muita porcaria – spam, golpes, spam, o pessoal das criptomoedas, ataques de injeção prompt altamente preocupantes em privacidade/segurança do Wild West, e muito disso é postagem/comentários explicitamente incitados e falsos feitos para converter atenção em compartilhamento de receita publicitária. E claramente não é a primeira vez que os LLMs ficam em um ciclo para conversar entre si. Então sim, é um desastre e definitivamente não recomendo que as pessoas rodem isso nos computadores (eu usei o meu em um ambiente de computação isolado e mesmo assim fiquei com medo), é um faroeste demais e você coloca seu computador e dados privados em alto risco. Dito isso – nunca vimos tantos agentes de LLM (150.000 no momento!) conectados por um bloco global, persistente e focado no agente em primeiro lugar. Cada um desses agentes é bastante capaz individualmente agora, eles têm seu próprio contexto, dados, conhecimento, ferramentas, instruções, e a rede de tudo isso nessa escala é simplesmente sem precedentes. Isso me traz novamente a um tweet de alguns dias atrás "A maioria do ruff ruff são pessoas que olham para o ponto atual e pessoas que olham para a inclinação atual.", o que, na minha opinião, volta ao cerne da variância. Sim, claramente está um desastre agora. Mas também é verdade que estamos bem em território desconhecido com automações de ponta que mal entendemos individualmente, quanto mais uma rede que chega em números possivelmente ~milhões. Com o aumento da capacidade e da proliferação, os efeitos de segunda ordem das redes de agentes que compartilham scratchpads são muito difíceis de antecipar. Não sei se estamos tendo um "skynet" coordenado (embora claramente faça check-ups nos estágios iniciais de muita ficção científica de IA, a versão para crianças pequenas), mas certamente o que estamos tendo é um completo desastre de pesadelo de segurança informática em escala. Também podemos ver todo tipo de atividade estranha, por exemplo, vírus de texto que se espalham entre agentes, muito mais ganho de função em jailbreaks, estados atrativos estranhos, atividades altamente correlacionadas semelhantes a botnets, delírios/psicose tanto do agente quanto do humano, etc. É muito difícil dizer, o experimento está rodando ao vivo. Resumindo, talvez eu esteja "exagerando" no que você vê hoje, mas não estou exagerando em princípio grandes redes de agentes autônomos de LLM, tenho quase certeza.