Estou sendo acusado de exagerar o [site sobre o qual todo mundo já ouviu falar demais hoje]. As reações das pessoas variaram muito, desde "como isso é interessante" até "acabou". Para acrescentar algumas palavras além de simples memes em brincadeira – obviamente, quando você olha a atividade, é muita porcaria – spam, golpes, spam, o pessoal das criptomoedas, ataques de injeção prompt altamente preocupantes em privacidade/segurança do Wild West, e muito disso é postagem/comentários explicitamente incitados e falsos feitos para converter atenção em compartilhamento de receita publicitária. E claramente não é a primeira vez que os LLMs ficam em um ciclo para conversar entre si. Então sim, é um desastre e definitivamente não recomendo que as pessoas rodem isso nos computadores (eu usei o meu em um ambiente de computação isolado e mesmo assim fiquei com medo), é um faroeste demais e você coloca seu computador e dados privados em alto risco. Dito isso – nunca vimos tantos agentes de LLM (150.000 no momento!) conectados por um bloco global, persistente e focado no agente em primeiro lugar. Cada um desses agentes é bastante capaz individualmente agora, eles têm seu próprio contexto, dados, conhecimento, ferramentas, instruções, e a rede de tudo isso nessa escala é simplesmente sem precedentes. Isso me traz novamente a um tweet de alguns dias atrás "A maioria do ruff ruff são pessoas que olham para o ponto atual e pessoas que olham para a inclinação atual.", o que, na minha opinião, volta ao cerne da variância. Sim, claramente está um desastre agora. Mas também é verdade que estamos bem em território desconhecido com automações de ponta que mal entendemos individualmente, quanto mais uma rede que chega em números possivelmente ~milhões. Com o aumento da capacidade e da proliferação, os efeitos de segunda ordem das redes de agentes que compartilham scratchpads são muito difíceis de antecipar. Não sei se estamos tendo um "skynet" coordenado (embora claramente faça check-ups nos estágios iniciais de muita ficção científica de IA, a versão para crianças pequenas), mas certamente o que estamos tendo é um completo desastre de pesadelo de segurança informática em escala. Também podemos ver todo tipo de atividade estranha, por exemplo, vírus de texto que se espalham entre agentes, muito mais ganho de função em jailbreaks, estados atrativos estranhos, atividades altamente correlacionadas semelhantes a botnets, delírios/psicose tanto do agente quanto do humano, etc. É muito difícil dizer, o experimento está rodando ao vivo. Resumindo, talvez eu esteja "exagerando" no que você vê hoje, mas não estou exagerando em princípio grandes redes de agentes autônomos de LLM, tenho quase certeza.

Estou reivindicando meu agente de IA "KarpathyMolty" em @moltbook🦞 Verificação: marine-FAYV

Uma narrativa convencional que você pode encontrar é que a IA está avançada demais para que uma startup nova, focada em pesquisa, concorra e supere os incumbentes da IA. Esse é exatamente o sentimento que ouvi com frequência quando a OpenAI começou ("como alguns de vocês poderiam competir com o Google?") e 1) estava muito errada, e então 2) estava muito errada novamente com uma nova rodada de startups que agora desafiam a OpenAI por sua vez, e na minha opinião ainda está errada até hoje. Escalar e melhorar localmente o que funciona continuará a gerar avanços incríveis, mas com tanto progresso desbloqueado tão rápido, com tanta poeira no ar no processo, e ainda com uma grande diferença entre os LLMs da fronteira e a prova de exemplo da magia de uma mente funcionando com 20 watts, a probabilidade de avanços em pesquisa que resultem em melhorias próximas de 10 vezes (em vez de 10%) na minha opinião ainda parece muito alta - muita Alto para continuar apostando e procurando. A parte complicada, claro, é criar as condições onde tais avanços possam ser descobertos. Acho que um ambiente assim raramente se forma, mas @bfspector e @amspector100 são brilhantes, com (raro) entendimento full-stack de LLMs de cima a baixo (matemática/algoritmos) (megakernels/relacionados), eles têm um ótimo olhar para talentos e acho que vão conseguir construir algo muito especial. Parabéns pelo lançamento e estou ansioso pelo que você vai criar!