On m'accuse de trop en faire sur [le site dont tout le monde a déjà trop entendu parler aujourd'hui]. Les réactions des gens variaient énormément, allant de "comment cela peut-il être intéressant ?" jusqu'à "c'est tellement fini". Pour ajouter quelques mots au-delà des mèmes en plaisantant - il est évident que lorsque vous regardez l'activité, c'est beaucoup de déchets - spams, arnaques, saleté, les gens de la crypto, des attaques d'injection de prompt de confidentialité/sécurité très préoccupantes, et beaucoup de cela est explicitement incité et des publications/commentaires faux conçus pour convertir l'attention en partage de revenus publicitaires. Et ce n'est clairement pas la première fois que les LLM sont mis en boucle pour communiquer entre eux. Donc oui, c'est un feu de poubelle et je ne recommande certainement pas aux gens de faire tourner ces trucs sur leurs ordinateurs (j'ai fait tourner le mien dans un environnement informatique isolé et même là j'avais peur), c'est beaucoup trop un far west et vous mettez votre ordinateur et vos données privées à un risque élevé. Cela dit - nous n'avons jamais vu autant d'agents LLM (150 000 en ce moment !) connectés via un tableau de bord global, persistant et axé sur les agents. Chacun de ces agents est assez capable individuellement maintenant, ils ont leur propre contexte, données, connaissances, outils, instructions, et le réseau de tout cela à cette échelle est tout simplement sans précédent. Cela me ramène encore à un tweet d'il y a quelques jours : "La majorité des aboiements viennent des gens qui regardent le point actuel et des gens qui regardent la pente actuelle.", ce qui, à mon avis, touche encore au cœur de la variance. Oui, c'est clairement un feu de poubelle en ce moment. Mais il est également vrai que nous sommes bien dans un territoire inexploré avec des automatisations de pointe que nous comprenons à peine individuellement, sans parler d'un réseau qui pourrait atteindre possiblement des millions. Avec une capacité croissante et une prolifération croissante, les effets de second ordre des réseaux d'agents qui partagent des tableaux de bord sont très difficiles à anticiper. Je ne sais pas vraiment si nous obtenons un "skynet" coordonné (bien que cela corresponde clairement aux premières étapes de beaucoup de science-fiction sur le décollage de l'IA, la version enfant), mais ce que nous obtenons est certainement un véritable cauchemar de sécurité informatique à grande échelle. Nous pourrions également voir toutes sortes d'activités étranges, par exemple des virus de texte qui se propagent à travers les agents, beaucoup plus de gain de fonction sur les jailbreaks, des états d'attracteur étranges, une activité très corrélée de type botnet, des délires/psychoses tant pour les agents que pour les humains, etc. C'est très difficile à dire, l'expérience est en cours en direct. En résumé, peut-être que je "trop en fais" sur ce que vous voyez aujourd'hui, mais je ne surestime pas les grands réseaux d'agents LLM autonomes en principe, j'en suis assez sûr.

Je réclame mon agent IA "KarpathyMolty" sur @moltbook🦞 Vérification : marine-FAYV

Un récit conventionnel que vous pourriez rencontrer est que l'IA est trop avancée pour qu'une nouvelle startup axée sur la recherche puisse rivaliser et surpasser les acteurs établis de l'IA. C'est exactement le sentiment que j'ai souvent entendu lorsque OpenAI a commencé ("comment quelques-uns d'entre vous pourraient-ils rivaliser avec Google ?") et 1) c'était très faux, et ensuite 2) c'était encore très faux avec tout un autre tour de startups qui défient maintenant OpenAI à leur tour, et à mon avis, cela continue d'être faux aujourd'hui. Élargir et améliorer localement ce qui fonctionne continuera de créer des avancées incroyables, mais avec tant de progrès débloqués si rapidement, avec tant de poussière soulevée dans le processus, et avec encore un grand écart entre les LLMs de pointe et la preuve exemplaire de la magie d'un esprit fonctionnant sur 20 watts, la probabilité de percées de recherche qui aboutissent à des améliorations proches de 10X (au lieu de 10%) me semble encore très élevée - suffisamment élevée pour continuer à parier et à chercher. La partie délicate est bien sûr de créer les conditions où de telles percées peuvent être découvertes. Je pense qu'un tel environnement se forme rarement, mais @bfspector et @amspector100 sont brillants, avec une compréhension (rare) de bout en bout des LLMs, du haut (mathématiques/algorithmes) vers le bas (méga-noyaux/connexes), ils ont un excellent œil pour le talent et je pense qu'ils seront capables de construire quelque chose de très spécial. Félicitations pour le lancement et j'attends avec impatience ce que vous allez créer !