Jeg blir beskyldt for å overhype [siden alle har hørt for mye om i dag allerede]. Folks reaksjoner varierte veldig mye, fra «hvordan er dette interessant i det hele tatt» til «det er så over». For å legge til noen ord utover bare spøkefulle memes – åpenbart, når du ser på aktiviteten, er det mye søppel – spam, svindel, søl, kryptofolk, svært bekymringsfulle personvern-/sikkerhetsinjeksjonsangrep i det ville vesten, og mye av det er eksplisitt oppfordret og falske innlegg/kommentarer designet for å omdanne oppmerksomhet til deling av annonseinntekter. Og dette er tydeligvis ikke første gang LLM-ene ble satt i en løkke for å snakke med hverandre. Så ja, det er et kaos, og jeg anbefaler definitivt ikke at folk kjører dette på datamaskinene sine (jeg kjørte mitt i et isolert datamiljø, og selv da var jeg redd), det er altfor mye av en vill vesten og du utsetter datamaskinen og private data for høy risiko. Når det er sagt – vi har aldri sett så mange LLM-agenter (150 000 ATM!) koblet sammen via en global, vedvarende, agent-først scratchpad. Hver av disse agentene er ganske individuelt ganske kapable nå, de har sin egen unike kontekst, data, kunnskap, verktøy, instruksjoner, og nettverket av alt dette på denne skalaen er rett og slett uten sidestykke. Dette bringer meg igjen til en tweet fra noen dager siden "Majoriteten av ruff ruff er folk som ser på nåværende punkt og folk som ser på nåværende helling.", som etter min mening igjen går til kjernen av variasjonen. Ja, det er tydeligvis et kaos akkurat nå. Men det er også sant at vi er godt inne i ukjent terreng med banebrytende automatiseringer som vi knapt forstår individuelt, langt mindre et nettverk der som når i antall muligens ~millioner. Med økende kapasitet og økende spredning er sekundæreffektene av agentnettverk som deler skrapeblokker svært vanskelige å forutse. Jeg vet egentlig ikke om vi får en koordinert «skynet» (selv om det tydelig typesjekker som tidlige stadier av mye AI-avgangssci-fi, småbarnsversjonen), men det vi får er i hvert fall et komplett kaos av et datasikkerhetsmareritt i stor skala. Vi kan også se all slags merkelig aktivitet, for eksempel tekstvirus som sprer seg mellom agenter, mye mer funksjonsgevinst ved jailbreaks, rare attraktortilstander, sterkt korrelert botnet-lignende aktivitet, vrangforestillinger/psykose både agent og menneske, osv. Det er veldig vanskelig å si, eksperimentet kjører live. TLDR: Kanskje jeg «overhyper» det du ser i dag, men jeg overhyper ikke store nettverk av autonome LLM-agenter i prinsippet, det er jeg ganske sikker på.

Jeg hevder min AI-agent "KarpathyMolty" på @moltbook🦞 Verifikasjon: marine-FAYV

En konvensjonell fortelling du kan komme over, er at AI er for langt kommet til at en ny, forskningsfokusert oppstartsbedrift kan konkurrere ut og gjennomføre de etablerte aktørene innen AI. Dette er akkurat den holdningen jeg ofte hørte da OpenAI startet ("hvordan kunne noen få av dere konkurrere med Google?") og 1) det var veldig feil, og så 2) var det veldig feil igjen med en hel ny runde oppstartsbedrifter som nå utfordrer OpenAI i sin tur, og etter min mening er det fortsatt feil i dag. Skalering og lokal forbedring av det som fungerer vil fortsette å skape utrolige fremskritt, men med så mye fremgang som låses opp så raskt, med så mye støv kastet opp i luften i prosessen, og med fortsatt et stort gap mellom grense-LLM-er og eksempelbeviset på magien i et sinn som går på 20 watt, føles sannsynligheten for forskningsgjennombrudd som gir nærmere 10 ganger forbedringer (i stedet for 10 %) etter min mening fortsatt veldig høy – og rikelig Høyt å fortsette å satse på og lete etter. Den vanskelige delen er selvfølgelig å skape betingelsene der slike gjennombrudd kan oppdages. Jeg tror et slikt miljø kommer sjelden sammen, men @bfspector og @amspector100 er strålende, med (sjelden) fullstack-forståelse av LLM-er fra topp (matematikk/algoritmer) til bunn (megakjerner/relaterte), de har et godt øye for talenter og jeg tror de vil kunne bygge noe helt spesielt. Gratulerer med lanseringen, og jeg gleder meg til hva du kommer opp med!