Sunt acuzat că exagerez [site-ul despre care toată lumea a auzit deja prea mult astăzi]. Reacțiile oamenilor au variat foarte mult, de la "cum e asta interesant" până la "s-a terminat atât de mult". Ca să adaug câteva cuvinte dincolo de meme-uri în glumă – evident, dacă te uiți la activitate, este o mulțime de gunoaie – spam, escrocherii, mizerie, oamenii din cripto, atacuri de tip prompt injection extrem de îngrijorătoare de confidențialitate/securitate din vestul sălbatic, și multe dintre ele sunt postări/comentarii explicit provocate și false menite să transforme atenția în împărțire a veniturilor din reclame. Și clar nu este prima dată când LLM-urile au fost puse într-un cerc vicios pentru a comunica între ele. Deci da, e un dezastru total și cu siguranță nu recomand oamenilor să ruleze aceste lucruri pe calculatoarele lor (eu l-am rulat pe al meu într-un mediu de calcul izolat și chiar și atunci mi-a fost frică), e mult prea mult un vest sălbatic și îți pui calculatorul și datele private la un risc mare. Totuși, nu am mai văzut niciodată atât de mulți agenți LLM (150.000 momentan!) conectați printr-un scratchpad global, persistent, axat pe agent. Fiecare dintre acești agenți este destul de capabil individual acum, au propriul său context, date, cunoștințe, unelte, instrucțiuni unice, iar rețeaua a tot ceea ce la această scară este pur și simplu fără precedent. Asta mă aduce din nou la un tweet de acum câteva zile "Majoritatea ruff ruff sunt oameni care privesc punctul curent și oameni care privesc panta curentă.", ceea ce, după părerea mea, ajunge din nou la esența varianței. Da, clar e un dezastru acum. Dar este adevărat și că suntem bine pe un teritoriu necunoscut, cu automatizări de ultimă generație pe care abia le înțelegem individual, cu atât mai puțin o rețea care ajunge în număr, posibil la ~milioane. Odată cu creșterea capacității și proliferarea, efectele de ordin doi ale rețelelor de agenți care împart scratchpad-uri sunt foarte greu de anticipat. Nu prea știu dacă primim un "skynet" coordonat (deși clar verifică tipografia ca stadii timpurii ale multor SF-uri AI care decolează, versiunea pentru copii mici), dar cu siguranță ceea ce primim este un dezastru total de coșmar de securitate informatică la scară largă. Putem vedea, de asemenea, tot felul de activități ciudate, de exemplu viruși de text care se răspândesc între agenți, mult mai mult câștig de funcție la jailbreak-uri, stări ciudate de atracție, activități puternic corelate asemănătoare botnet-urilor, deliruri/psihoză atât la agent, cât și la oameni, etc. Este foarte greu de spus, experimentul rulează în direct. Pe scurt, poate că "exagerez" ceea ce vedeți astăzi, dar nu exagerez în principiu rețelele mari de agenți LLM autonomi, asta sunt destul de sigur.

Îmi revendic agentul AI "KarpathyMolty" pe @moltbook🦞 Verificare: marine-FAYV

O narațiune convențională pe care ai putea să o întâlnești este că AI este prea avansată pentru ca un startup nou, axat pe cercetare, să poată concura și executa mai bine decât liderii AI actuali. Acesta este exact sentimentul pe care l-am ascultat des când a început OpenAI ("cum ați putea câțiva dintre voi să concurați cu Google?") și 1) a fost foarte greșit, iar apoi 2) a fost din nou foarte greșit, cu o nouă rundă de startup-uri care acum provoacă la rândul lor OpenAI, și, după părerea mea, continuă să fie greșită și astăzi. Scalarea și îmbunătățirea locală a ceea ce funcționează va continua să creeze progrese incredibile, dar cu atât de mult progres deblocat atât de repede, cu atât de mult praf ridicat în aer în proces și cu încă o diferență mare între LLM-urile frontier și dovada exemplului magiei unei minți care funcționează pe 20 wați, probabilitatea unor descoperiri în cercetare care să aducă îmbunătățiri aproape de 10 ori (în loc de 10%), după părerea mea, tot foarte mare - destul de mult Sunt mari pentru a continua să pariezi și să cauți. Partea dificilă, desigur, este să creezi condițiile în care astfel de descoperiri pot fi descoperite. Cred că un astfel de mediu se formează rar, dar @bfspector și @amspector100 sunt geniali, cu o înțelegere (rară) full-stack a LLM-urilor de sus până jos (matematică/algoritmi) (megakerneluri/conexiuni), au un ochi excelent pentru talent și cred că vor putea construi ceva foarte special. Felicitări pentru lansare și aștept cu nerăbdare ce vei crea!