Jsem obviňován, že přeháněji [stránku, o které dnes už všichni slyšeli příliš mnoho]. Reakce lidí se velmi lišily, od "jak je to vůbec zajímavé" až po "je to tak pryč". Abych přidal pár slov nad rámec pouhých vtipných memů – když se podíváte na tu aktivitu, je to samozřejmě spousta odpadu – spam, podvody, šmejd, krypto lidé, velmi znepokojující útoky na soukromí/bezpečnostní prompt injection na divokém západě, a hodně z toho jsou explicitně vyzývané a falešné příspěvky/komentáře, které mají za cíl převést pozornost na sdílení příjmů z reklam. A rozhodně to není poprvé, co byly LLM uvedeny do smyčky, aby spolu komunikovaly. Takže ano, je to katastrofa a rozhodně nedoporučuji, aby lidé spouštěli tyto věci na svých počítačích (já jsem to spouštěl v izolovaném prostředí a i tak jsem se bál), je to příliš divoký západ a vystavujete svůj počítač i soukromá data vysokému riziku. To ale neznamená, že jsme nikdy neviděli tolik LLM agentů (150 000 bankomatů!) zapojených přes globální, trvalý, agentem orientovaný scratchpad. Každý z těchto agentů je nyní poměrně individuálně velmi schopný, mají svůj vlastní jedinečný kontext, data, znalosti, nástroje, instrukce a síť toho všeho v tomto měřítku je prostě bezprecedentní. To mě opět přivádí k tweetu z před pár dní "Většina těch, co se dívají na aktuální bod, jsou lidé, kteří se dívají na aktuální bod, a lidé, kteří se dívají na aktuální sklon.", což podle mě opět zasahuje k jádru rozptylu. Ano, je jasné, že je to teď úplně katastrofa. Ale je také pravda, že jsme už hluboko v neprobádaném terénu s nejmodernějšími automatizacemi, kterým sotva rozumíme jednotlivě, natož sítí, která by mohla dosáhnout v počtu možná i ~milionů. S rostoucími schopnostmi a rostoucím rozšířením jsou druhotné efekty agentních sítí, které sdílejí scratchpady, velmi obtížné předvídat. Nevím, jestli dostáváme koordinovaný "skynet" (i když to jasně označuje kontroly jako rané fáze mnoha AI sci-fi, verze pro batolata), ale rozhodně dostáváme naprostý chaos počítačové bezpečnosti ve velkém měřítku. Můžeme také vidět různé podivné aktivity, např. viry textu šířící se mezi agenty, mnohem větší zvýšení funkce při jailbreaku, podivné atraktorové stavy, vysoce korelovanou botnetovou aktivitu, bludy/psychózy jak agenta, tak člověka atd. Je těžké to poznat, experiment běží živě. Stručně řečeno, možná "přeháním" to, co dnes vidíte, ale v zásadě nepřeháním velké sítě autonomních LLM agentů, to si myslím.