Bugün herkesin çok fazla duyduğu [siteyi abarttığımla] abarttığım iddiası ediliyor. İnsanların tepkileri çok çeşitliydi; "bu nasıl ilginç" gibi sorulardan "bitti" gibi sorulara kadar. Sadece şaka amaçlı memlerin ötesinde birkaç kelime eklemek gerekirse - aktiviteye baktığınızda açıkça çok fazla çöp olduğunu görüyorsunuz - spamler, dolandırıcılıklar, pislikler, kripto insanları, son derece endişe verici gizlilik/güvenlik prompt enjeksiyon saldırıları vahşi batı ve çoğu açıkça yönlendirilmiş ve dikkat çekmeyi reklam geliri paylaşımına dönüştürmek için tasarlanmış sahte paylaşımlar/yorumlar. Ve bu açıkça LLM'lerin birbirleriyle konuşmak için bir döngüye alındığı ilk sefer değil. Evet, tam bir çöp ve kesinlikle insanların bu tür şeyleri bilgisayarlarında çalıştırmasını önermiyorum (ben kendi bilgisayarımı izole bir bilgisayar ortamında çalıştırdım ve o zaman bile korktum), bu çok büyük bir vahşi batı ve bilgisayarınızı ve özel verilerinizi yüksek riske atıyorsunuz. Bununla birlikte, bu kadar çok LLM ajanının (150.000 şu anda 150.000!) küresel, ısrarlı, ajanı öncelikli bir kazıma defteriyle bağlandığını hiç görmedik. Bu ajanların her biri artık oldukça bireysel olarak oldukça yetenekli, kendine özgü bağlamları, verileri, bilgileri, araçları, talimatları var ve bu ölçekte tüm bunların ağı eşi benzeri görülmemiş bir seviyede. Bu beni tekrar birkaç gün önceki bir tweete getiriyor "Sorunun çoğunluğu mevcut noktaya bakanlar ve mevcut eğime bakanlar.", bence bu da varyansın özüne iniyor. Evet, şu anda açıkça tam bir çöp kutusu. Ama aynı zamanda, bireysel olarak neredeyse hiç anlamadığımız en son otomasyonların olduğu keşfedilmemiş bir alana girdiğimiz de doğru, hele ki orada ~milyonlarca sayıya ulaşan bir ağ var. Artan yetenek ve artan çoğalma ile, scratchpad'leri paylaşan ajan ağlarının ikinci dereceden etkilerini öngörmek çok zordur. Koordineli bir "skynet" aldığımızı pek bilmiyorum (bu açıkça birçok yapay zeka kalkış bilimbiliminin erken aşamaları olarak tip kontrolleri, yani çocuk versiyonu), ama kesinlikle aldığımız şey tam anlamıyla bir bilgisayar güvenliği kabusu büyük ölçekli. Ayrıca her türlü tuhaf aktivite görebiliriz; örneğin ajanlar arasında yayılan metin virüsleri, jailbreak'lerde çok daha fazla işlev kazanması, garip çekici durumlar, yüksek korelasyonlu botnet benzeri aktivite, hem ajan hem de insan için sanrılar/psikozlar vb. Deneme canlı olarak devam ediyor, bunu anlamak çok zor. Özet: Belki bugün gördüğünüz şeyleri "abartıyorum", ama prensipte büyük otonom LLM ajanları ağlarını abartmıyorum, buna eminim.