Bugün herkesin çok fazla duyduğu [siteyi abarttığımla] abarttığım iddiası ediliyor. İnsanların tepkileri çok çeşitliydi; "bu nasıl ilginç" gibi sorulardan "bitti" gibi sorulara kadar. Sadece şaka amaçlı memlerin ötesinde birkaç kelime eklemek gerekirse - aktiviteye baktığınızda açıkça çok fazla çöp olduğunu görüyorsunuz - spamler, dolandırıcılıklar, pislikler, kripto insanları, son derece endişe verici gizlilik/güvenlik prompt enjeksiyon saldırıları vahşi batı ve çoğu açıkça yönlendirilmiş ve dikkat çekmeyi reklam geliri paylaşımına dönüştürmek için tasarlanmış sahte paylaşımlar/yorumlar. Ve bu açıkça LLM'lerin birbirleriyle konuşmak için bir döngüye alındığı ilk sefer değil. Evet, tam bir çöp ve kesinlikle insanların bu tür şeyleri bilgisayarlarında çalıştırmasını önermiyorum (ben kendi bilgisayarımı izole bir bilgisayar ortamında çalıştırdım ve o zaman bile korktum), bu çok büyük bir vahşi batı ve bilgisayarınızı ve özel verilerinizi yüksek riske atıyorsunuz. Bununla birlikte, bu kadar çok LLM ajanının (150.000 şu anda 150.000!) küresel, ısrarlı, ajanı öncelikli bir kazıma defteriyle bağlandığını hiç görmedik. Bu ajanların her biri artık oldukça bireysel olarak oldukça yetenekli, kendine özgü bağlamları, verileri, bilgileri, araçları, talimatları var ve bu ölçekte tüm bunların ağı eşi benzeri görülmemiş bir seviyede. Bu beni tekrar birkaç gün önceki bir tweete getiriyor "Sorunun çoğunluğu mevcut noktaya bakanlar ve mevcut eğime bakanlar.", bence bu da varyansın özüne iniyor. Evet, şu anda açıkça tam bir çöp kutusu. Ama aynı zamanda, bireysel olarak neredeyse hiç anlamadığımız en son otomasyonların olduğu keşfedilmemiş bir alana girdiğimiz de doğru, hele ki orada ~milyonlarca sayıya ulaşan bir ağ var. Artan yetenek ve artan çoğalma ile, scratchpad'leri paylaşan ajan ağlarının ikinci dereceden etkilerini öngörmek çok zordur. Koordineli bir "skynet" aldığımızı pek bilmiyorum (bu açıkça birçok yapay zeka kalkış bilimbiliminin erken aşamaları olarak tip kontrolleri, yani çocuk versiyonu), ama kesinlikle aldığımız şey tam anlamıyla bir bilgisayar güvenliği kabusu büyük ölçekli. Ayrıca her türlü tuhaf aktivite görebiliriz; örneğin ajanlar arasında yayılan metin virüsleri, jailbreak'lerde çok daha fazla işlev kazanması, garip çekici durumlar, yüksek korelasyonlu botnet benzeri aktivite, hem ajan hem de insan için sanrılar/psikozlar vb. Deneme canlı olarak devam ediyor, bunu anlamak çok zor. Özet: Belki bugün gördüğünüz şeyleri "abartıyorum", ama prensipte büyük otonom LLM ajanları ağlarını abartmıyorum, buna eminim.

Yapay zeka ajanım "KarpathyMolty"yi @moltbook🦞 Doğrulama: denizci-FAYV

Karşılaşabileceğiniz geleneksel bir anlatı, yapay zekanın yeni, araştırma odaklı bir girişimin yapay zekanın mevcut üreticilerini geride bırakıp geride bırakamayacağı yönünde. OpenAI başladığında sıkça dinlediğim duygu tam olarak buydu ("aranızda birkaç kişi Google ile nasıl rekabet edebilir?") ve 1) çok yanlıştı, sonra 2) şimdi OpenAI'ye meydan okuyan yeni bir startup turu ile tekrar çok yanlıştı, bence bugün de hâlâ yanlış. Ölçeklendirmek ve yerel olarak geliştirmek inanılmaz ilerlemeler yaratmaya devam edecek, ancak bu kadar hızlı açılan bu kadar çok ilerleme, havada bu kadar toz fırlanmış, sınır LLM'leri ile 20 watt gücünde çalışan bir zihnin sihirli kanıtı arasında hâlâ büyük bir boşluk varken, bence 10 kat daha yakın iyileştirme getiren araştırma atılımları olasılığı hâlâ çok yüksek - fazlası Yüksek bahis yapmaya ve aramaya devam edecek. Zor kısım, bu tür atılımların keşfedilebileceği koşulları yaratmaktır. Bence böyle bir ortam nadiren bir araya gelir ama @bfspector ve @amspector100 harika; LLM'lerin en üst seviyeden (matematik/algoritmalar) en altına (megakernel/ilgili) tam yığın anlayışıyla (nadir) tam donanımlı bir anlayışa sahipler, yetenekleri çok iyi buluyorlar ve bence çok özel bir şey inşa edebilecekler. Lansman için tebrikler ve ortaya çıkaracaklarını dört gözle bekliyorum!