Saya dituduh menggembar-gemborkan [situs yang sudah banyak didengar semua orang hari ini]. Reaksi orang-orang sangat bervariasi, dari "bagaimana ini menarik sama sekali" hingga "ini sudah berakhir". Untuk menambahkan beberapa kata di luar sekadar meme dalam lelucon - jelas ketika Anda melihat aktivitasnya, itu banyak sampah - spam, penipuan, slop, orang-orang kripto, serangan injeksi prompt privasi/keamanan yang sangat memprihatinkan wild west, dan banyak di antaranya secara eksplisit diminta dan postingan/komentar palsu yang dirancang untuk mengubah perhatian menjadi pembagian pendapatan iklan. Dan ini jelas bukan yang pertama LLM dimasukkan ke dalam lingkaran untuk berbicara satu sama lain. Jadi ya ini adalah kebakaran tempat sampah dan saya juga pasti tidak menyarankan agar orang menjalankan hal-hal ini di komputer mereka (saya menjalankan milik saya di lingkungan komputasi yang terisolasi dan bahkan kemudian saya takut), ini terlalu banyak barat liar dan Anda menempatkan komputer dan data pribadi Anda pada risiko tinggi. Meskipun demikian - kami belum pernah melihat sebanyak ini agen LLM (150.000 atm!) terhubung melalui scratchpad global, persisten, dan mengutamakan agen. Masing-masing agen ini cukup mampu secara individual sekarang, mereka memiliki konteks, data, pengetahuan, alat, instruksi, dan jaringan unik mereka sendiri yang pada skala ini belum pernah terjadi sebelumnya. Ini membawa saya lagi ke tweet dari beberapa hari yang lalu "Mayoritas ruff ruff adalah orang yang melihat titik saat ini dan orang yang melihat kemiringan saat ini.", yang imo sekali lagi sampai ke inti varians. Ya, jelas itu adalah kebakaran tempat sampah sekarang. Tapi juga benar bahwa kita berada di wilayah yang belum dipetakan dengan otomatisasi mutakhir yang bahkan hampir tidak kita pahami secara individual, apalagi jaringan di sana yang mencapai jumlah yang mungkin mencapai ~ jutaan. Dengan meningkatnya kemampuan dan meningkatnya proliferasi, efek urutan kedua dari jaringan agen yang berbagi scratchpad sangat sulit untuk diantisipasi. Saya tidak benar-benar tahu bahwa kita mendapatkan "skynet" yang terkoordinasi (pikir itu jelas mengetik pemeriksaan sebagai tahap awal dari banyak scifi lepas landas AI, versi balita), tetapi tentu saja apa yang kita dapatkan adalah kekacauan dari mimpi buruk keamanan komputer dalam skala besar. Kita juga dapat melihat semua jenis aktivitas aneh, misalnya virus teks yang menyebar ke seluruh agen, lebih banyak keuntungan fungsi pada jailbreak, keadaan penarik aneh, aktivitas seperti botnet yang sangat berkorelasi, delusi/psikosis baik agen maupun manusia, dll. Sangat sulit untuk mengatakannya, eksperimen berjalan langsung. TLDR tentu saja mungkin saya "overhyping" apa yang Anda lihat hari ini, tetapi saya tidak terlalu menghype jaringan besar agen LLM otonom pada prinsipnya, yang saya cukup yakin.

Saya mengklaim agen AI saya "KarpathyMolty" di @moltbook🦞 Verifikasi: marinir-FAYV

Narasi konvensional yang mungkin Anda temui adalah bahwa AI terlalu jauh bagi startup baru yang berfokus pada penelitian untuk mengalahkan dan mengungguli petahana AI. Ini persis sentimen yang sering saya dengarkan ketika OpenAI dimulai ("bagaimana mungkin beberapa dari Anda mungkin bersaing dengan Google?") dan 1) itu sangat salah, dan kemudian 2) itu sangat salah lagi dengan putaran lain dari startup yang sekarang menantang OpenAI pada gilirannya, dan imo itu masih terus salah hingga saat ini. Penskalaan dan peningkatan lokal apa yang berhasil akan terus menciptakan kemajuan yang luar biasa, tetapi dengan begitu banyak kemajuan yang dibuka begitu cepat, dengan begitu banyak debu yang dibuang ke udara dalam prosesnya, dan dengan masih ada kesenjangan besar antara LLM perbatasan dan contoh bukti keajaiban pikiran yang berjalan pada 20 watt, kemungkinan terobosan penelitian yang menghasilkan peningkatan mendekati 10X (bukan 10%) imo masih terasa sangat tinggi - banyak tinggi untuk terus bertaruh dan mencari. Bagian yang sulit adalah menciptakan kondisi di mana terobosan semacam itu dapat ditemukan. Saya pikir lingkungan seperti itu jarang bersatu, tetapi @bfspector & @amspector100 brilian, dengan pemahaman full-stack (langka) dari LLM dari atas (matematika / algoritma) ke bawah (megakernel / terkait), mereka memiliki mata yang besar untuk bakat dan saya pikir akan dapat membangun sesuatu yang sangat istimewa. Selamat atas peluncurannya dan saya menantikan apa yang Anda hasilkan!