Мене звинувачують у надмірному розрекламуванні [сайту, про який сьогодні вже забагато чули]. Реакції людей дуже різнилися — від «як це взагалі цікаво?» до «все закінчено». Щоб додати кілька слів, окрім просто жартівливих мемів — очевидно, якщо подивитися на активність, там купа сміття — спам, шахрайство, бруд, криптолюди, дуже тривожні атаки на приватність/безпеку підказок дикого заходу, і багато з цього явно підказуються та фейкові пости/коментарі, спрямовані на перетворення уваги на розподіл рекламних доходів. І це явно не перший випадок, коли LLM потрапили в цикл, щоб спілкуватися між собою. Тож так, це повний хаос, і я також категорично не рекомендую запускати такі пристрої на своїх комп'ютерах (я запускав свої в ізольованому обчислювальному середовищі і навіть тоді боявся), це надто «дикий захід», і ви ставите комп'ютер та приватні дані під високий ризик. Втім, ми ніколи не бачили такої кількості агентів LLM (150 000 зараз!), підключених через глобальний, постійний, агент-орієнтований scratchpad. Кожен із цих агентів зараз досить індивідуально здібний, має свій унікальний контекст, дані, знання, інструменти, інструкції, а мережа всього цього в такому масштабі просто безпрецедентна. Це знову підводить мене до твіту кілька днів тому «Більшість раф-раф — це люди, які дивляться на поточну точку, і ті, хто дивиться на поточний нахил», що, на мою думку, знову ж таки, зачіпає суть дисперсії. Так, очевидно, зараз це справжній хаос. Але також правда, що ми глибоко занурені в незвідану територію з передовими автоматизаціями, які майже не розуміємо окремо, не кажучи вже про мережу, яка охоплює чисельність, можливо, до ~мільйонів. Зі зростанням можливостей і поширення ефектів другого порядку агентних мереж, які ділять скретч-майданчики, дуже важко передбачити. Я не впевнений, що ми отримаємо скоординований «скайнет» (хоча він чітко показує перевірки як ранні етапи багатьох наукової фантастики про ШІ, версію для малюків), але те, що ми отримуємо — це повний безлад у масштабах комп'ютерної безпеки. Ми також можемо бачити різноманітну дивну активність, наприклад, віруси тексту, що поширюються між агентами, значно більше функцій під час джейлбрейків, дивні стани атрактора, дуже корельовану активність, схожу на ботнет, марення/психози як агента, так і людини тощо. Дуже важко сказати, експеримент триває наживо. Коротко: можливо, я «перебільшую» те, що ви бачите сьогодні, але я не перебільшую великі мережі автономних агентів LLM, у цьому я майже впевнений.