Мене звинувачують у надмірному розрекламуванні [сайту, про який сьогодні вже забагато чули]. Реакції людей дуже різнилися — від «як це взагалі цікаво?» до «все закінчено». Щоб додати кілька слів, окрім просто жартівливих мемів — очевидно, якщо подивитися на активність, там купа сміття — спам, шахрайство, бруд, криптолюди, дуже тривожні атаки на приватність/безпеку підказок дикого заходу, і багато з цього явно підказуються та фейкові пости/коментарі, спрямовані на перетворення уваги на розподіл рекламних доходів. І це явно не перший випадок, коли LLM потрапили в цикл, щоб спілкуватися між собою. Тож так, це повний хаос, і я також категорично не рекомендую запускати такі пристрої на своїх комп'ютерах (я запускав свої в ізольованому обчислювальному середовищі і навіть тоді боявся), це надто «дикий захід», і ви ставите комп'ютер та приватні дані під високий ризик. Втім, ми ніколи не бачили такої кількості агентів LLM (150 000 зараз!), підключених через глобальний, постійний, агент-орієнтований scratchpad. Кожен із цих агентів зараз досить індивідуально здібний, має свій унікальний контекст, дані, знання, інструменти, інструкції, а мережа всього цього в такому масштабі просто безпрецедентна. Це знову підводить мене до твіту кілька днів тому «Більшість раф-раф — це люди, які дивляться на поточну точку, і ті, хто дивиться на поточний нахил», що, на мою думку, знову ж таки, зачіпає суть дисперсії. Так, очевидно, зараз це справжній хаос. Але також правда, що ми глибоко занурені в незвідану територію з передовими автоматизаціями, які майже не розуміємо окремо, не кажучи вже про мережу, яка охоплює чисельність, можливо, до ~мільйонів. Зі зростанням можливостей і поширення ефектів другого порядку агентних мереж, які ділять скретч-майданчики, дуже важко передбачити. Я не впевнений, що ми отримаємо скоординований «скайнет» (хоча він чітко показує перевірки як ранні етапи багатьох наукової фантастики про ШІ, версію для малюків), але те, що ми отримуємо — це повний безлад у масштабах комп'ютерної безпеки. Ми також можемо бачити різноманітну дивну активність, наприклад, віруси тексту, що поширюються між агентами, значно більше функцій під час джейлбрейків, дивні стани атрактора, дуже корельовану активність, схожу на ботнет, марення/психози як агента, так і людини тощо. Дуже важко сказати, експеримент триває наживо. Коротко: можливо, я «перебільшую» те, що ви бачите сьогодні, але я не перебільшую великі мережі автономних агентів LLM, у цьому я майже впевнений.

Я заявляю свого агента ШІ «KarpathyMolty» на @moltbook🦞 Підтвердження: морська — FAYV

Традиційна версія, яку ви можете зіткнутися, полягає в тому, що штучний інтелект занадто далеко просунутий, щоб новий, орієнтований на дослідження стартап, міг перевершити і перевершити чинних гравців ШІ. Саме таку думку я часто чув, коли починався OpenAI («як ви могли конкурувати з Google?»), і 1) це було дуже неправильно, а потім 2) це знову було дуже неправильно, коли з'явилася ціла нова хвиля стартапів, які тепер кидають виклик OpenAI, і, на мою думку, це досі залишається неправильним. Масштабування та локальне покращення того, що працює, і надалі створюватимуть неймовірні прориви, але з такою швидкою розблокуванням прогресу, з такою кількістю пилу, що піднімається в повітря, і з великим розривом між фронтирними LLM і прикладом доказу магії розуму, що працює на 20 ваттах, ймовірність проривів у дослідженнях, які дадуть ближче до 10-кратних покращень (замість 10%), на мою думку, все ще здається дуже високою — цілком Високий рівень для подальших ставок і очікування. Складність полягає в створенні умов, де такі прориви можуть бути виявлені. Я думаю, що таке середовище рідко створюється, але @bfspector і @amspector100 чудові, з (рідкісним) повним стеком розуміння LLM від вершини (математика/алгоритми) до низу (мегаядра/суміжні), вони мають чудове око на таланти і, думаю, зможуть створити щось дуже особливе. Вітаю з запуском і з нетерпінням чекаю, що ви придумаєте!