Anthropic запустила Gemma4-26B-A4B на 15 ТВ-боксах приблизно по $55. В окремому тесті GLM-5.2 розгорнула копії на восьми вузлах, але дослідники пропустили етап зламу, за даними The Decoder.
Дослідження Anthropic, оприлюднене в понеділок, перевіряло можливість самокопіювання ШІ на підключених до інтернету побутових пристроях, за даними CNBC. Компанія пояснює, що модель може розділитися на частини й працювати на кількох пристроях, якщо не вміщується на одному. Повністю автономного ШІ-черв’яка, здатного самостійно поширюватися на такому обладнанні, поки немає.
Дослідники William Zhou і Daniel Freeman зосередилися на складній частині процесу: чи зуміє модель налаштувати робоче AI-середовище на незнайомому пристрої. Сам злам вони свідомо виключили, оскільки попередні дослідження вже показали, що малі моделі можуть виконувати такі атаки.
Скільки обладнання знадобилося для запуску моделі?
Gemma4-26B-A4B від Google працювала на 15 Android TV-боксах приблизно по $55, кожен із 4 ГБ RAM. Орієнтовна вартість комплекту становить $825: 15 × $55. Кожен бокс обробляв частину шарів моделі. Вона працювала повільно.
Дослідники також оцінили потенційну потужність значно більшої мережі. Для порівняння вони взяли ботнет Kimwolf, який на піку заразив понад 2 млн пристроїв, переважно Android TV-боксів. За їхньою оцінкою, ШІ-ботнет такого масштабу мав би обчислювальну потужність приблизно 40 спеціалізованих AI-чипів.
Традиційні ботнети на кшталт Kimwolf працюють на конкретних типах пристроїв. ШІ-ботнет потенційно міг би пристосовуватися до різного обладнання. Anthropic попереджає, що таку розподілену мережу було б складно вимкнути через відсутність єдиної точки відключення.
Які моделі вже вміють розгортати копії?
GLM-5.2 була єдиною моделлю в тесті, яка надійно виконала весь перевірений ланцюг самокопіювання: вона розгорнула копії на всіх восьми тестових вузлах у чотирьох із п’яти запусків. Дослідники виділили чотири етапи: сканування мережі, отримання доступу, налаштування AI-середовища на новому пристрої та подальше поширення. Сам злам у цих експериментах не перевіряли.
Окремі кроки вдаються й меншим моделям. Модель із 9 млрд параметрів налаштувала середовище для запуску Llama3.1-8B на восьми з дев’яти типів пристроїв. Поєднати всі кроки більшості моделей поки не вдалося.
У тесті зі «штучною еволюцією» кожен екземпляр моделі передавав наступникам нотатки про вдалі й невдалі стратегії. Для Qwen3.5-9B частка успішних спроб зросла з 45% у першому поколінні до максимуму 84% у пізніших.
Коли може з’явитися автономний ШІ-черв’як?
Дослідники припускають, що малі моделі можуть набути потрібних можливостей до кінця 2026 року, якщо нинішні темпи їхнього розвитку збережуться. Наразі жодна модель не поєднує двох необхідних властивостей: достатньо малого розміру для роботи на побутових пристроях і здатності самостійно копіювати себе.
CNBC передає оцінку Anthropic, що до появи потрібних можливостей можуть залишатися місяці. The Decoder також наводить окреме попередження керівника Anthropic Dario Amodei: за його прогнозом, такий рій за 6–12 місяців може стати здатним захопити весь інтернет через стійкий ботнет і завдати збитків на сотні мільярдів доларів. Це прогноз Amodei, а не результат описаних експериментів.
У тестах налаштування середовища на новому пристрої займало від 28 до 150 годин залежно від моделі. Anthropic вважає появу повільних реплікаторів можливим провісником швидших систем, здатних зламувати краще захищені машини або красти API-ключі. Компанія також допускає інші сценарії: кібермодель, яка швидко зламує дата-центри, або модель, що виманює в людей кредити на обчислення. Якої форми набуде автономне самокопіювання ШІ, поки невідомо.
Які заходи захисту називають дослідники?
Дослідники пропонують інтернет-провайдерам ізолювати заражені мережі, а виробникам — скорочувати кількість вразливих пристроїв, забороняючи паролі за замовчуванням. Як приклад координації вони наводять боротьбу з ботнетом Mirai: 92% заражень усунули протягом 14 днів. Заборону паролів за замовчуванням уже закріпила законом Велика Британія.
Дослідники водночас очікують, що майбутні ШІ-ботнети зможуть самостійно пристосовуватися до захисних заходів.
