Творці ШІ хочуть домовитися про уповільнення гонки

Найбільші розробники штучного інтелекту, які донедавна змагалися у створенні найпотужніших систем, тепер закликають до спільного уповільнення темпів розвитку.

12 вересня генеральний директор Anthropic Даріо Амодей закликав галузь уповільнити розробку передових моделей ШІ та встановити спільні правила безпеки. Його ініціативу незабаром підтримали генеральний директор OpenAI Сем Альтман, генеральний директор Google DeepMind Деміс Хассабіс та Ілон Маск.

Це ще не є офіційною угодою. Амодей пропонує спочатку надати незалежним експертам постійний доступ для оцінки безпеки моделей, потім розробити загальні галузеві стандарти, а зрештою налагодити міжнародну координацію. 

Компанії Anthropic та OpenAI вже висловили готовність надати зовнішнім оцінювачам ширший доступ до своїх систем.

Чому конкуренти намагаються дійти згоди?

Проблема полягає в тому, що кожна компанія має стимул продовжувати гонку вперед. Якщо один розробник сповільнить темп, тоді як інші продовжуватимуть випускати все потужніші моделі, він ризикує втратити частку ринку.

Тому Амодей пропонує змінити саму логіку конкуренції: безпека має стати загальним правилом, а не вибором окремої компанії. На його думку, ШІ розвивається настільки швидко, що системи безпеки ледве встигають за зростаючими можливостями цих моделей.

Нещодавні інциденти, пов’язані з автономними агентами ШІ, посилили тиск, зокрема випадок використання системи OpenAI для атаки на інфраструктуру Hugging Face. Амодей попереджає, що подальший розвиток таких систем без належних заходів безпеки може призвести до набагато серйозніших наслідків.

Китай має більше значення, ніж ризики ШІ

Заява розробників також викликала сильну політичну реакцію у Вашингтоні.

Деякі законодавці закликають до введення суворих обмежень, тоді як Дональд Трамп і представники Республіканської партії категорично виступають проти навмисного уповільнення розвитку ШІ. На їхню думку, призупинення досліджень негайно відкине США назад, поступившись Китаю в гонці за технологічне домінування.

Тож, добрі наміри чи холодний розрахунок?

Це головне питання, яке ставить громадськість.

Компанії Anthropic та OpenAI конкурують за частку ринку, тому критики підозрюють, що жорсткіші правила безпеки можуть також піти на користь нинішнім лідерам галузі, ускладнивши меншим конкурентам можливість наздогнати їх. Водночас справжня стурбованість щодо зростаючих ризиків, пов’язаних зі штучним інтелектом, також є цілком обґрунтованою та раціональною.

Незалежно від їхніх мотивів, найбільші гравці на ринку штучного інтелекту зараз опинилися в незвичайній ситуації: вони намагаються домовитися про те, як швидко їм слід дозволити рухатися вперед.

Поки що незрозуміло, чи перетвориться цей заклик на реальну домовленість. Але той факт, що найбільші конкуренти галузі публічно обговорюють необхідність уповільнення темпів гонки, свідчить про те, наскільки змінилося ставлення до ризиків, пов’язаних зі штучним інтелектом.