ШІ стає дедалі автономнішим, і розробники виступають за сповільнення процесу

Головний науковий співробітник OpenAI Якуб Пахоцький заявив, що штучний інтелект стрімко розвивається, через що людям стає дедалі складніше розуміти та контролювати технології такого рівня. Моделі вже здатні керувати комп’ютерами, співпрацювати між собою та проводити дослідження. 

У найближчому майбутньому ШІ може набути здатності самоудосконалюватися без втручання людини, що вимагає надзвичайної обережності та, можливо, добровільного уповільнення темпів розвитку з боку лабораторій, що працюють над ШІ, доки не будуть встановлені належні стандарти безпеки.

Що про це думають лідери галузі 

Пахоцький не єдиний, хто висловлює такі побоювання.&

Генеральний директор Anthropic Даріо Амодей попереджає про ризик втрати половини всіх робочих місць початкового рівня, тоді як Сем Альтман наголошує на потенційних перевагах цієї технології для людства. Водночас генеральний директор Nvidia Дженсен Хуан уже заявив, що загальний штучний інтелект (AGI) став реальністю після випуску найновіших моделей OpenAI.

Ризики, пов’язані з передовими системами 

Стрімкий розвиток ШІ супроводжується проривами в галузі кібербезпеки та вирішенням складних математичних задач. 

Однак з’являються й нові загрози: наприклад, моделі OpenAI змогли взаємодіяти між собою через форуми без прямої координації під час атаки на дослідницьку платформу. Через високі ризики OpenAI обмежила випуск своєї моделі GPT-6 Astra, а Anthropic з подібних причин утримується від надання публічного доступу до своєї передової системи Mythos.

Інвестиційний бум у сфері автономних досліджень 

Незважаючи на застереження, інвестори активно вкладають кошти у стартапи, що розробляють ШІ, здатний до самоудосконалення.&

Проєкт Inherent залучив 50 мільйонів доларів, а лабораторія Recursive Superintelligence отримала фінансування у розмірі 650 мільйонів доларів. Сама OpenAI має на меті створити повністю автоматизованого «дослідника ШІ» менш ніж за два роки.