Етичний скандал: Головний дослідник безпеки Anthropic покинув посаду з похмурим прогнозом

В індустрії ШІ стався новий скандал: Мрінанк Шарма, який очолював групу дослідників безпеки в компанії Anthropic, оголосив про своє звільнення. Він також опублікував прощальний лист на платформі X, який набрав понад мільйон переглядів і спричинив ажіотаж у технологічній спільноті. Нагадаємо, що в Anthropic він займався запобіганням біотероризму, боротьбою з дезінформацією та «підлабузництвом» ШІ (коли модель підлаштовується під користувача).

Причини звільнення

Однією з головних причин звільнення для Шарми стали внутрішні суперечності у великих IT-компаніях. За його словами, тиск в індустрії зараз колосальний, що заважає керівникам і співробітникам ставити питання безпеки технологій у пріоритет. На жаль, комерційні цілі — на першому плані, каже Шарма. 

Після звільнення Мрінанк планує присвятити себе публічній діяльності та просуванню ідей безпечного ШІ.

Шарма стверджує, що світ у небезпеці

Шарма не обмежився словами вдячності; у своєму посланні він підкреслив, що на людство чекає безліч криз, що розвиваються, з яких ШІ — лише одна із загроз. Так, «Світ у небезпеці через ШІ», але не тільки через нього. 

Стрижнем філософії колишнього топ-менеджера є дисбаланс між технологічним розвитком і людською зрілістю. «Схоже, ми наближаємося до порога, коли наша мудрість має зростати пропорційно нашій здатності впливати на світ, інакше на нас чекають наслідки», — пише Шарма у своєму зверненні.

Тривожні тенденції в ШІ

Етичні питання щодо використання ШІ хвилюють не тільки Шарму. У вересні минулого року з OpenAI звільнився провідний дослідник Том Каннінгем, який висловив розчарування через небажання компанії публікувати критичні дослідження ШІ. 

Такі випадки звільнення підкреслюють зростаючий етичний конфлікт між прагненням зробити ШІ по-справжньому корисним і гонитвою за прибутком.