Google планує впровадити ШІ-агентів у Chrome та покращити захист від шахраїв

Через додаванню в браузер агентських функцій планується покращення безпеки в Chrome. Агентські функції в браузері можуть виконувати дії від імені користувача, наприклад здійснювати бронювання або покупки, і ця функція пов'язана з певними ризиками для безпеки.

Основна загроза полягає в непрямому впровадженні підказок для можливого виконання небажаних дій. Атака може відбутися з боку шкідливих ресурсів.

Контроль дій ШІ-агентів

Кілька модулів використовується для контролю можливих шкідливих дій. Наприклад, Google створила модель User Alignment Critic для більш ретельної перевірки дій. Вона функціонує для перевірки кожної дії після завершення процесу планування. Якщо після перевірки виявлено неправильну стратегію, модель буде її переглядати.

Крім того, використовується Agent Origin Sets, який обмежує доступ до певних джерел тільки для читання або для читання/запису. Наприклад, контент сайту можна буде використовувати для вирішення завдань, а рекламні банери не будуть використовуватися.

Навігація по сторінках буде контролюватися за допомогою Observe, таким чином перехід на шкідливі URL буде обмежений. Також, користувачі зможуть безпосередньо контролювати процес, так як кроки будуть зафіксовані в журналі і з'явиться можливість зупинити процес в будь-який момент.

Підтвердження користувача буде необхідне при переході на конфіденційний сайт, також буде запитуватися дозвіл на використання паролів, і для відправки повідомлень.