У Gmail виявили нову вразливість: зловмисники можуть використовувати ШІ-асистентів, аби отримати доступ до листів і даних без вашої участі. Про це пише американський Forbes.
Що сталося
Дослідники показали, як за допомогою штучного інтелекту можна зламати Gmail і дістати особисті листи користувача. Для цього зловмисники використовують так звані атаки «швидкого впровадження»: приховані інструкції в календарях, листах чи вкладеннях. Людина їх не бачить, але ШІ-асистент виконує команди, навіть якщо вони шкідливі.
Один із дослідників продемонстрував, як ChatGPT злив дані з чужої пошти, отримавши лише адресу жертви. «Агенти штучного інтелекту виконують команди, а не здоровий глузд», — попереджають фахівці.
Зловмисники навчилися обманювати не користувачів напряму, а їхніх цифрових помічників. У випадку Gmail атака починається з шкідливого запрошення в календар: вам навіть не треба його приймати, щоб стати жертвою зламу.
Що далі
Для захисту вам необхідно:
- Увімкнути в Google Calendar опцію «дозволяти події лише від відомих відправників».
- Використовувати налаштування Gmail, які вже блокують понад 99,9% спаму та фішингу.
- Стежити, щоб ШІ-асистенти мали обмежені дозволи на доступ до пошти та календарів.
У Google кажуть, що вже тренують моделі машинного навчання для виявлення таких прихованих підказок. Але попереджають, що штучний інтелект легко можна обдурити.