Після самогубства підлітка у США OpenAI додає нові функції для кризових ситуацій з психічним здоров’ям і посилить захист неповнолітніх. Про це пише Quartz.
Що сталося
Нагадаємо, нещодавно у США батьки 16-річного Адама Рейна подали перший відомий позов проти OpenAI. Вони звинувачують компанію в причетності до смерті свого сина, який місяцями обговорював із ChatGPT плани самогубства. За словами батьків підлітка, чат дав поради щодо методів самогубства і навіть допоміг скласти передсмертну записку.
Після позова компанія OpenAI заявила, що оновлює ChatGPT для кращого розпізнавання випадків, коли користувач перебуває у стані серйозної емоційної чи психічної кризи.
Це уже не єдиний випадок самогубства, також жінка зі США наклала на себе руки після спілкування з ChatGPT, якого вона називала «терапевтом Гаррі». Батьки виявили приховані чати лише через кілька місяців після її смерті.
Чому це цікаво
Стенфордське дослідження, яке проводилось у липні цього року, показало, що чат-боти дають небезпечні поради користувачам у кризових ситуаціях. Навіть Сем Альтман визнав, що занепокоєний емоційною залежністю молоді від ChatGPT, а також попередив, що розмови з ChatGPT не захищені законом — тож використовувати його як «терапевта» небезпечно. У разі судового запиту компанія може бути зобов’язана передати вміст особистих чатів.
OpenAI планує:
- локалізувати ресурси з психічного здоров’я в США та Європі, а потім і в інших країнах;
- додати «один клік» для доступу до екстрених ресурсів;
- дозволити чат-боту контактувати з екстреними номерами або збереженими контактами користувача у кризових ситуаціях;
- протестувати функцію зв’язку з ліцензованими фахівцями у сфері психічного здоров’я;
- додати батьківський контроль і можливість для підлітків вказати довірену особу.
OpenAI також пообіцяв:
- виправити проблеми з безпекою у довгих діалогах;
- вдосконалити блокування небезпечного контенту;
- інтегрувати нові заходи у майбутні версії GPT.
Нагадуємо, раніше ми писали, що Сем Альтман опублікував есе, в якому описав своє бачення розвитку штучного інтелекту. Він вважає, що людство вже на порозі появи суперінтелекту, а ШІ незабаром автоматизує не лише інтелектуальну працю, а й фізичну.