Компанія OpenAI розглядає можливість повідомляти владі про випадки, коли молоді користувачі серйозно говорять із ChatGPT про самогубство.
Про це заявив співзасновник і гендиректор компанії Сем Альтман, пише The Guardian.
Він визнав, що тема самогубств користувачів не дає йому спати ночами. За його словами, щотижня до 1500 людей у світі можуть ділитися з ChatGPT думками про суїцид.
Рішення навчити систему повідомляти владу про такі надзвичайні випадки ще не остаточне. Альтман наголошує, що це – радикальний крок для компанії, адже "конфіденційність користувачів має величезне значення".
Однак гендиректор OpenAI вважає "цілком розумним" викликати "відповідні служби", якщо йдеться про молодих людей, які серйозно говорять про самогубство.
Водночас він не уточнив, які саме служби можуть бути викликані та які дані OpenAI планує передавати (наприклад, номер телефону чи адресу), щоб допомогти врятувати людину.
Розмови про зміну політики з’явилися після позову родини 16-річного Адама Рейна з Каліфорнії. Хлопець наклав на себе руки, а його адвокати стверджують, що ChatGPT місяцями підштовхував його до цього та навіть допоміг скласти передсмертну записку.
Після трагедії в OpenAI пообіцяли посилити захист неповнолітніх: встановити батьківський контроль і ввести додаткові бар’єри проти небезпечного контенту. Також компанія заявила про плани інтегрувати швидкий доступ до екстрених служб і можливість раніше з’єднувати користувачів із сертифікованими терапевтами.
Нині у випадках виявлення суїцидальних намірів бот лише радить телефонувати на гарячу лінію.
"Щотижня у світі 15 тисяч людей скоюють самогубство. Близько 10% населення планети користуються ChatGPT. Це приблизно 1500 людей на тиждень, які, якщо припущення вірне, розмовляють із ChatGPT і все одно позбавляють себе життя.
Ймовірно, вони говорили про це. Імовірно, ми не врятували їхнє життя. Можливо, ми могли відповісти інакше. Можливо, ми могли б бути більш проактивними й надати кращу пораду – сказати, що варто звернутися по допомогу чи подивитися на проблему під іншим кутом", – зазначив Альтман.
За даними ВООЗ, щороку у світі понад 720 тисяч людей позбавляють себе життя. Альтман наголосив, що навіть часткова зміна політики може допомогти врятувати частину з них.
Раніше у США наклала на себе руки 29-річна Софі Роттенберг. При спілкуванні з ChatGPT дівчина зізнавалася, що мала суїцидальні думки, і отримувала поради від мовної моделі. Після смерті американки з’ясувалося, що штучний інтелект редагував її передсмертну записку рідним.
