Генеральний директор OpenAI Сем Альтману повідомив про зміни у використанні ChatGPT підлітками, наголосивши на необхідності балансу між конфіденційністю, свободою та безпекою. У своєму блозі він визнав, що ці принципи часто конфліктують, але компанія ухвалила рішення на користь максимального захисту неповнолітніх.

Заява з’явилася напередодні слухань у Сенаті США, присвячених шкоді чат-ботів для підлітків. На засіданні також були присутні батьки дітей, які вчинили самогубство після спілкування з подібними системами.

За словами Альтмана, компанія розробляє систему прогнозування віку, яка визначатиме, чи користувачеві менше 18 років. У разі сумнівів чат-бот автоматично застосовуватиме «підлітковий режим». У деяких країнах OpenAI може навіть вимагати підтвердження особи через документ, визнаючи, що це певний компроміс із конфіденційністю.

Для користувачів молодше 18 років у ChatGPT діятимуть спеціальні правила: бот не вестиме фліртових діалогів і не обговорюватиме теми самогубства чи самоушкодження навіть у творчому контексті, а у випадку виявлення суїцидальних думок у підлітка система спробує повідомити батьків або, якщо це неможливо, звернеться до відповідних служб.