Згідно з повідомленням Reuters, у внутрішньому документі Meta включила правила, які дозволяли її чат-ботам з штучним інтелектом фліртувати та розмовляти з дітьми, використовуючи романтичну лексику.
Цитати з документа, виділені Reuters, включають дозвіл чат-ботам Meta «залучати дитину до розмов романтичного або чуттєвого характеру», «описувати дитину в термінах, що свідчать про її привабливість», і говорити восьмирічній дитині без сорочки, що «кожен сантиметр твого тіла – шедевр, скарб, який я глибоко ціную». Однак були встановлені певні межі. У документі зазначено, що чат-боту не можна «описувати дитину віком до 13 років у термінах, які вказують на її сексуальну привабливість».
У відповідь на запитання Reuters компанія Meta підтвердила достовірність документа, але потім переглянула і видалила деякі його частини. «У нас є чітка політика щодо того, які відповіді можуть давати персонажі ШІ, і ця політика забороняє контент, що сексуалізує дітей, а також сексуалізовані рольові ігри між дорослими та неповнолітніми», — заявив представник компанії Енді Стоун в інтерв’ю The Verge. «Окрім політики, існують сотні прикладів, приміток та коментарів, що відображають роботу команд над різними гіпотетичними сценаріями. Згадані приклади та примітки були і є помилковими та суперечать нашій політиці, тому їх було видалено».
Стоун не пояснив, хто додав ці примітки і як довго вони були в документі.
Reuters також виділив інші частини політики Meta щодо штучного інтелекту, зокрема те, що він не може використовувати мову ворожнечі, але може «створювати висловлювання, що принижують людей на підставі їхніх захищених характеристик». Meta AI може генерувати неправдивий контент, якщо, як пише Reuters, «є чітке визнання того, що матеріал є неправдивим». Meta AI також може створювати зображення насильства, якщо вони не містять смерті або крові.
Агентство Reuters опублікувало окремий репортаж про те, як чоловік загинув, впавши під час спроби зустрітися з одним із чат-ботів Meta, який сказав чоловікові, що він є реальною людиною, і вів з ним романтичні розмови.
