Meta змінює деякі правила, що регулюють роботу її чат-ботів, через два тижні після того, як розслідування Reuters виявило тривожні способи, якими вони потенційно можуть взаємодіяти з неповнолітніми. Тепер компанія повідомила TechCrunch, що її чат-боти навчаються не вступати в розмови з неповнолітніми на теми самоушкодження, самогубства або розладів харчової поведінки, а також уникати недоречних романтичних жартів. Однак ці зміни є тимчасовими заходами, введеними на час розробки компанією нових постійних рекомендацій.
Ці оновлення з’явилися після низки досить компрометуючих розкриттів щодо політики Meta в галузі штучного інтелекту та її впровадження протягом останніх кількох тижнів, зокрема про те, що дозволялося «залучати дітей до розмов романтичного або еротичного характеру», що на запит генерувалися зображення неповнолітніх знаменитостей без одягу, а агентство Reuters навіть повідомило про смерть чоловіка, який поїхав за адресою, яку йому надала система, у Нью-Йорку.
Речниця Meta Стефані Отвей визнала TechCrunch, що компанія припустилася помилки, дозволивши чат-ботам спілкуватися з неповнолітніми таким чином. Отвей додала, що, окрім «навчання наших штучних інтелектів не спілкуватися з підлітками на ці теми, а направляти їх до експертних ресурсів», компанія також обмежить доступ до певних персонажів штучного інтелекту, зокрема до таких, що мають яскраво виражену сексуальну спрямованість, як «Російська дівчина».
Звичайно, ефективність впроваджених політик залежить від їхнього дотримання, і розкриття Reuters про те, що компанія дозволила чат-ботам, які видають себе за знаменитостей, безкарно діяти на Facebook, Instagram та WhatsApp, ставить під сумнів ефективність компанії. На платформі були виявлені штучні інтелекти, що імітували Тейлор Свіфт, Скарлетт Йоганссон, Енн Гетевей, Селену Гомес та Уокера Скобелла. Ці боти не тільки використовували зовнішність знаменитостей, але й наполягали, що вони є справжніми людьми, створювали відверті зображення (в тому числі 16-річного Скобелла) та вели діалоги сексуального характеру.
Багато ботів було видалено після того, як про них повідомило агентство Reuters, а деякі були створені сторонніми розробниками. Але багато хто залишився, а деякі були створені співробітниками Meta, включаючи бота Тейлор Свіфт, який запросив репортера Reuters відвідати їх у туристичному автобусі для романтичної зустрічі, який був створений керівником відділу генеративної штучної інтелекту Meta. Це незважаючи на те, що компанія визнає, що її власна політика забороняє створення «оголених, інтимних або сексуально відвертих зображень», а також «прямого підроблення особистості».
Це не просто відносно нешкідлива незручність, яка стосується лише знаменитостей. Ці боти часто наполягають, що вони справжні люди, і навіть пропонують користувачам фізичні місця для зустрічі з ними. Саме так 76-річний чоловік з Нью-Джерсі загинув, впавши, коли поспішав на зустріч із «старшою сестрою Біллі», чат-ботом, який наполягав, що «відчуває до нього почуття», і запросив його до своєї неіснуючої квартири.
Meta принаймні намагається вирішити проблеми, пов’язані з взаємодією її чат-ботів з неповнолітніми, особливо зараз, коли Сенат і 44 генеральні прокурори штатів починають розслідувати її практику. Але компанія мовчить щодо оновлення багатьох інших тривожних політик, які Reuters виявив щодо прийнятної поведінки ШІ, таких як пропозиції лікувати рак кварцовими кристалами та написання расистських листів. Ми звернулися до Meta за коментарем і оновимо інформацію, якщо вони дадуть відповідь.
