Як і багато інших великих компаній, Meta наймає підрядників у свої проєкти. Сфера штучного інтелекту — не виняток. Видання Business Insider з’ясувало, що інженери, які працюють з Meta на аутсорсі, читають особисті переписки людей із ШІ, щоб покращувати роботу моделей.
Доступ до приватних розмов потрібен для оцінювання і перевірки відповідей штучного інтелекту на предмет їх персоналізації. Тобто, розробники у такий спосіб намагаються зробити чатботи максимально зорієнтованими на конкретну людину.
Meta запевнила журналістів, що дотримується “суворої політики” щодо того, кому надають доступ до персональних даних. Business Insider з’ясував, що інженерів наймають через інтернет-сервіси підготовки персоналу.
Із чотирма з них журналістам вдалося зв’язатися. Усіх їх корпорація найняла через платформи Outlier та Alignerr, де не лише Meta, а й Google та OpenAI теж підбирають собі персонал.
Всі четверо підтвердили, що під час роботи із великими мовними моделями Meta вони працювали з приватними переписками, які містили багато чутливої інформації. Наприклад, імена та прізвища, електронні адреси, номери телефонів, стать, хобі та навіть хтивки (еротичні селфі. — Ред.), які люди скидали чатботам.
У переписках із ШІ користувачі діляться своїми переживаннями, просять поради у тому числі з дуже особистих питань, аналізують симптоми захворювань. Вони грають в еротичні рольові ігри, ділячись із віртуальним співрозмовником сексуальними фантазіями. Усе це опрацьовували залучені ззовні інженери.
Чатботи з контентом 18+ є частиною комерційної політики Meta і популярною послугою, яку компанія пропонує користувачам. У квітні в західних медіа навіть спалахнув скандал. Тоді видання The Wall Street Journal з’ясувало, що штучний інтелект Meta вів інтимні переписки із неповнолітніми.
Зараз же завдяки Business Insider стало відомо, що історії обміну повідомленнями доступні третім особам. І відкриті дані дозволяють ідентифікувати та деанонімізувати людей, яким ці розмови належать.
Від претензій про порушення конфіденційності Meta захищена попередженням, що чутливу інформацію не варто передавати штучному інтелекту. Але користувачі далеко не завжди читають ці зауваги від розробника.
Двоє з чотирьох підрядників виконували схожу роботу і для інших великих компаній. Вони свідчать, що практика відкриття доступу до історії переписок для третіх осіб — звична в середовищі розробників.
В контексті цієї історії, а також випадку з індексацією в Google більше 4000 переписок людей із ChatGPT експерти з кібербезпеки радять бути дуже обачними із штучним інтелектом. Директорка Лабораторії управління штучним інтелектом Міранда Боген наголосила: ніколи не варто сприймати переписки із чатботами як приватні.
