Сотні тисяч чатів користувачів Grok, чат-бота на основі штучного інтелекту від компанії Ілона Маска xAI, опинилися у відкритому доступі в пошуковій системі Google. Ймовірно, це стало можливим через функцію “поділитися стенограмою”, яка створює унікальне посилання для передачі розмови. Виявилося, що ці посилання не лише надсилалися цільовим отримувачам, але й ставали доступними для індексації в Інтернеті, повідомляє BBC.

Пошук у Google 21 серпня показав близько 300 тисяч розмов, що стали публічними. Видання Forbes, яке першим повідомило про проблему, нарахувало понад 370 тисяч індексованих стенограм. Серед них – прохання користувачів до Grok згенерувати безпечний пароль, скласти план харчування, надати поради щодо здоров’я або відповісти на інші особисті запити. Деякі розмови демонстрували спроби перевірити межі можливостей чат-бота. У одному з прикладів, який переглянула BBC, бот навіть надав інструкцію створення наркотичного препарату класу А. BBC звернулася за коментарем до компанії xAI. 

Подібні ситуації вже траплялися й з іншими сервісами. Так, OpenAI раніше скасував експеримент, у рамках якого чати ChatGPT, поширені користувачами, з’являлися в результатах пошуку. Речник компанії наголосив, що розмови за замовчуванням є приватними, а поширення можливе лише за згодою користувачів. Раніше Meta також зазнала критики після того, як спільні розмови з її чат-ботом Meta AI відображалися у відкритій стрічці “відкриття” в застосунку.

Експерти попереджають про серйозні ризики. Люк Роше, доцент Оксфордського інтернет-інституту, назвав ситуацію “тривалою катастрофою конфіденційності”. За його словами, витоки таких даних можуть містити імена, місцеперебування, деталі про психічне здоров’я, бізнес чи особисті стосунки, а після потрапляння в інтернет інформацію видалити вже неможливо.

Карісса Веліз, доцентка філософії Інституту етики штучного інтелекту Оксфордського університету, додала, що проблема полягає у відсутності прозорості. 

“Наші технології навіть не пояснюють, що відбувається з нашими даними. І це проблема”, – заявила Веліз.

Нещодавно повідомлялося, що дослідники Стенфордського університету розробили нейрокомп'ютерний інтерфейс, що здатен перетворювати внутрішнє мовлення людини на текст з точністю до 74%. Технологія працює шляхом зчитування нейронної активності в моторній корі мозку, відповідальній за формування мовлення. Це відкриває значні перспективи для відновлення здатності спілкуватися у людей, які не можуть говорити.