Кілька нинішніх і колишніх дослідників OpenAI висловлюють свою думку щодо першого виходу компанії в соціальні медіа: додатку Sora, стрічки в стилі TikTok, наповненої відео, створеними за допомогою штучного інтелекту, та великою кількістю депфейків Сема Альтмана. Дослідники, висловлюючи свої скарги на X, здаються розгубленими щодо того, як запуск цього додатку вписується в некомерційну місію OpenAI щодо розробки передового штучного інтелекту, який приносить користь людству.
«Фід на основі штучного інтелекту лякає», — написав дослідник OpenAI з попереднього навчання Джон Холлман у дописі на X. «Не буду заперечувати, що я відчув певне занепокоєння, коли вперше дізнався, що ми випускаємо Sora 2. Проте, я вважаю, що команда зробила все можливе, щоб створити позитивний досвід… Ми зробимо все, щоб штучний інтелект допомагав людству, а не шкодив йому».
Боаз Барак, інший дослідник OpenAI і професор Гарвардського університету, відповів: «Я поділяю подібне поєднання занепокоєння та захоплення. Sora 2 є технічно дивовижною, але ще зарано вітати себе з тим, що ми уникнули пасток інших соціальних медіа-додатків та дипфейків».
Колишній дослідник OpenAI Рохан Пандей скористався моментом, щоб рекламувати новий стартап Periodic Labs, який складається з колишніх дослідників лабораторії штучного інтелекту, що намагаються створити системи штучного інтелекту для наукових відкриттів: «Якщо ви не хочете створювати нескінченну машину штучного інтелекту TikTok, а хочете розвивати штучний інтелект, який прискорює фундаментальну науку… приєднуйтесь до нас у Periodic Labs».
Було багато інших дописів на цю ж тему.
Запуск Sora підкреслює основну напругу для OpenAI, яка спалахує раз за разом. Це найшвидше зростаюча споживча технологічна компанія на Землі, але це також передова лабораторія штучного інтелекту з високими некомерційними цілями. Деякі колишні співробітники OpenAI, з якими я розмовляв, стверджують, що споживчий бізнес, теоретично, може служити місії: ChatGPT допомагає фінансувати дослідження в галузі штучного інтелекту та широко поширювати цю технологію.
Генеральний директор OpenAI Сем Альтман сказав про це в дописі на X Wednesday, пояснюючи, чому компанія виділяє стільки капіталу та обчислювальної потужності на соціальний медіа-додаток на базі штучного інтелекту:
«Нам в основному потрібен капітал для створення штучного інтелекту, здатного займатися наукою, і, звичайно, ми зосереджуємо майже всі наші дослідницькі зусилля на AGI», — сказав Альтман. «Також приємно показувати людям нові цікаві технології/продукти, викликати у них посмішку і, сподіваємося, заробити трохи грошей, враховуючи всі ці обчислювальні потреби».
«Коли ми запустили chatgpt, було багато питань «кому це потрібно і де ж AGI», — продовжив Альтман. «Реальність є більш тонкою, коли йдеться про оптимальні траєкторії розвитку компанії».
Але в який момент споживчий бізнес OpenAI перевершить його некомерційну місію? Іншими словами, коли OpenAI відмовляється від можливості заробити гроші та розширити платформу, оскільки це суперечить його місії?
Це питання постає на тлі ретельного вивчення регуляторними органами переходу OpenAI до комерційної діяльності, який OpenAI необхідно завершити, щоб залучити додатковий капітал і зрештою вийти на біржу. Генеральний прокурор Каліфорнії Роб Бонта минулого місяця заявив, що він «особливо зацікавлений у тому, щоб заявлена місія OpenAI як некомерційної організації щодо забезпечення безпеки залишалася на першому плані» під час реструктуризації.
Скептики відкидають місію OpenAI як інструмент брендингу для залучення талантів з великих технологічних компаній. Але багато інсайдерів OpenAI наполягають, що саме це було головним мотивом, чому вони приєдналися до компанії.
Наразі вплив Sora невеликий; додатку лише один день. Але його дебют знаменує значне розширення споживчого бізнесу OpenAI і відкриває компанію для стимулів, які десятиліттями турбували додатки соціальних медіа.
На відміну від ChatGPT, який оптимізовано для корисності, OpenAI заявляє, що Sora створено для розваги — це місце для створення та обміну кліпами з використанням штучного інтелекту. Фід нагадує TikTok або Instagram Reels — платформи, які мають погану репутацію через свої затягуючі цикли.
OpenAI наполягає, що хоче уникнути цих пасток, стверджуючи в блозі, де оголошується про запуск Sora, що «занепокоєння щодо доумскролінгу, залежності, ізоляції та оптимізованих для RL-слотів фідів є головними пріоритетами». Компанія чітко заявляє, що не оптимізує час, проведений у фіді, а натомість хоче максимізувати творчість. OpenAI заявляє, що надсилатиме користувачам нагадування, коли вони занадто довго прокручують фід, і в першу чергу показуватиме їм людей, яких вони знають.
Це сильніша відправна точка, ніж Meta’s Vibes — інший короткометражний відеоканал на базі штучного інтелекту, випущений минулого тижня, який, здається, був випущений без таких захисних заходів. Як колишній керівник OpenAI з питань політики, Майлз Брандаж зазначає, що можливі як хороші, так і погані застосування відеоканалів на базі штучного інтелекту, подібно до того, що ми бачили в епоху чат-ботів.
Проте, як давно визнав Альтман, ніхто не ставить собі за мету створити додаток, що викликає залежність. До цього їх підштовхують стимули, пов’язані з управлінням стрічкою. OpenAI навіть зіткнулася з проблемами, пов’язаними з підлещуванням у ChatGPT, що, за словами компанії, було ненавмисним через деякі її методи навчання.
У червневому подкасті Альтман обговорив те, що він називає «великим розбіжністю соціальних медіа».
«Однією з великих помилок епохи соціальних медіа було те, що алгоритми новинних стрічок мали низку ненавмисних негативних наслідків для суспільства в цілому і, можливо, навіть для окремих користувачів. Хоча вони робили те, чого хотів користувач — або те, що хтось вважав, що користувачі хочуть — в той момент, а саме змушували їх продовжувати проводити час на сайті».
Ще зарано говорити про те, наскільки додаток Sora відповідає потребам користувачів або місії OpenAI. Користувачі вже помічають у додатку деякі техніки оптимізації взаємодії, наприклад динамічні емодзі, які з’являються щоразу, коли вам подобається відео. Це, здається, розроблено для того, щоб викликати у користувачів невеликий викид дофаміну за взаємодію з відео.
Справжнім випробуванням буде те, як OpenAI розвиватиме Sora. З огляду на те, наскільки штучний інтелект захопив звичайні стрічки соціальних мереж, здається ймовірним, що стрічки, створені на основі штучного інтелекту, незабаром можуть мати свій момент слави. Чи зможе OpenAI розвивати Sora, не повторюючи помилок своїх попередників, ще невідомо.
