Компанія OpenAI заблокувала російські акаунти ChatGPT за поширення дезінформації

Про це повідомили в пресслужбі OpenAI.

За даними компанії, під час розслідування публікацій у соцмережах, створених за допомогою штучного інтелекту, фахівці виявили масштабну операцію. Дії її операторів були здебільшого спрямовані на просування Міжнародного інституту Берка (IBI) — самопроголошеної «експертної спільноти» з Ізраїлю.

У результаті розслідування було заблоковано групу акаунтів ChatGPT, які, найімовірніше, походять з Росії. За даними OpenAI, у РФ немає офіційного доступу до моделей компанії, тому користувачі застосовували VPN.

Оператори надсилали запити російською мовою на створення коментарів для Substack, Telegram, X, Facebook і LinkedIn. Більшість згенерованих коментарів були англомовними, а користувачі давали вказівки ChatGPT приховувати будь-які лінгвістичні ознаки російського походження.

Здебільшого ChatGPT застосовували для створення публікацій у соцмережах: частина з них оприлюднювалася акаунтами з назвою та логотипом IBI, а інші — ймовірно, звичайними користувачами, чия діяльність зводилася до поширення статей IBI. Також росіяни генерували відповіді на дописи реальних користувачів Substack на різні теми з проханням підписатися на канал IBI.

Хоча кампанія охопила відносно невелику аудиторію, в OpenAI наголошують, що її складна конструкція відрізняє її від інших пов’язаних із Росією операцій впливу, які компанія зупиняла з початку повномасштабного вторгнення.

В основі викритої операції перебував вебсайт IBI, зареєстрований у лютому 2025 року. На ресурсі стверджувалося, що «інститут» розташований в Ізраїлі. Опубліковані там статті не були згенеровані моделями OpenAI — їх копіювали з реальних академічних праць, іноді з неправдивими посиланнями.

Крім того, на ресурсі розміщували індекс «суверенітету», який зображував Росію у вигідному світлі, а самі оператори здійснювали спроби приховати своє російське походження.