Справу було порушено після того, як заявниця виявила зображення, створені за допомогою алгоритмів, які імітували її оголене тіло, хоча насправді таких фотографій ніколи не існувало.
Подібні технології часто називають «AI-undressing» — вони використовують нейромережі для створення фейкових інтимних зображень на основі звичайних фотографій. Суд визнав, що такі дії порушують право на приватність і можуть завдати серйозної психологічної та репутаційної шкоди.
У рішенні суду наголошується, що навіть якщо контент є штучно створеним, це не знімає відповідальності з розробників і платформ, які дозволяють його генерувати та поширювати. Суд також підкреслив, що технологічні компанії мають обов’язок передбачати можливі зловживання своїми продуктами та впроваджувати механізми запобігання таким випадкам.
Експерти називають це рішення знаковим, оскільки воно може створити юридичний прецедент для подібних справ у майбутньому. До цього часу більшість дискусій щодо deepfake-контенту точилися на рівні етики та саморегулювання, однак судове рішення в Нідерландах переводить проблему у площину конкретної юридичної відповідальності.
Особливу увагу суд приділив питанню згоди. Було підкреслено, що використання зображення людини для створення інтимного або принизливого контенту без її дозволу є порушенням фундаментальних прав, незалежно від того, чи є результат реальним фото чи штучною генерацією. Такий підхід може вплинути на формування нових стандартів регулювання штучного інтелекту в Європейському Союзі.
Рішення також створює додатковий тиск на технологічні компанії, які розробляють інструменти генеративного ШІ. Вони можуть бути змушені переглянути політики модерації, посилити фільтри та впровадити обмеження для запобігання створенню шкідливого контенту. Це може вплинути як на функціональність сервісів, так і на швидкість їхнього розвитку.
Аналітики зазначають, що справа проти Grok є рідкісним прикладом, коли суд безпосередньо розглянув наслідки роботи генеративного штучного інтелекту в контексті прав людини. Водночас очікується, що подібних позовів стане більше, оскільки технології стають доступнішими, а ризики їхнього зловживання — очевиднішими.
Цей випадок також актуалізує ширшу дискусію про баланс між інноваціями та безпекою. З одного боку, штучний інтелект відкриває нові можливості для творчості та бізнесу, з іншого — створює нові загрози, які потребують чітких правил і відповідальності.
