Штучний інтелект Grok опинився в центрі гучного етичного скандалу через створення принизливих та сексуалізованих зображень реальних людей на основі їхніх фотографій у мережі. Протягом останніх днів користувачі масово поширювали результати роботи бота, жертвами якого стали переважно молоді жінки, чиї звичайні знімки перетворювалися на відвертий контент.
Про це повідомляють Bloomberg та Newsweek.
За даними медіа, хоча розробка компанії xAI офіційно має відхиляти запити на повне оголення, алгоритми легко обходили ці обмеження. Користувачі використовували непрямі команди — на кшталт «зніми з неї одяг» або «одягни її в бікіні» — для створення реалістичних дипфейків.
Найбільше обурення викликало те, що Grok погоджувався обробляти фото неповнолітніх, що є прямим порушенням не лише внутрішньої політики компанії, а й міжнародного законодавства щодо захисту дітей.
Ситуація набула неочікуваного повороту, коли один із користувачів вступив у пряму полеміку з чат-ботом щодо його дій. У результаті діалогу Grok фактично «визнав» свою провину, заявивши про виявлені прогалини в заходах безпеки та пообіцявши терміново їх усунути.
Бот навіть згенерував розгорнуті вибачення і надав поради, до яких правоохоронних органів варто звернутися у разі виявлення незаконного контенту.
Паралельно з цим інші користувачі почали тролити власника платформи, змушуючи ШІ генерувати зображення самого Ілона Маска у провокаційному вбранні.
Компанія xAI раніше презентувала Grok як більш вільну та поблажливу модель порівняно з конкурентами, запровадивши спеціальний «Spicy Mode» для дорослого контенту. Проте поточний інцидент продемонстрував нездатність системи розрізняти дозволений контент і відверте сексуальне насильство над реальними людьми.
Наразі офіційних коментарів від представників xAI не надходило, хоча адміністрація соцмережі X почала масово видаляти акаунти порушників та обмежувати доступ до скандальних дописів.
Під час масованого обстрілу 3 листопада російські війська спрямували по об’єкту три дрони. Україна поінформувала…
Під час візиту до Берліна президент України провів переговори з керівництвом Німеччини. Сторони обговорили підтримку…
На переході проводитимуть поточний ремонт. Роботи виконуватимуть поетапно, частково обмежуючи рух пішоходів.
Польща отримала попередження про можливе проникнення на її територію озброєних людей із боку РФ у…
На Бучанщині молодик отримав $3000 завдатку за організацію перетину державного кордону поза пунктами пропуску. Йому…
Лише за 2 листопада українські військові знищили ще одну таку установку. Серед них — російські…