Скандал навколо Grok. Британія розпочала розслідування проти соцмережі X через ШІ-порнографію

Про це повідомляє видання Politico з посиланням на офіційну заяву представника Ofcom.

Британська влада прагне з’ясувати, чи дотримуються компанії X та xAI, що належать американському мільярдеру Ілону Маску, своїх юридичних зобов’язань щодо захисту користувачів. Представники Ofcom уже звернулися до керівництва платформи із запитом про конкретні кроки, вжиті для запобігання генерації протиправного контенту.

На основі отриманих відповідей регулятор проведе швидку оцінку, щоб визначити масштаб проблем із дотриманням вимог безпеки та необхідність подальших санкцій.

Особливе занепокоєння викликає той факт, що інструмент штучного інтелекту Grok міг бути використаний для створення матеріалів, які класифікуються як сексуальне насильство над дітьми. Згідно з новим британським Законом про безпеку в інтернеті, техгіганти зобов’язані впроваджувати жорсткі фільтри для недопущення появи подібних зображень.

У разі доведення системних порушень соцмережі X загрожують величезні штрафи, що можуть сягати значного відсотка від її світового річного обороту.

Команда безпеки соціальної мережі X, реагуючи на закиди, запевнила, що платформа вживає рішучих заходів проти будь-якого незаконного контенту. Представники компанії наголосили, що вони видаляють заборонені матеріали та назавжди блокують акаунти тих, хто намагається обійти встановлені правила.

Окрім внутрішніх санкцій, компанія декларує повну готовність до співпраці з правоохоронними органами та місцевою владою у розслідуванні таких інцидентів.

У заяві платформи також підкреслюється, що будь-хто, хто спонукає чат-бота до створення незаконних зображень, несе таку саму відповідальність, як і особи, що завантажують реальні заборонені файли. Проте експерти зазначають, що саме технічна вразливість алгоритмів Grok дозволяє зловмисникам створювати «діпфейки», що ставить під сумнів ефективність поточних систем модерації Маска. Наразі триває збір доказів, який визначить майбутнє роботи сервісів xAI на території Великої Британії.