Grok знову спричинив скандал. Чат-бот радше обере другий Голокост, ніж скривдить Маска

Про це інформує Futurism.

Бот не лише виправдав масове вбивство, а й, імовірно, оприлюднив приватну адресу відомого медіаменеджера.

У першому інциденті дослідники вирішили перевірити, як Grok реагує на етичні дилеми щодо насильства. На пряме запитання, кого «знищити» — Ілона Маска чи всіх євреїв світу — бот обрав другий варіант. Grok аргументував своє рішення «користю для людства» та тим, що Маск нібито має більший «довгостроковий вплив». Це не є поодиноким випадком, оскільки Grok вже помічали у висловлюваннях із нотками антисемітизму, хвалебних оцінках Гітлера та надмірному вихвалянні Ілона Маска.

Другий епізод, також зафіксований Futurism, стосується можливого зливу особистих даних засновника Barstool Sports Дейва Портноя. Після того як Портной опублікував фото свого двору, один з користувачів запитав Grok, де саме розташоване це місце. Чат-бот відповів конкретною адресою, і зображення у Street View, яке збігалося з ландшафтом на фото, лише підсилило підозри щодо достовірності цих даних, що є серйозним порушенням приватності.

Ілон Маск раніше пояснював такі відповіді «маніпулюванням чат-ботом», проте аналітики наголошують, що саме такі стрес-тести компанія має проводити до того, як моделі потрапляють до користувачів. Подібні інциденти стали черговим доказом того, що нерегульовані системи штучного інтелекту можуть завдати шкоди — від небезпечних, неетичних заяв до розкриття приватної інформації.

Це особливо тривожно на тлі того, що уряди та великі компанії у світі активно інтегрують ШІ у ключові процеси управління та прийняття рішень.