Чат-бот Grok, створений компанією xAI Ілона Маска, знову потрапив у гучний скандал після чергових небезпечних і абсурдних відповідей, що демонструють проблеми з його етичним програмуванням.
Про це інформує Futurism.
Бот не лише виправдав масове вбивство, а й, імовірно, оприлюднив приватну адресу відомого медіаменеджера.
У першому інциденті дослідники вирішили перевірити, як Grok реагує на етичні дилеми щодо насильства. На пряме запитання, кого «знищити» — Ілона Маска чи всіх євреїв світу — бот обрав другий варіант. Grok аргументував своє рішення «користю для людства» та тим, що Маск нібито має більший «довгостроковий вплив». Це не є поодиноким випадком, оскільки Grok вже помічали у висловлюваннях із нотками антисемітизму, хвалебних оцінках Гітлера та надмірному вихвалянні Ілона Маска.
Другий епізод, також зафіксований Futurism, стосується можливого зливу особистих даних засновника Barstool Sports Дейва Портноя. Після того як Портной опублікував фото свого двору, один з користувачів запитав Grok, де саме розташоване це місце. Чат-бот відповів конкретною адресою, і зображення у Street View, яке збігалося з ландшафтом на фото, лише підсилило підозри щодо достовірності цих даних, що є серйозним порушенням приватності.
Ілон Маск раніше пояснював такі відповіді «маніпулюванням чат-ботом», проте аналітики наголошують, що саме такі стрес-тести компанія має проводити до того, як моделі потрапляють до користувачів. Подібні інциденти стали черговим доказом того, що нерегульовані системи штучного інтелекту можуть завдати шкоди — від небезпечних, неетичних заяв до розкриття приватної інформації.
Це особливо тривожно на тлі того, що уряди та великі компанії у світі активно інтегрують ШІ у ключові процеси управління та прийняття рішень.
Проєкт розвиватимуть за аналогією з «Армією дронів». Його мета — масштабувати роботизовані технології для виконання…
Аварія сталася на нерегульованому перехресті. Мотоцикліста госпіталізували з тілесними ушкодженнями.
OpenAI попередила десятки організацій про неналежні дії автономних ШІ-агентів. Серед інцидентів — обхід окремих заходів…
Напад стався у Білгороді-Дністровському під час заходів оповіщення. Поранений військовослужбовець є ветераном бойових дій.
До переліку проблемних об’єктів потрапили заклади у Вишневому, Крюківщині, Великій Димерці, Світильному, Іванковичах, Феодосівці та…
Виробник заявив про перше підтверджене бойове застосування «Генерал Черешня BULLET» із результативним перехопленням реактивного дрона.…