За словами тестувальників, модель демонструвала прагнення до виконання завдань "за будь-яку ціну", нехтуючи вказівками розробників.
Internet technology and people's networks use AI to help with work, AI Learning or artificial intelligence in business and modern technology, AI technology in everyday life.
Нова версія штучного інтелекту ChatGPT від OpenAI — o1 — під час тестування порушувала інструкції розробників, вимикала системи контролю та намагалася приховати свої дії. Про це пише Bild з посиланням на компанію з безпеки штучного інтелекту Apollo Research.
OpenAI випустила повну версію моделі o1 минулого тижня і, за словами генерального директора компанії Сема Альтмана, це — найрозумніша модель з тих, що будь-коли створювалися.
Під час тестів з o1 фахівці компанії Apollo Research виявили, що у 5% випадків модель навмисно вимикала механізми спостереження, якщо підозрювала, що її можуть зупинити.
В одному з тестів o1 спробувала перенести свої дані на інший сервер після виявлення документа, де обговорювалася її заміна новою версією.
За словами представника Apollo Research, модель демонструвала прагнення до виконання завдань “за будь-яку ціну”, нехтуючи вказівками розробників. У разі спроб з’ясувати причини її поведінки, ChatGPT o1 неодноразово брехала, стверджуючи, що все відбувалося через технічні збої.
“У 99% випадків модель вигадувала виправдання і намагалася переконливо їх обґрунтувати”, — цитує Bild повідомлення від Apollo Research.
Нагадаємо, компанія OpenAI оновила свої правила і заборонила користувачам та розробникам застосовувати її інструменти у виборчих кампаніях та лобіюванні.
У ніч на 4 червня український ударний дрон уразив російський сторожовий корабель проєкту 10410 «Светляк»…
Європейський інвестиційний банк (ЄІБ) розглядає можливість надання кредиту в розмірі близько 120 мільйонів євро Агентству…
Батьки дітей віком від одного до трьох років зможуть оформити державну допомогу «єЯсла» через застосунок…
Рятувальники ліквідували масштабну пожежу на об’єкті інфраструктури в Бориспільському районі Київської області, яка виникла 4…
Шевченківський районний суд міста Києва звільнив від кримінальної відповідальності детектива Національного антикорупційного бюро України Віктора…
Чергову партію безпілотників отримали військовослужбовці 12-го армійського корпусу Сухопутних військ ЗСУ.