Повністю автономні безпілотники без жодного контролю з боку людини вперше в історії ліквідували солдатів на полі бою.
Про це пише New Scientist х посиланням на високопоставленого представника української оборонної промисловості.
За словами розробника дронів Олександра Кохановського, який надав відповідну технологію, це було одноразове випробування, у якому задіяли 10 керованих штучним інтелектом безпілотників «Термінатор». Внаслідок атаки були ліквідовані російські військові.
«Ми спробували це. Це випробування. Ми ніколи не впроваджували це [ширше]», — розповів Кохановський під час пресзаходу, організованого посольством України.
Випробування відбулося два роки тому в межах контрнаступальних дій українських сил. Його провела неназвана військова частина поблизу міст Бахмут та Часів Яр. У тесті використовували квадрокоптери, запрограмовані летіти до лінії фронту, долаючи відстань від 3 до 5 кілометрів приблизно за 10 хвилин. Після цього вони вмикали «режим Термінатора», у якому модель штучного інтелекту самостійно шукає та перехоплює цілі.
«Ми просто запускаємо його і знаємо, що все буде мертве – все, що буде знайдено там, у цій конкретній зоні, буде мертве. Зв’язку з дроном взагалі немає, ви не можете бачити відео, нічого… Все, що він побачить, буде вбито», — зазначив Кохановський.
Оскільки дрони працювали повністю автоматично, після випробування в цю зону відправили безпілотники під керуванням людей для перевірки результатів. За словами розробника, серед уражених цілей були «кілька солдатів, одна вантажівка». Попри відсутність відеозапису самих атак, фахівці дійшли висновку, що військових ліквідували саме автономні дрони. Міністерство оборони України не відповіло на запитання журналістів щодо цього випробування та поточної правової позиції держави.
Джерела у оборонних компаніях під час пресконференції в посольстві повідомили, що уряд України наразі забороняє використання штучного інтелекту на фінальній стадії перехоплення цілей, хоча ШІ активно застосовується на багатьох попередніх етапах роботи різних пристроїв. Кохановський додав, що влада знає про зростаючі можливості технологій і веде переговори з оборонними підприємствами щодо можливого пом’якшення цих правил.
Коментуючи ситуацію, командир із 21-го окремого батальйону безпілотних систем 3-го армійського корпусу майор Данило Положухно (який не знав про проведення згаданого тесту і не брав у ньому участі) зазначив, що його підрозділ використовує напівавтономні системи, де людина завжди залишається у процесі прийняття рішень.
«Ці системи та платформи дронів здатні автоматично захоплювати та відстежувати цілі, а також автономно наводитися на останніх метрах підльоту, що допомагає спростити роботу операторів. Однак ми не використовуємо повністю автономні системи дронів, які самостійно вибирають і уражають цілі без будь-якої участі оператора. Україна дотримується міжнародного гуманітарного права і серйозно ставиться до свого обов’язку дотримуватися прав усіх комбатантів. Вона також виявляє велику обережність у прийнятті рішень, щоб запобігти жертвам серед цивільного населення», — заявив Положухно.
Використання ШІ є поширеною практикою в арміях світу для аналізу розвідданих та автоматизації окремих функцій зброї, проте зазвичай людина завжди контролює процес ураження. Випадок, описаний Кохановським, є найбільш категоричним свідченням загибелі людей у бою виключно з вини ШІ.
Раніше, у 2023 році, з’являлися повідомлення про застосування Україною ударних дронів зі штучним інтелектом, які знаходили та атакували цілі без допомоги оператора, але тоді їх спрямовували проти техніки (наприклад, танків), і загибель людей не була підтверджена. Також у звіті ООН за 2021 рік припускали, що турецькі квадрокоптери Kargu-2 могли автономно атакувати людей у Лівії у 2020 році урядовими силами проти відступаючих військ Хафтара, проте деталі щодо поранених чи загиблих у звіті були відсутні.
Офіційної міжнародної заборони на автономну зброю наразі немає, але Генеральний секретар ООН Антоніу Гутерреш закликав запровадити її, наголосивши минулого року, що «у нашому світі немає місця для смертоносних автономних систем зброї». В ООН занепокоєні, що така зброя виключає людський фактор, що може призвести до порушення міжнародного гуманітарного права, помилкових атак на власні сили чи ударів по цивільних.
Експерти висловлюють різні думки щодо доцільності таких технологій. Так, Маріарозарія Таддео (Оксфордський університет) вважає, що вбивство за допомогою ШІ позбавляє солдата гідності та знімає відповідальність з нападника, тому має бути заборонене.
«Це не просто проблематично, це жахливо. Чи хочемо ми бути суспільством, яке вбиває інших людей, яке дозволяє своєму уряду вбивати інших людей без участі людини?» — зауважила вона.
Ентоні Кінг (Ексетерський університет, Велика Британія) зазначає, що уряди можуть дозволити це заради військової переваги, проте повністю автономні дрони поки не стали вирішальним інструментом. З мільйонів безпілотників, використаних у війні в Україні обома сторонами, лише одиниці були повністю автономними.
«Тож справа не лише в тому, що етично правильно залишати людину в контурі керування, на даному етапі це більш ефективно з військової точки зору», — додав Кінг.
Олександр Кохановський повідомив, що проєкт «Термінатор» більше не розвивався через чинні обмеження в Україні. Наразі він є генеральним директором української компанії Aero Center (яка не існувала на момент проведення тесту). Підприємство працює над створенням автономних дронів-перехоплювачів, призначених для ураження російських камікадзе типу «Шахед» до того, як вони досягнуть міст чи інфраструктури.
Нова система компанії під назвою ALITA складатиметься з 16 пускових майданчиків та 64 дронів. Її планують підготувати до жовтня. Вона зможе фіксувати наближення ворожих безпілотників, автоматично злітати та рухатися до цілі зі швидкістю 450 кілометрів на годину, знищуючи об’єкти від малих дронів до гелікоптерів.
Відповідно до законодавства України, система не працюватиме повністю автономно — фінальну стадію ураження цілі повинен буде підтверджувати оператор. Проте навіть у такому режимі для керування всією батареєю із 64 дронів знадобиться лише два оператори.
«Кожен крок цього процесу може бути як ручним, так і автоматичним. Нам не дозволено виконувати фінальну стадію автоматично», — резюмував Кохановський, додавши, що підтримує зміну цих правил.
У Сумській області розглядають можливість запуску мобільних автозаправних станцій після масованої російської атаки, під час…
Шевченківська окружна прокуратура міста Києва звернулася до Господарського суду з позовом про звільнення комунальної земельної…
Головне управління розвідки Міноборони України оприлюднило відео бойової роботи спецпідрозділу «Примари», який упродовж квітня та…
Росія, ймовірно, майже вичерпала запаси ракет «Орєшнік». За оцінками дослідників, наразі у розпорядженні агресора могла…
У столиці на одному з об'єктів критичної інфраструктури встановили чотири нові когенераційні установки загальною потужністю…
Російська балістична ракета «Орєшнік» може мати суттєві проблеми з точністю через виробничий дефект у системі…