OpenAI посилює безпеку, щоб захиститися від шпигунства з боку Китаю

Про це пише Financial Times.

Стартап із Сан-Франциско посилює свої зусилля у сфері безпеки з минулого року. Ці заходи прискорилися після того, як китайський стартап у сфері штучного інтелекту DeepSeek у січні випустив конкуруючу модель. OpenAI стверджувала, що DeepSeek неналежно скопіювала її моделі, використовуючи техніку «дистиляції» (процес перенесення знань з великої моделі до меншої), щоб випустити конкуруючу систему штучного інтелекту. Відтоді компанія додала заходи безпеки для захисту від цієї тактики, що спонукало її бути набагато суворішими та «агресивно» розширити свої методи та команди безпеки.

У 2024 році до ради директорів OpenAI для нагляду за захистом від кіберзагроз призначили генерала армії США у відставці Пола Накасоне. У жовтні 2024 року компанія також найняла Дейна Стакі на посаду головного директора з інформаційної безпеки. Раніше він обіймав таку ж посаду в компанії Palantir, відомій виконанням замовлень для американського уряду та силових структур.

Глобальна гонка у сфері штучного інтелекту призвела до посилення занепокоєння щодо спроб викрасти цю технологію, що може загрожувати економічній та національній безпеці. У 2024 році влада США попередила технологічні стартапи, що іноземні супротивники, включно з Китаєм, збільшили зусилля для отримання їхніх конфіденційних даних.

Джерела з OpenAI заявили, що з літа 2024 року стартап запроваджує суворішу політику у своїх офісах у Сан-Франциско, щоб обмежити доступ персоналу до важливої інформації про технології. Ця політика, відома як «інформаційне тентування», значно зменшила кількість людей, які могли отримати доступ до нових алгоритмів. Наприклад, її застосували минулого року, коли OpenAI розробляла свою нову модель o1 під кодовою назвою «Strawberry». Тоді співробітникам, які працювали над проєктом, було наказано перевіряти, чи інші співробітники також є частиною «тенту Strawberry», перш ніж обговорювати його в спільних офісних приміщеннях.

Компанія тепер зберігає значну частину своїх власних технологій в ізольованих середовищах. Це означає, що комп’ютерні системи відключені від Інтернету та відокремлені від інших мереж. В офісах компанії запровадили біометричні перевірки: доступ до деяких кімнат можна отримати, лише просканувавши відбитки пальців. Щоб захистити «ваги моделі» (знання, отримані з навчальних даних, завдяки яким модель робить прогнози та приймає рішення), OpenAI застосовує до інтернет-трафіку політику «заборонено за замовчуванням», що означає, що ніщо не може підключатися до інтернету без спеціального схвалення.

Сполучені Штати та Китай перебувають у зростаючій стратегічній конкуренції, оскільки США запроваджують експортний контроль, щоб ускладнити для Китаю отримання та розробку передових технологій. Водночас висловлюється занепокоєння щодо зростання ксенофобії в американських технологічних компаніях, зважаючи на велику кількість кваліфікованих працівників азійського походження.

Нагадаємо, американська компанія OpenAI, яка розробила чат-бот на основі штучного інтелекту ChatGPT, отримала контракт від Міноборони США на $200 мільйонів на постачання інструментів ШІ.