На думку Амодея, з огляду на нинішні досягнення, вже найближчими роками штучний інтелект може стати «кращим за людей практично в усьому».
Це не обов’язково призведе до катастрофи, але такий сценарій є правдоподібним, адже технологія залишається непередбачуваною.
У своєму тексті він окреслює кілька можливих загроз. Серед них — перспектива того, що сам ШІ може захопити контроль над критично важливими системами, використання його автократичними державами для посилення репресій, а також ризик створення біологічної зброї окремими особами за допомогою нових інструментів. Амодей наголошує, що демократичні країни повинні діяти швидко, щоб випередити автократії у розвитку технологій, але водночас обережно, щоб уникнути катастрофічних наслідків.
Він пропонує кілька напрямів, які можуть стати ключовими для безпечного розвитку штучного інтелекту. Серед них — контроль за експортом чипів до Китаю, інвестиції у дослідження безпечного ШІ та створення регуляцій, які забезпечать прозорість роботи систем. На його думку, саме ці кроки дадуть змогу демократичним державам зберегти баланс між інноваціями та безпекою.
Есе Амодея стало однією з наймасштабніших публікацій у сфері штучного інтелекту за останній час і вже викликало жваву дискусію серед експертів та політиків. Воно підкреслює, що технологія, яка може змінити світ, потребує не лише технічного розвитку, а й глибокого осмислення її соціальних та політичних наслідків.
