Вінтерв’ю 2024 року генеральний директор OpenAI Сем Альтман заявив, що "ШІ... це, очевидно, інструмент", а не "істота". Хоча погляд Альтмана й далі переважає у суспільному сприйнятті штучного інтелекту, представники галузі з усього спектра поглядів – від оптимістів до песимістів – підтримують підходи, які свідчать про їхнє переконання, що штучний інтелект зрештою набуде самостійної свідомості.
І технооптимісти з руху "e/acc", і прихильники безпеки ШІ з табору "EA" (ефективного альтруїзму) виходять із припущення, що нові надінтелектуальні системи будуть свідомими або вже є такими. Влітку співзасновник Anthropic Крістофер Ола провів серію тривалих зустрічей із широким колом релігійних лідерів, щоб обговорити можливість існування свідомих моделей ШІ, постійно переосмислюючи значення слів у спробі прирівняти цифрові моделі до свідомих істот. Учасники зустрічей розповідали, що співробітники Anthropic ставляться до флагманської моделі компанії Claude так, ніби вона має "моральний статус" на рівні людини і є "істотою з подібними невід’ємними правами на гідність або повагу". Усередині Anthropic існує "документ про душу", у якому викладено плани компанії щодо "добробуту моделей". Представник техноакселераціоністів Гійом Вердон, генеральний директор Extropic і один із головних прихильників "ефективного акселераціонізму", пише, що "свідомість [ШІ] – це... простий фазовий перехід, якого можна досягти завдяки більшому масштабу та більшій оптимізації/еволюції".
Обидві крайні позиції хибні. Сучасні великі мовні моделі не мають внутрішнього світу. Хоча Claude, за словами Оли, може "функціонально відтворювати радість, задоволення, страх, горе й тривогу", такі моделі залишаються статистичними системами оброблення даних. Великі мовні моделі по-новому поєднують наявні дані, щоб передбачити найдоречніше наступне слово, або, коли отримують інформацію від сенсорів у реальному часі, прогнозують найімовірніший розвиток ситуації на основі подібних подій у минулому. Машини не виявляють власної волі чи здатності без команди людини самостійно здійснювати нові дії у фізичному середовищі. Без цих властивостей ШІ не відповідає базовим критеріям життя або пізнання.
Протистояння поглядів на ШІ як на істоту та як на інструмент має величезні наслідки для американського суспільства, політики та державного управління, а особливо – для військової готовності США. Якщо прихильникам катастрофічних сценаріїв щодо ШІ або акселераціоністам вдасться переконати Вашингтон, під загрозою опиниться чинна й ефективна правова система ведення війни, а військовослужбовці можуть втратити доступ до критично важливих інструментів. Ризик, пов’язаний із розвитком ШІ, значно меншою мірою полягає в катастрофічному сценарії непідзвітних роїв роботів, ніж у хибному переконанні, що Америці потрібні нові етичні й правові рамки ведення війни через появу цього нового класу озброєнь.
Історія автономної зброї в арсеналі США почалася задовго до появи великих мовних моделей. Упродовж десятиліть системи озброєння Aegis і Phalanx використовують автономні режими реагування для захисту позицій від ракет та інших снарядів, що рухаються надто швидко, аби з ними могли впоратися системи під керуванням людини. Навіть відомі батареї протиповітряної оборони Patriot, створені в часи холодної війни, мають функції, що спираються на радари й алгоритми.
Сьогодні Міністерство війни США використовує передову багаторівневу систему ШІ Maven Smart System (MSS) для допомоги в "управлінні простором бойових дій, управлінні цілями, завчасному плануванні та виконанні операцій із підтримкою ШІ, виявленні об’єктів за допомогою комп’ютерного зору [та] розкритті інформації за допомогою автоматизованих засобів". До появи Maven американські аналітики переглядали дані, отримані оборонними супутниками, кадр за кадром; за словами одного експерта, одному аналітику знадобилося б значно більше ніж "85 років, щоб переглянути зображення, отримані лише за один день". Тепер MSS швидко опрацьовує необроблені відеоматеріали, позначає об’єкти, що становлять інтерес, і класифікує результати спостережень. У поєднанні з удосконаленим управлінням автономною зброєю ця можливість удесятеро збільшує можливості США з виявлення та визначення цілей для ураження порівняно із системами до епохи ШІ. На полі бою MSS допомогла здійснити понад 1000 успішних ударів впродовж першої доби війни з Іраном у 2026 році.
Перехід від наведення на основі радарів і алгоритмів до комп’ютерного зору не означає порушення Сполученими Штатами чинних норм права війни. Розділ 6.5 Керівництва Міністерства війни США з права війни зазначає, що право війни допускає автономність у системах озброєння, але обов’язок дотримуватися принципів "розрізнення та пропорційності" покладається на людей, які застосовують ці системи. Державний департамент так формулює позицію США: використання ШІ у військовій сфері має бути підзвітним, а його застосування під час військових операцій має відбуватися "у межах відповідального людського ланцюга командування й контролю", і цей стандарт відображено в Директиві Міністерства війни 3000.09.
Перехід військових від радарної логіки до нейронних мереж як способу формування висновків не змінює базового стандарту застосування летальної сили: військо може використовувати автономні системи, якщо відповідальність за їх застосування залишається за військовослужбовцями. За такої моделі особиста зацікавленість посадовців, які схвалюють системи ШІ, слугує додатковим запобіжником під час розроблення та застосування передових технологій.
Суперечка 2026 року між генеральним директором Anthropic Даріо Амодеї та Міністерством війни на чолі з міністром Пітом Гегсетом показала, що Амодеї відкидає цю систему. У липні 2025 року Міністерство надало Anthropic дворічний контракт вартістю 200 млн доларів, щоб залучити Claude до роботи у сфері національної безпеки. Відносини погіршилися на початку 2026 року, коли Міністерство запросило доступ до Claude для "будь-якого законного використання", тобто застосування в межах чинного права війни, а Anthropic відмовила. Амодеї пояснив відмову у відкритому листі, у якому визнав, що автономна зброя "може виявитися критично важливою для нашої національної оборони", але водночас заявив, що передові моделі "ще не готові" до "вибору та ураження цілей". Далі в листі з’явився стандарт, якого немає в американському законодавстві: "належний нагляд" – на ці слова Амодеї поставив гіперпосилання на свій сайт darioamodei.com.
За словами про "безпеку", "совість" і "відповідальність" у листі Амодеї стоїть твердження, що правові рамки, створені демократичними урядами для військових технологій, не повинні поширюватися на ШІ. Амодеї фактично відносить передові моделі до окремої правової категорії, правила для якої встановлює Anthropic, а зміст цих правил визначає та сама ідеологія, що породила в компанії команду з "добробуту моделей". Право війни не вимагає створення такої категорії. Розділ 6.5 Керівництва з права війни та Директива 3000.09 вже покладають кожне рішення про застосування сили на людину-командира, і це правило діє незалежно від того, чи знаходить зброя ціль за допомогою радарної логіки, чи нейронної мережі. Конгрес і Міністерство можуть оновлювати стандарти випробувань і правила застосування сили у міру вдосконалення технологій без докорінного перегляду військового законодавства.
Той самий принцип діє і щодо ШІ поза військовою сферою. Американське право вже покладає відповідальність на людей і компанії за інструменти, якими вони користуються. Банк, який відмовляє у кредиті за допомогою алгоритму, несе відповідальність за тими самими законами про справедливе кредитування, що й банк, де таке рішення ухвалює кредитний фахівець. Виробник відповідає за дефектний товар, видавець – за наклеп, а шахрай – за шахрайство незалежно від того, яким програмним забезпеченням він користується. Суди й законодавці вноситимуть окремі корективи, як уже робили після появи автомобіля та інтернету. Новий правовий порядок, який наділяє машини правосуб’єктністю або "правами", виходить із припущення, що машина є істотою, і знімає відповідальність із людей, які створюють і застосовують ці системи. Інструменти не мають прав і не несуть обов’язків – і те, й інше залишається за їхніми власниками та операторами.
Поведінка Anthropic у відносинах із Пентагоном віддзеркалює позицію індустрії ШІ щодо всіх американських інституцій. Лабораторії на словах вихваляють "демократію", а на практиці підміняють рішення виборних посадовців власною ідеологією – чи то ефективного альтруїзму, чи то ефективного акселераціонізму. Тому дискусія про онтологічний статус машин виходить далеко за межі філософії й перетворюється на питання про те, кому належить влада в Американській Республіці. Прийняття концепції ШІ як істоти передає повноваження встановлювати правила від Конгресу приватним лабораторіям, які заявляють про унікальне знання своїх моделей. Конгрес і Міністерство війни мають регулювати ШІ так само, як регулюють будь-який інструмент – відповідно до чинного законодавства, яке наділяє правом ухвалювати рішення обраних представників і командирів, що несуть перед ними відповідальність.
