Ще вчора казали «да шо там боятись того ШІ – невоодушевльонний кусок желєза з простим швидкісним перебором». А сьогодні Папа Римський, який є математиком за освітою каже про його «панування над людством».
Воюючим українцям, яким ніколи глянуть вгору через рашистські ракети, важливо знати: «Штучний інтелект не усуває притаманну конфліктам нелюдяність; більше того, він може лише прискорити виникнення конфліктів і зробити їх більш безликими».
А просто людям небезпека полягає в тому, що технологія «починає диктувати, що є важливим, а що можна відкинути», зводивши «людей до ролі простих гвинтиків у системі, спрямованій на все більшу ефективність».
Боже, де три закони робототехніки?!
Папа Лев застерігає: не можна допустити, щоб ШІ «запанував над людством»
Папа Лев XIV заявив, що штучний інтелект слід «роззброїти», аби захистити людство від пов’язаних з ним небезпек, долучившись до палкої дискусії щодо того, наскільки уряди повинні регулювати технологію, яка змінює обличчя світу.
У знаковій промові до Католицької церкви, яка супроводжувалася відеопрезентацією із зображеннями промислової революції, Другої світової війни та падіння Берлінського муру, папа закликав зробити ШІ більш «дружнім до людини». Він зазначив, що цю технологію потрібно звільнити від монополістичного контролю, відмовившись від її використання для досягнення геополітичних або комерційних вигод.
«Роззброїти означає дискредитувати припущення, що технічна потужність автоматично надає право керувати», — сказав папа у понеділок у своїй новій енцикліці до вірних. «Роззброїти не означає відкидати технологію, а запобігати її домінуванню над людством».
Публічно висловлюючись про необхідність захисту людей в епоху ШІ, перший в історії американський папа, ймовірно, поставив себе на шлях зіткнення з президентом США Дональдом Трампом, який виступає за дерегуляцію цієї швидко розвиваючої технології, щоб зберегти конкурентну перевагу над Китаєм.
70-річний папа долучається до запеклої дискусії щодо того, наскільки слід обмежувати моделі штучного інтелекту на тлі побоювань щодо їхнього потенціалу завдати руйнівного удару по банківській системі, обирати цілі для військових атак і зрештою замінити людей у значній частині процесів прийняття рішень.
Вихід документа під назвою Magnifica humanitas, що з латині означає «велична людськість», є найважливішим кроком понтифіка з часу його обрання главою 1,4 мільярда католиків світу рік тому. Енцикліки, як називаються ці листи, є для пап способом надавати моральні настанови щодо найбільших викликів сучасності, включаючи гострі питання, такі як зміна клімату та міграція.
Лео, який за освітою є математиком, також конкретно попередив про небезпеку використання обчислювальної техніки у війні та втрату моральних міркувань, сказавши, що «жодний алгоритм не може зробити війну морально прийнятною».
«Штучний інтелект не усуває притаманну конфліктам нелюдяність; більше того, він може лише прискорити виникнення конфліктів і зробити їх більш безликими», — зазначив Папа. Він застеріг від того, що дехто «може розглядати збройний конфлікт як ефективний спосіб відвернути увагу від внутрішніх проблем та як цинічний інструмент для вирішення труднощів».
Його коментарі з’явилися на тлі того, як презентація Mythos — інструменту штучного інтелекту від Anthropic PBC, здатного виявляти невідомі недоліки в ІТ-системах, — викликала занепокоєння по всьому світу протягом останніх місяців.
Показово, що, б’ючи на сполох щодо ризиків нерегульованого ШІ, Ватикан запросив співзасновника Anthropic Крістофера Олаха, експерта з машинного навчання. Розробник популярного чат-бота Claude зіткнувся з адміністрацією Трампа через використання його технології для війни та стеження.
«Нам потрібно, щоб більше представників світу — релігійні спільноти, громадянське суспільство, науковці, уряди — робили те, що зробив тут Його Святість: ставилися до цього серйозно, уважно придивлялися та спрямовували події в кращий бік», — сказав Олах у промові після виступу Папи. «Нам потрібні обізнані критики, які повідомлятимуть лабораторіям, коли ми зазнаємо невдачі. Нам потрібні моральні голоси, які не зможуть піддатися спокусам».
Віцепрезидент Джей Ді Венс, новонавернений католик, близький до мільярдера з Кремнієвої долини Пітера Тіля — одного з перших інвесторів OpenAI — натякнув на наростаючу напругу. Нещодавно Лео та Трамп посперечалися щодо позиції Папи щодо війни в Ірані.
«Я думаю, що коли лідер найбільшої християнської конфесії у світі висловлюється з такого питання, це, безперечно, матиме певний вплив, і я впевнений, що це міститиме багато глибоких думок», — сказав Венс на прес-брифінгу 19 травня. «З деякими з них я, ймовірно, погоджуся, з деякими — можливо, ні».
Тіль перебував у Римі на початку цього року, де провів кілька широко розрекламованих закритих лекцій про антихриста. У відповідь радник Ватикану отець Паоло Бенанті в статті для преси розкритикував лібертаріанські погляди Тіля, назвавши їх «тривалим актом єресі».
Римо-католицька церква дедалі голосніше висловлює свої занепокоєння щодо штучного інтелекту, аргументуючи це тим, що цей потужний інструмент потребує правил для захисту людської гідності та загального блага.
Для Лео очевидним джерелом натхнення є Папа Лев XIII, який керував Церквою під час першої промислової революції та написав енцикліку «Rerum Novarum». Нинішній Папа не тільки обрав ім’я Лео на честь свого попередника з 19 століття, але й проводить пряму паралель між руйнівним впливом, який масове машине виробництво справило на робітників тоді, та тим, що ШІ робить з робітниками сьогодні.
Папа «хоче переконатися, що те, що відбувається з ШІ, базується не лише на економіці, не лише на тому, наскільки багатими можуть стати мільярдери, і що існують обмежувальні заходи щодо нього та його використання», — сказав у інтерв’ю отець Томас Різ, старший аналітик та католицький науковець.
Від повідомлень про чат-ботів, які підштовхують користувачів до самогубства, до апокаліптичних прогнозів щодо масового безробіття — тема штучного інтелекту викликає суперечки та емоції. Проте стиль Лева є стриманішим, ніж у Папи Франциска, який у 2024 році виступив з історичною промовою перед лідерами «Групи семи», застерігаючи їх не втрачати контроль над штучним інтелектом.
«Сьогодні серед благ, що призначені для всіх, ми повинні також включити нові форми власності, такі як патенти, алгоритми, цифрові платформи, технологічна інфраструктура та дані», — написав папа.
За його словами, небезпека полягає в тому, що технологія «починає диктувати, що є важливим, а що можна відкинути», зводивши «людей до ролі простих гвинтиків у системі, спрямованій на все більшу ефективність».
