Так звучить діагноз, який Лев XIV ставить у своїй новій енцикліці про штучний інтелект. По суті, якщо вчитатися уважніше, ця енцикліка є не стільки про технологію, як про культурні передумови людського співіснування. Не випадково Папа сягає по оповідь про вавилонську вежу, по мрію людства, яке прагне «зробити собі ім’я» (пор. Бут 11:4) і вірить, що зможе будувати аж до неба.

Якщо відкрити нову енцикліку Лева XIV на розділі про війну і прочитати, що теорія «справедливої війни» нині «застаріла» (§192), можна поспішно закрити текст із гірким висновком: ось іще один ватиканський документ, який у добу безпілотників і ракет пропонує знекровленій Україні знову лише риторику діалогу. Цей висновок був би помилкою. Папа справді каже, що «справедлива війна» як концепція, якою «надто часто виправдовували будь-яку війну», вичерпала себе. Натомість кількома параграфами далі, говорячи про автономні системи озброєнь, понтифік ще раз називає єдиний легітимний аспект застосування сили: «крайній засіб у випадках справедливого самозахисту» (§197). Отже, право народу боронитися прямо підтверджене двічі у цій енцикліці.

Окрім цього, я хотів би подивитися ближче до образу двох старозавітних історій, якими Лев XIV викриває енцикліку і будує свою аргументацію на їх протиставленні: Вавилонської вежі та відбудови мурів Єрусалима за Неємії (§7, §90, §129, §184). Вавилон (Бут 11), цебто проєкт пихи й самодостатності, який «жертвує людською гідністю задля ефективності». Неємія (Неєм 2-6) натомість, терпеливо відбудовує знищений Єрусалим, камінь за каменем, цілим народом. Вибір саме цього образу спростовує пацифістське прочитання документу.

Книга Неємії, на яку Папа покладається як на герменевтичний ключ, оповідає, що будівничі мурів працювали, тримаючи однією рукою будівельні знаряддя, а другою спис, або що кожен мав меч, припасаний до стегна, навіть коли клав каміння (пор. Неєм 4:11-17). Далі Неємія звертається до народу: «Не бійтеся їх. Згадайте Господа, великого й страшного, і воюйте за братів ваших, синів і дочок ваших, за жінок ваших і за доми ваші» (пор. Неєм 4:14). Той, кого енцикліка протиставляє Вавилонові, є точно не пацифістом, а будівничий, який зі зброєю в руках обороняв збудоване. Документ, щоправда, у §8 затримується радше на Неємії, який організовує відбудову мурів та молиться перед тим, як розпочати цей проєкт, оминаючи Неємію, який захищав місто із зброєю в руці. Шкода, що папа не згадав в енцикліці цієї важливої, бо якщо цю прогалину заповнити, то повстає повніший образ Неємії, який не лише відбудовує місто, але й боронить його.

Тут варто затриматися довше над текстом Книги Буття, який розповідає про Вавилон, і чого зазвичай у ньому оминають. Вежа не падає від браку вміння. “Ану лиш, наробімо цегли та й випалімо її добре в огні” (пор. Бут 11:3), кажуть будівничі зі самовпевненістю, переконані, що поступ є передусім технічним завданням. Вони добре зорганізовані, мають інженерів та висококваліфікованих майстрів, що найважливіше, одну спільну мову. Їхній проєкт розпадається не через брак зв’язку, а через те, що люди насправді не слухають одне одного та водночас надміру переймаються собою, прагнучи “зробити собі ім’я” (Бут 11:4). Змішання мов (Бут 11:7) є не покаранням за технічну зухвалість, а викриттям тієї німоти, яка вже жила всередині однакової мови: коли всі говорять однаково, ніхто нікого не чує.

Саме в цьому й полягає несподівана актуальність біблійної історії. Цифрова доба володіє засобами комунікації небаченого досі розміру. Ніколи раніше люди не могли так швидко обмінюватися інформацією, поширювати свої результати, впорядковувати знання й творити публічний простір. А проте в багатьох західних демократіях наростає відчуття, що спільна дійсність стала крихкою. Тому, думаю, не випадково Лев XIV так наполегливо говорить не просто про одну “істину”, щодо якої Церква не володіє монополією, а перспективи, спільне розпізнавання й множинність думок (§25-26).

Істина, на думку понтифіка, є радше спільним пошуком. Папа прямо пише, що істина є не “територією, яку слід боронити”, а добром, “яким належить ділитися” (§25). Це більше, ніж внутрішньоцерковний нюанс. Демократичні спільноти живуть не з того, що конфлікти зникають, а з того, що люди, попри різні істини, залишаються здатними до компромісу. Компроміс не є зрадою істини, а виявом усвідомлення, що ніхто не володіє правдою сповна. Можливо, одна з справжніх небезпек штучного інтелекту полягає саме в тому, що суспільства колись знаходитимуть відповіді майже на все, і за тим забудуть, навіщо вони ці відповіді взагалі шукали. Тоді справжньою протилежністю до Вавилону була б не відмова від техніки, а спільнота, яка попри всі технічні можливості залишається достатньо людяною, щоб не забути первинних запитань.

Можливо, у цьому й полягає головне завдання доби штучного інтелекту: не лише витворити розумніші машини, а збудувати суспільство, у якому люди вчаться того, що означає жити по-людськи.

У розділі про спільне благо Папа пише, що «будь-яка спроба чи план знищити або підкорити народ є тяжко аморальними і тому неприйнятними» (§64). Важко уявити речення, яке точніше описувало б те, що відбувається з Україною від вже понад дванадцяти років. У §216 папа пише те, що мало б покласти край будь-яким спекуляціям про нейтральність Ватикану: «У деяких конфліктах несправедливо залишатися нейтральним, і недостатньо просто заявляти, що ми не є співучасниками».

Розділ Третій найцікавіший, бо говорить про ШІ та виклики, перед яким у його контексті опинилось людство. Коментуючи явище ШІ, його позитивні сторони та показуючи на небезпеку чи ризики, папа будує всю свою аргументацію довкола поняття, яке називає близьким своєму серцю: роззброїти (§110). «Роззброїти не означає відкинути технологію, а не дати їй панувати над людиною». ШІ слід «звільнити від монополістичного контролю» і повернути «множинності людських культур». Тобто роззброєння в сенсі Лева XIV спрямоване проти монополії технологічної влади, а не проти народу, який застосовує технологію, щоб уберегти своїх дітей від ракет. Більше того, документ прямо визнає подвійну природу цих засобів. У §183: «хоча ШІ може посилити захист і оборону цивільного населення, він також може знизити поріг застосування сили». Папа визнає та підкреслює, що штучний інтелект здатен підвищити рівень безпеки серед мирного населення. Енцикліка не забороняє оборонне застосування, але вона чітко говорить про межі. Папа навіть не виключає, що в системи ШІ слід «закладати цінності та здоровий глузд» (§198), тобто визнає, що інженер, який будує оборонну систему з вбудованим розрізненням цивільних і військових, чинить морально краще, ніж той, хто будує сліпу зброю...

Я би перефразував це наступними словами: ШІ на службі несправедливої агресії будує Вавилон, а ШІ на службі захисту невинних, під людським контролем і в межах права, відбудовує Єрусалим. Будувати Єрусалим, а не Вавилон. Це важливий заклик. Але Єрусалим Неємії відбудовували з мастерком в одній руці й мечем у другій. Лев XIV обрав саме цей образ. Для цього треба уважно прочитати Книгу Неємії, бо вибіркове читання породжує оману: ніби відбудова можлива без оборони, ніби мури постають без того, хто їх боронить, ніби мир настає сам, варто лиш скласти зброю першим. Книга Неємії не закінчується на молитві й розподілі праці; вона триває до тієї ночі, коли будівничі не роздягалися й тримали зброю при боці навіть уві сні (пор. Неєм 4:23)…

P.S. Одна деталь, яка тішить мене після прочитання. Якщо підрахувати авторів у документі, яких цитує Лев ХIV, то маємо наступну картину: Франциска цитовано 42 рази, Йоана Павла ІІ 27, Венедикта XVI 16, Павла VI 13, Августина 4, Тому Аквінського 2, Другий Ватиканський Собор 13 разів, а Тридент жодного. Тобто Лев XIV свідомо покликається на свого безпосереднього попередника частіше, ніж на будь-кого іншого. Новий понтифікат продовжує те, що почав Франциск: «Laudato Si'», «Fratelli Tutti», «Dilexit Nos» вплетені органічно в першу енцикліку Папи Превоста…

Про автора: о. Вʼячеслав Окунь - єзуїт, письменник, блогер, докторант Мюнхенського університету.