«Великолепное человечество» против цифрового Левиафана: Папа Римский Лев XIV объявляет крестовый поход за совесть ИИ

Папа Римский Лев XIV в понедельник призвал к жёсткому регулированию искусственного интеллекта, а разработчиков ИИ — работать на общее благо, а не на прибыль. Понтифик обнародовал развёрнутый манифест о защите человечества в эпоху, когда технологии влияют на всё — от рынка труда до ведения войн.

Энциклика «Magnifica Humanitas» («Великолепное человечество») стала первым документом такого уровня для Льва XIV. Её с нетерпением ждали с тех пор, как первый в истории США понтифик заявил сразу после избрания, что считает ИИ величайшим вызовом для современного человечества.

В тексте Папа осудил «культуру власти», движущую гонкой вооружений в сфере ИИ, особенно в области создания всё более совершенных методов дистанционной войны. Он заявил, что «недопустимо» доверять необратимые, смертоносные решения системам ИИ, что создаёт новую точку напряжения между американским Папой и администрацией Трампа, которая активно дерегулирует разработку ИИ.

Папа осуждает компании — даже принимая их лидеров

В понедельник Лев XIV представил текст в Ватикане на презентации с участием сооснователя компании Anthropic (которая в данный момент находится в юридической тяжбе с администрацией Трампа по вопросу доступа к своим ИИ-технологиям). Ватикан привлёк Anthropic в рамках десятилетних усилий по налаживанию диалога с Кремниевой долиной о гуманитарных последствиях ИИ.

И всё же в своей энциклике Лев неоднократно критиковал концентрацию власти и данных в руках слишком малого числа представителей частного сектора как опасность — особенно для детей и самых уязвимых слоёв населения — и призывал к внешнему регулированию их деятельности.

«Недостаточно ссылаться на абстрактную этику, — пишет Папа. — Необходимы надёжные правовые рамки, независимый надзор, информированные пользователи и политическая система, которая не отказывается от своей ответственности. Более «моральный» ИИ — этого недостаточно, если эта мораль определяется горсткой людей».

Лев XIV несколько раз призывал разработчиков ИИ и политических лидеров, ответственных за их регулирование, просто замедлиться и задуматься о том, что они делают. Он призвал их использовать этические и духовные ориентиры, чтобы сделать выбор в пользу не своей прибыли или власти, а в пользу процветания человечества.

Продолжение текста (оригинальный анализ и контекст)

Примечательно, что Папа, имеющий диплом математика, создал один из самых методичных и структурированных документов в новейшей истории Церкви. В нём он прослеживает историю социального учения Католической церкви и применяет его ключевые понятия — справедливость, солидарность, достоинство труда и универсальное назначение ресурсов — к цифровой революции.

Эксперты: этот текст станет ориентиром

Паоло Кароцца, профессор права Школы права Нотр-Дам и председатель наблюдательного совета Meta, назвал энциклику «определяющим документом нашей эпохи, глубоким и пророческим». По его словам, Папа Лев предлагает ясный, всеобъемлющий и последовательный голос, призывающий нас взять на себя ответственность за создание мира, в котором технология будет служить человеку, а не унижать его.

В самых сильных главах документа Лев XIV осуждает то, как ИИ ускорил «нормализацию войны», притупляя чувствительность людей к её цене. Он не называет конкретные конфликты, но упоминает «противостоящие империализмы — между державами, желающими сохранить своё превосходство, и теми, кто стремится захватить это превосходство».

Папа требует прозрачности и подотчётности от разработчиков ИИ, чтобы цепочка принятия решений при нанесении ударов с помощью систем вооружения на основе ИИ всегда была известна. Он заявляет, что католическая теория «справедливой войны», которая давала конкретные критерии оправданного применения силы, теперь «устарела» в свете технологического прогресса.

Исторический контекст и первое извинение Ватикана

Лев XIV подписал текст 15 мая — в 135-ю годовщину публикации энциклики «Rerum Novarum» (в пер. «О новых вещах») — важнейшего документа его героя и тёзки, Папы Льва XIII. Тот документ, выпущенный в разгар промышленной революции, касался прав рабочих, пределов капитализма и обязанностей государства и работодателей.

«Magnifica Humanitas» становится новейшей главой в столетней истории того, как понтифики адаптируют «Rerum Novarum» к социальным вопросам своего времени. Более того, Лев XIV расширил свою обеспокоенность сохранением человеческого достоинства в труде до первого в истории папского извинения за роль самого Святого Престола в легитимизации рабства (когда европейским монархам давалось явное право порабощать «неверных»).

Примечательно, что Ватикан решил привлечь к презентации именно Anthropic — компанию, которая позиционирует себя как гарант безопасности ИИ и в данный момент судится с администрацией Трампа из-за отказа предоставить военным неограниченный доступ к своим технологиям. Некоторые критики уже назвали это папским одобрением конкретной корпорации, но Брайан Бойд, представитель некоммерческого Института будущего жизни, считает иначе: «Это не одобрение, а признание реальности — перед нами чрезвычайно мощная компания, которая прямо сейчас выигрывает гонку за замену человеческого труда».

Лев XIV в своей энциклике предельно ясен: «Погоня за большей прибылью не может оправдывать выборы, которые систематически приносят в жертву рабочие места, потому что человеческая личность — это цель, а не средство, и экономический порядок должен оставаться подчинённым человеческому достоинству и общему благу».

В мире, где конкуренты OpenAI и Anthropic оцениваются в сотни миллиардов долларов (больше ВВП многих государств), голос понтифика звучит как редкое напоминание о том, что развитие без совести — это путь в никуда. И, судя по реакции экспертов и присутствию топ-менеджеров ИИ-индустрии в Ватикане, этот призыв услышали даже там, где доллары заглушают любые молитвы.