В понедельник 25 мая Святой Престол обнародовал энциклику Папы Льва XIV Magnifica humanitas – «О защите человека во времена искусственного интеллекта». На официальном сайте Святого Престола она представлена на восьми языках. Перевод на русский язык уже готовится по поручению Конференции католических епископов Российской Федерации и будет вскоре опубликован.
Рассказываем всё, что необходимо знать об этом документе и об истории обращения Ватикана к проблеме ИИ.
Дискуссия об ИИ в контексте социального учения Церкви
Необходимость динамической оценки воздействия технологического прогресса, а затем и цифровых инноваций на человека, общество и окружающую среду исторически побуждала Римско-католическую Церковь вносить свой вклад в эту дискуссию. В этом смысле Magnifica humanitas является частью более широкого социального учения Католической Церкви, начатого Папой Львом XIII, подробный обзор которого приводит Лев XIV в своей новой энциклике.
В первой главе этого документа он подробно описывает развитие социального учительства Церкви за последние 100 лет, отмечая, что написанное им «принадлежит непрерывности этой традиции», где «ядро богооткровенных истин о человеке и о человеческом сосуществовании переплетается с постоянно обновляющейся способностью прислушиваться к историческим ситуациям и отвечать на вопросы, возникающие в настоящем» (MH, 28).
Лев XIV показывает вклад каждого Понтифика, а также II Ватиканского собора в выявление различных аспектов единого учительства об общем благе: «достоинство личности, ценность труда, универсальное предназначение благ, солидарность и субсидиарность, забота о творении, центральное место мира и братства» (MH, 45). Совокупность этих принципов и критериев направляет различение верующих в их личной и общественной жизни. Сквозь их же призму Лев XIV смотрит на вызовы, связанные с развитием искусственного интеллекта, в Magnifica humanitas (вторая глава документа посвящена богословскому обоснованию этих принципов). Именно поэтому было бы неверно называть этот глубоко человекоцентричный документ «энцикликой об ИИ».
Технократическая парадигма и потребность в новой этике
В начале третьей главы, переходя непосредственно к проблеме цифрового прогресса, Святейший Отец напоминает, что Папа Франциск ещё в 2015 году в своей энциклике Laudato si’ осудил тенденцию позволять логике эффективности, контроля и прибыли управлять личными, социальными и экономическими решениями.
«Эта парадигма быстро распространилась в последние годы, в том числе в результате внедрения искусственного интеллекта, когнитивных наук, нанотехнологий, робототехники и биотехнологий», – пишет Папа Лев. – «Сами по себе эти инновации могут оказать большую помощь в целостном развитии человека и в заботе о нашем общем доме. Но именно из-за своей мощи они могут выступать в качестве ускорителя технократической парадигмы и, следовательно, требуют новой духовной, этической и политической основы» (MH, 93).
В современной ситуации, когда контроль над цифровыми платформами, инфраструктурой, данными и вычислительными мощностями является прерогативой нескольких крупных экономических и технологических игроков, возрастают риски исключения, манипуляции, неравенства, возникновения новых форм зависимостей и эксплуатации. Именно поэтому Ватикан активно вовлекается в диалог с технологическими гигантами о внедрении морально-этических и культурных стандартов в сфере ИИ.
Показательно, что участие в презентации энциклики Magnifica humanitas в Ватикане принял сооснователь компании Anthropic (США) и руководитель исследований интерпретабельности искусственного интеллекта Кристофер Ола. Создатели популярной большой языковой модели Claude уже несколько лет ведут диалог с Ватиканом, а также с различными структурами Католической Церкви в США о влиянии генеративного ИИ на общество, конфиденциальность и права человека. Anthropic закрепила за собой позицию этичной компании в сфере ИИ, сказав «нет» правительству США в вопросах использования смертоносных автономных систем вооружения и слежки. Эти темы Лев XIV также не обошёл вниманием в своей энциклике.
«Римский призыв» и Antiqua et nova
Самой масштабной инициативой Ватикана в сфере диалога с государствами и технологическими компаниями об этике цифровых технологий является документ «Римский призыв к этике в ИИ», разработанный Папской академией жизни совместно с Дикастерией по коммуникациям, Продовольственной и сельскохозяйственной организацией ООН и технологическими компаниями (Microsoft, IBM и др.). Представленный 28 февраля 2020 года документ декларирует шесть этических принципов: прозрачность, инклюзивность, ответственность, беспристрастность и справедливость, надёжность, безопасность и защита приватности. Следуя им, компании поддерживают идею «человекоцентричного ИИ», который служит людям, не подменяет человеческий интеллект и не ставит главной целью материальную выгоду.
«Римский призыв» остаётся открытой платформой, к которой постепенно присоединяются новые подписанты: госорганы, лидеры мировых религий, IT‑компании. Среди последних – крупнейшая американская компания по разработке и продаже сетевого оборудования и ПО в сфере информационной безопасности Cisco Systems.
Ещё одной важной вехой в размышлениях Святого Престола о развитии ИИ стал документ Antiqua et nova – комментарий об отношениях между искусственным интеллектом и интеллектом человеческим, опубликованный Дикастерией вероучения и Дикастерией культуры и образования в январе 2025 года. Он подчеркивает антропологический и этический аспект: личность, человеческое достоинство и креативность не могут быть сведены к алгоритмам, а доступ к данным – это не то же самое, что интеллект, который открывает человека к истине и добру. Указывая также на конкретные риски, связанные с развитием и всё более широким использованием ИИ – патологическая зависимость, манипуляция, угроза формированию идентичности, особенно молодого поколения, – данный документ вновь настаивает на принципах, заложенных в «Римском призыве» 2020 года.
Истина, труд, свобода
Вернемся к тексту новой энциклики. В четвертой главе Папа Лев XIV рассматривает наиболее драматичные последствия цифровой трансформации для общественной жизни и возможные пути ответа на них.
Начинает он с кризиса истины, который затрагивает всю сферу коммуникации и, как следствие, сам институт демократии:
«Медленная, но неумолимая утрата интереса к истине ведет к сползанию в тоталитаризм, для которого, как писала философ Ханна Арендт, идеальными субъектами являются не столько идеологически убежденные люди, сколько «люди, для которых различие между фактом и вымыслом (то есть реальность опыта) и различие между истинным и ложным (то есть канонами мысли) больше не существуют»» (MH, 134).
Ответственность за развитие подлинно экологичной коммуникации, в которой истина признается общим благом, а не собственностью власть имущих, Папа возлагает в равной мере на всё общество: государственную власть, социальные и культурные институты, семью, школы и университеты (см. MH, 137).
Далее Лев XIV останавливается на трансформации труда, в котором Церковь издревле видит выражение человеческого достоинства, путь к зрелости, развитию и личностному самосовершенствованию:
«Сегодня переплетение автоматизации, робототехники и ИИ стремительно преобразует саму структуру труда. Это, как говорят, приведёт к большим улучшениям для всех. В действительности «новые способы» работы не обязательно лучше, потому что «хотя ИИ обещает повысить производительность, беря на себя рутинные задачи, работники часто вынуждены приспосабливаться к скорости и требованиям машин, вместо того чтобы эти последние разрабатывались для помощи трудящимся. Поэтому, вопреки рекламируемым преимуществам ИИ, нынешние подходы к технологии могут парадоксальным образом деквалифицировать работников, подвергать их автоматизированному надзору и отводить им жёсткие и повторяющиеся функции. Необходимость не отставать от технологий может подтачивать у работников чувство собственной значимости и подавлять инновационные способности, которые они призваны вкладывать в свой труд». Именно во избежание такого крена необходимо проектировать системы, ориентированные на человека, а не только на производительность» (MH, 150).
Наконец, Святейший Отец обращается к влиянию цифровой революции на свободу человека, обличая, с одной стороны, бизнес-модели, процветающие за счет человеческих слабостей, рождая новые формы зависимости, а с другой – социальный контроль, ставший возможным благодаря массовому сбору данных и использованию алгоритмических систем. Он пишет:
«В основе этих проблем лежит технократическое и постгуманистическое мышление, которое склонно рассматривать человека как объект для манипуляций или ресурс для оптимизации, устраняя все, что ограничивает максимизацию прибыли: важна эффективность, а не уважение к свободе и человеческому достоинству» (MH, 172).
Через эти размышления Папа подходит к кульминационной пятой главе документа под названием «Культура власти и цивилизация любви».
В поисках мира и братства
Святейший Отец обращается к всё шире распространяющейся по миру культуре власти, характеризующейся поляризацией и насилием:
«Современный Вавилон — это не только глобализированная технократическая парадигма, но и столкновение между противостоящими друг другу империализмами, между державами, стремящимися сохранить свое первенство, и державами, стремящимися его завоевать, с множеством локальных конфликтов. Это также гонка за разработку все более мощных технологий или за обеспечение контроля над ними в соответствии с дегуманизирующей динамикой, которая, кажется, не знает границ» (MH, 185).
Папа напоминает, что выражение «цивилизация любви» ввёл святой Павел VI на фоне холодной войны и гонки вооружений, охвативших мир:
«В этом контексте Церковь указала на альтернативу идеологическому противостоянию систем, представив себе социальный порядок, в котором справедливость и милосердие переплетаются, а любовь становится организующим принципом экономической, политической и культурной жизни» (MH, 186).
Рассматривая цифровые технологии и особенно ИИ в этом контексте, Лев XIV подчеркивает, что они должны служить построению универсальной человеческой семьи с общими правами и обязанностями, где цифровая близость становится реальной возможностью для встречи и взаимной заботы.
Для этого Святейший Отец предлагает пять путей для повседневной и общественной ответственности: «разоружение слов, построение справедливого мира, принятие точки зрения жертв, культивирование здорового реализма и возрождение диалога и многостороннего сотрудничества» (MH, 213), подробно останавливаясь на каждом из них.
* * *
Перед лицом множества вызовов, которыми отмечена наша сегодняшняя повседневность, Папа призывает всех людей доброй воли не бояться и вернуть себе агентность, укорененную в сознании достоинства детей Божьих:
«Как верующий среди верующих, я приглашаю вас созерцать в лице Сына великолепие человечности, которая освещает и эпоху искусственного интеллекта. Во Христе мы понимаем, что призваны сотрудничать в деле творения, а не быть смиренными наблюдателями технологических процессов, ограничивающих нашу свободу и ответственность. Достоинство, которое Святой Дух закладывает в каждом из нас, также проявляется в нашей способности к критическому осмыслению, к свободному выбору и любви, а также к вступлению в подлинные отношения. Ни одна вычислительная система, какой бы сложной она ни была, не порождает сердца, готового к самопожертвованию, и совести, способной распознавать добро. Даже когда машины превосходят нас в эффективности, центром истории остается человеческое лицо, требующее быть увиденным. Это человеческое лицо — полнота, к которой движется история. Это тайна повторения, уверенность в том, что Отец избрал вернуть все, что на небесах и на земле, ко Христу, единой Главе (ср. Еф. 1:10). В этом плане ничто подлинно человеческое не будет утрачено, но всё будет очищено и воссоединено в Том, кто собирает каждый кусочек жизни, каждую слезу и каждое подлинное человеческое достижение, чтобы спасти их от небытия и предать их, искупленных, Отцу» (MH, 233).
Последние параграфы заключения Папа начинает конкретными призывами: «Будем оставаться верными истине!» (237), «Будем вкладываться в образование, которое начинается с нас самих!» (238), «Будем развивать отношения!» (239), «Будем любить справедливость и мир!» (240). И наконец – «свидетельствовать о красоте великолепной человечности, в которой обитает Господь» (245).
Именно этот призыв является сердцем Magnifica humanitas: вернуть человечеству осознание величия собственной человечности, отнять которое не могут ни власть, ни технологический прогресс. Каждый из нас решает в множестве маленьких выборов повседневности, какой мир он хочет строить – новый Вавилон, дегуманизирующий человека с целью повышения эффективности и извлечения прибыли, или «цивилизацию любви», в которой люди являются союзниками в построении общего блага. Magnifica humanitas настаивает на безотлагательности этого выбора и на универсальности этого призыва, обращенного не только к католикам, но к каждому человеку сегодня.
Анастасия Бозио