Дорогие братья и сестры!
Развитие систем искусственного интеллекта, которому я посвятил свое недавнее Послание ко Всемирному Дню Мира, радикально влияет на мир информации и коммуникаций, а через него и на отдельные основания жизни общества. Эти изменения затрагивают всех, а не только профессионалов в этих областях. Быстрое распространение ошеломительных инноваций, принцип действия и потенциал которых выходят за рамки понимания и оценки большинства из нас, оказалось одновременно захватывающим и дезориентирующим. Это неизбежно приводит к более глубоким вопросам о природе людей, нашей самобытности и будущем вида homo sapiens в эпоху искусственного интеллекта. Как мы можем оставаться в полной мере людьми и направлять эту культурную трансформацию к служению благой цели?
Начиная с сердца
Прежде всего, нам необходимо отставить в сторону катастрофические прогнозы и их шокирующие последствия. Сто лет назад Романо Гвардини размышлял о технологиях и человечности. Гвардини призвал нас не отвергать «новое» в попытке «сохранить прекрасный мир, обречённый на исчезновение». При этом он пророчески предупредил, что «мы постоянно находимся в процессе становления. Мы должны войти в этот процесс, каждый по-своему, с открытостью, но и с чувствительностью ко всему, что в нём разрушительно и бесчеловечно». И заключил: «Это технические, научные и политические проблемы, но они не могут быть решены иначе как отталкиваясь от нашей человечности. Должен сформироваться новый тип человека, наделённый более глубокой духовностью, новой свободой и внутренней сущностью». [1]
В этот исторический период, который рискует стать богатым на технологии и бедным на человечность, наши размышления должны начаться с человеческого сердца. [2] Только приняв духовный способ видения реальности, только восстановив мудрость сердца, мы сможем воспринять и истолковать новизну нашего времени и заново открыть путь к человеческому — в полном смысле слова — общению. В Библии сердце рассматривается как место свободы и принятия решений. Оно символизирует целостность и единство, но также затрагивает наши эмоции, желания, мечты; прежде всего, это сокровенное место нашей встречи с Богом. Таким образом, мудрость сердца — это добродетель, которая позволяет нам объединить целое и его части, наши решения и их последствия, наше благородство и нашу ранимость, наше прошлое и наше будущее, нашу индивидуальность и наше участие в более глобальном сообществе.
Эта мудрость сердца позволяет найти себя тем, кто её ищет, и увидеть её тем, кто её любит; она предвосхищает желающих её и ищет тех, кто её достоин (ср. Прем 6:12-16). Она сопровождает тех, кто готов принять совет (ср. Притч 13:10), тех, кто наделён смиренным и слушающим сердцем (ср. 3 Цар 3:9). Дар Святого Духа позволяет нам смотреть на вещи глазами Бога, видеть связи, ситуации, события и раскрывать их истинное значение. Без такой мудрости жизнь становится пресной, поскольку именно мудрость – чей латинский корень sapere связан с существительным sapor (вкус — прим. перев.) – придает «вкус» жизни.
Возможность и опасность
Такой мудрости нельзя добиться от машин. Хотя термин «искусственный интеллект» сейчас вытеснен более правильным термином «машинное обучение», используемым в научной литературе, само употребление слова «интеллект» может ввести в заблуждение. Несомненно, машины обладают неизмеримо большей способностью хранить и сопоставлять данные, чем люди, но только люди способны в этих данных разобраться. Речь идет не просто о том, чтобы машины выглядели более человечными, а о том, чтобы пробудить человечество ото сна, вызванного иллюзией всемогущества, которая основана на вере в то, что мы полностью автономные и самодостаточные субъекты, обособленные от всяких социальных связей; и на утрате памяти о том, что мы творения.
Люди всегда осознавали, что они не самодостаточны, и стремились преодолеть свою уязвимость, используя все возможные средства. Начиная с самых ранних доисторических орудий, используемых как продолжение рук, вплоть до средств передачи информации, используемых как продолжение устного слова, мы теперь способны создавать весьма сложные машины, которые действуют как опора для мышления. Однако каждым из этих инструментов можно злоупотребить, поддавшись первородному искушению уподобиться Богу без Бога (ср. Быт. 3), то есть хотеть собственными усилиями завладеть тем, что должно было быть свободно получено как дар от Бога для радости использования вместе с другими людьми.
В зависимости от склонности сердца всё, что находится в пределах нашей досягаемости, становится либо возможностью, либо угрозой. Сами наши тела, созданные для общения и единства, могут стать средством агрессии. Точно так же любое техническое расширение наших человеческих способностей может быть средством любящего служения или враждебного господства. Системы искусственного интеллекта могут помочь преодолеть невежество и облегчить обмен информацией между разными народами и поколениями. Например, они могут сделать доступным и понятным обширное наследие письменных знаний прошлых эпох или обеспечить общение между людьми, не говорящими на одном языке. Однако в то же время они могут быть источником «когнитивного загрязнения», искажения реальности частично или полностью ложными нарративами, в которые верят и которые транслируют так, словно они являются правдой. Нам достаточно подумать о давней проблеме дезинформации в форме фейковых новостей [3], которые сегодня могут использовать «дипфейки», а именно создание и распространение изображений, которые кажутся совершенно правдоподобными, но являются ложными (я сам стал их объектом) или аудиосообщений, в которых голосом человека говорится то, чего он сам никогда не говорил. Технология моделирования, лежащая в основе таких программ, может быть полезна в определённых областях, но она становится извращением, когда искажает наши отношения с другими людьми и с реальностью.
Начиная с первой волны искусственного интеллекта в социальных сетях, мы ощутили его двойственность: его возможности, но также риски и связанные с ними патологии. Второй уровень генерирующего искусственного интеллекта, несомненно, представляет собой качественный скачок. Поэтому важно понимать, ценить и регулировать инструменты, которые в неправильных руках могут привести к плачевным сценариям. Как и всякий продукт человеческого разума и способностей, алгоритмы не являются нейтральными. По этой причине необходимо действовать превентивно, предлагая модели этического регулирования, чтобы предотвратить вредные, дискриминационные и социально несправедливые последствия использования систем искусственного интеллекта, и бороться с их ненадлежащим использованием, которое ведёт к уменьшению плюрализма, к поляризации общества или к созданию форм шаблонного группового мышления. Я еще раз призываю международное сообщество «к совместной работе по принятию обязательного к исполнению международного договора, регулирующего разработку и использование искусственного интеллекта в его многочисленных формах». [4] В то же время, как и в любой человеческой сфере деятельности, регулирование само по себе не является достаточным.
Возрастание человечности
Все мы призваны возрастать вместе, в человечности и как человечество. Перед нами стоит задача совершить качественный скачок, чтобы стать сложным, мультиэтническим, плюралистическим, мультирелигиозным и мультикультурным обществом. Мы призваны внимательно размышлять о теоретическом развитии и практическом использовании этих новых инструментов коммуникации и знания. Их огромные возможности для добра сопровождаются риском превратить всё в абстрактные вычисления, которые сводят индивидуумов к данным, мышление к механическому процессу, опыт к единичным случаям, благо к выгоде и, прежде всего, приводят к отрицанию уникальности каждого человека и его или её истории. Конкретность реальности растворяется в потоке статистических данных.
Цифровая революция может принести нам большую свободу, но не в том случае, если она заключит нас в модель, которая сегодня называется «эхо-камерой». В таких случаях вместо того, чтобы увеличивать плюрализм информации, мы рискуем оказаться в трясине замешательства, становясь жертвой интересов рынка или власти. Недопустимо, чтобы использование искусственного интеллекта приводило к групповому мышлению, к сбору непроверенных данных, к всеобщей халатности в отношении редактирования. Представление реальности в форме «больших данных» (big data), какими бы полезными они ни были для работы машин, в конечном итоге влечёт за собой существенную потерю истины о природе вещей, затрудняя межличностное общение и угрожая самой нашей человечности. Информация не может быть отделена от живых отношений. Они включают в себя телесность и погружение в реальный мир; они предполагают сопоставление не только данных, но и человеческого опыта; они требуют чувствительности к лицам и к выражению лица, требуют сострадания и способности делиться.
Здесь я размышляю о репортажах о войнах и о «параллельной войне», ведущейся посредством кампаний дезинформации. Я думаю также обо всех тех репортерах, которые были ранены или убиты при исполнении служебных обязанностей, чтобы мы могли увидеть то, что видели они сами. Ибо только благодаря такому непосредственному соприкосновению со страданиями детей, женщин и мужчин мы сможем осознать абсурдность войн.
Использование искусственного интеллекта может внести позитивный вклад в сектор коммуникаций при условии, что оно не устраняет роль журналистики на местах, а служит её поддержке. При условии, что оно ценит профессионализм общения, побуждая каждого профессионала в этой сфере лучше осознавать свои обязанности и даёт возможность всем людям быть, как это и надлежит, внимательными участниками в деле общения.
Вопросы дня сегодняшнего и будущего
В связи с этим закономерно возникает ряд вопросов. Как нам защитить профессионализм и достоинство работников сферы информации и коммуникации, а также пользователей во всём мире? Как мы обеспечиваем согласованность платформ? Как мы можем позволить компаниям, разрабатывающим цифровые платформы, брать на себя ответственность в отношении контента и рекламы так же, как это делают редакторы традиционных медиа? Как нам сделать более прозрачными критерии, определяющие работу алгоритмов индексации и деиндексации, а также поисковых систем, способных продвигать или отменять людей и мнения, истории и культуры? Как мы гарантируем прозрачность обработки информации? Как нам определить происхождение текстов и проследить источники, скрытые за щитом анонимности? Как нам прояснить, демонстрирует ли изображение подлинное событие или имитирует его? Как не допустить, чтобы многие источники сводились к единственному, и тем самым к алгоритмически выработанному единому подходу? Как вместо этого нам создать среду, подходящую для сохранения плюрализма и изображающую сложность реальности? Как мы можем обеспечивать устойчивость этой мощной, дорогостоящей и энергозатратной технологии? И как мы можем сделать её доступной и для развивающихся стран?
Ответы, которые мы дадим на эти и другие вопросы, определят, создаст ли искусственный интеллект новые касты, основанные на доступе к информации, и тем самым породит новые формы эксплуатации и неравенства. Или он приведёт к большему равенству за счёт распространения правильной информации и большего осознания эпохальных перемен, которые мы переживаем, благодаря возможности признать многочисленные потребности отдельных людей и народов в хорошо структурированной и плюралистической сети информации. Если, с одной стороны, мы сможем увидеть призрак новой формы рабства, с другой, мы также сможем представить себе средства большей свободы; либо возможность того, что немногие избранные смогут определять мышление других, либо возможность того, что все люди смогут участвовать в развитии мышления.
Ответ, который мы даём на эти вопросы, не предопределен; он зависит от нас. Нам решать, станем ли мы кормом для алгоритмов или будем питать свои сердца той свободой, без которой мы не можем возрастать в мудрости. Такая мудрость созревает, если разумно использовать время и учитывать наши слабости. Она растёт в согласии между поколениями, между теми, кто помнит прошлое и теми, кто смотрит в будущее. Только вместе мы сможем повысить нашу способность к проницательности и бдительности, и к тому чтобы видеть вещи в свете их реализации. Чтобы наше человечество не потеряло ориентир, давайте искать мудрость, которая произошла прежде всего (ср. Сир. 1:4): она поможет нам поставить и системы искусственного интеллекта на службу в полной мере человеческому общению.
Рим, Латеранская базилика, 24 января 2024
[1] Письма с озера Комо.
[2] В 2024 году Послание на Всемирный день социальных коммуникаций продолжает предыдущие послания, посвященные встрече с людьми там, где они находятся (2021), слушанию сердцем (2022) и разговору сердцем (2023).
[3] Послание на Всемирный день социальных коммуникаций в 2018 году
[4] Послание на 57 Всемирный день мира, 1 января 2024 года, 8