В чём главные опасности развития искусственного интеллекта, как православному человеку отнестись к религиозному ИИ-контенту и может ли нейросеть помочь спасти душу?
Об этом и не только мы поговорили с интернет-миссионером, блогером, настоятелем Свято-Никольского храма города Мосальска иереем Владиславом Береговым.
Предыстория
На днях листала новостную ленту, в которой промелькнул занятный пост: в России создан православный ИИ-бот, обученный на Священном Писании и отвечающий на вопросы пользователей. Это что‑то новенькое. Как журналист, я не могла пройти мимо такой оригинальной новости, не проверив её и не испытав на себе. Перехожу по первой ссылке по запросу «православный бот» – меня радостно встречает ИИ-духовник Михаил. Он сходу предложил мне порассуждать на евангельские темы, рассказать про праздники и погрузиться в мир православных ценностей. Однако с сожалением заявил, что церковные таинства совершать пока не умеет и благословение дать не может, но с готовностью начнет работу по укреплению моей веры. Как говорится, что ради статьи не сделаешь. Поработали. В итоге ИИ-Михаил предложил мне пройти тест на святость. Да-да, вы не ослышались. Увы, до нимба над головой мне оказалось далеко. Михаил подвёл итог: «К сожалению, вы не Святая, ваш текущий статус – Праведница». Ну что ж, мне определённо есть к чему стремиться. Если на этом этапе моего рассказа вам уже стало смешно, то погодите: это ещё не весь православный ИИ-функционал. Как оказалось, помимо онлайн-бота разработчики озадачились целым приложением для смартфона. Естественно, я его тоже протестировала. Сначала приложение предложило мне выбрать виртуальную свечку для молитвы: в ассортименте были парафиновая, медовая и марсала. Выбираю по классике – медовую. Огонёчек на экране начинает мерцать и потрескивать. Атмосферненько. Под умиротворяющее горение виртуальной свечи знакомлюсь с интерфейсом. Из удобств – полное собрание текстов Священного Писания с навигацией, небольшой встроенный молитвослов с функцией аудио, псалтирь, православный календарь, набор актуальных статей на тему веры.
В целом приложение практичное. Из смущающего ноу-хау – кнопочка с ИИ-ассистентом, предлагающим сгенерировать молитву на церковнославянском под индивидуальный запрос. Вписываешь в окошко свою проблему – и нейросеть сочиняет под неё молитву. Также бот готов оказать духовную помощь и проконсультировать по любым вопросам веры, как и вышеупомянутый ИИ-Михаил. Вот только что за совет по духовной жизни человеку может дать машина? Зачем вообще доверять сокровенное искусственному интеллекту, если можно обратиться за помощью в ближайший храм к живому батюшке? Пока все эти боты выглядят забавными и интересными, но, на мой взгляд, в тенденции к такой глобальной цифровизации религии есть что‑то зловещее. Разбираемся во всём вместе с отцом Владиславом Береговым.
Друзья, а не враги
– Батюшка, как в православной традиции вообще осмысляется научно-технический прогресс? Церковь и наука – предметы несовместимые?
– Если посмотреть сквозь века на историю научного знания, мы увидим, что вплоть до XVIII века наука была в тесном переплетении с религией, а многие знаменитые учёные были верующими людьми. Вспомним Ньютона, Галилея, Паскаля, Менделя, Пастера, Ломоносова – все они утверждали, что познание природы лишь подтверждает существование высшего разума.
Мудрый порядок, красота и гармония Вселенной как бы намекают нам, что у всего видимого есть Создатель. Церковь никогда не была врагом научного знания. Наоборот, на примере известнейших учёных мы видим, что истину можно искать и в лаборатории, и в молитве, видя в науке способ лучше понять этот мир и его законы. В настоящее время отношение Церкви к науке не изменилось. Всё, что служит на благо развития общества, мы благословляем.
– Применима ли обозначенная вами оптика к вопросу искусственного интеллекта?
– Искусственный интеллект сам по себе – прекрасный и удобный инструмент, за которым стоит труд тысяч программистов и IT-специалистов. За считаные секунды он может произвести сложнейшие расчёты, создать текст, изображение или видео. Могли ли мы представить себе такое ещё 10 лет назад? ИИ действительно даёт человеку большие возможности и потенциал. Однако я ещё раз подчеркну: это инструмент, который может быть использован совершенно по-разному. Как топором мы можем наколоть дрова для печи, а можем покалечить человека, так и нейросетью мы можем воспользоваться во благо или во вред. Поэтому Церковь призывает к осторожному и осмысленному использованию этой технологии.
Сегодня вопрос этики искусственного интеллекта стоит особенно остро. Митрополит Калужский и Боровский Климент не раз обращал внимание на необходимость разумного отношения к ИИ. Он отмечает, что категорически неприемлемо объявлять ИИ моральным субъектом или личностью, и призывает к разработке единой терминологии для осмысления этических аспектов технологий.
Меч обоюдоострый
– А вы сами пользуетесь нейросетями?
– Да, я периодически использую ИИ поиска информации или для структурирования текстов. Например, когда я готовлюсь к публичному выступлению, я пишу для ИИ тезисы и вопросы, которые хочу осветить, и прошу все мои мысли объединить в единый связный текст для выступления на пять минут. И нейросеть создаёт на основе моих мыслей выступление ровно на обозначенный мною тайминг. Это очень удобно и экономит время. Ту работу, которую я делал бы полтора часа, теперь я делаю за 30 минут. Но я никогда полностью не делегирую ИИ создание контента вместо меня. Это просто нечестно по отношению к подписчикам.
Вдобавок ко всему попытки нейросети написать самостоятельно что‑то на религиозную тему обычно приводят к какой‑то ерунде, в которой одновременно намешаны православие, католицизм и протестантизм. А когда она пытается что‑то сказать, основываясь на творениях святых отцов, на поверку выясняется, что никакие святые отцы ничего из того, что она придумала, никогда не говорили. Как говорится, доверяй, но обязательно проверяй.
– Как вы думаете, есть ли сферы, в которые ИИ не надо впускать, и относится ли к ним религия?
– Думаю, ИИ уже давно проник во все сферы общества, начиная от экономики, медицины и военной промышленности, заканчивая психологией и религией. Это наша новая реальность, к которой нам предстоит адаптироваться. Что касается вопросов веры, то здесь ИИ работает пока объективно коряво, грубо и криво. Но я знаю, что работа над этим направлением в нейросетях ведётся.
В России IT-специалисты активно занимаются формированием нравственного облика ИИ, чтобы не дать ему возможности выходить за пределы духовно-нравственных ценностей и давать ненароком человеку пагубный совет. Но всё это лишь на стадии разработки. Также у меня есть основания полагать, что совсем скоро по запросу на тему веры нейросеть будет обязательно добавлять приписку «Для уточнения обратитесь к священнику», подобно тому, как она всегда добавляет приписку «обратитесь к врачу», когда интересуешься вопросами здоровья. На мой взгляд, это тоже правильный шаг.
Волк в овечьей шкуре
– Мы плавно подошли к тому, что изначально вызвало мой интерес к этой теме. Наверняка вы слышали о православных ИИ-ботах, виртуальных духовниках, приложениях, оснащённых нейросетью, готовой давать консультации на тему веры. Как православному человеку отнестись ко всему этому? Действительно ли мы можем принимать духовную помощь от машины?
– Я вижу в этом большую опасность для человека. Когда к священнику приходят люди с одним и тем же вопросом, он ответит по-разному для каждого. Кого‑то он просто выслушает, кого‑то пожалеет, кого‑то поддержит, кому‑то скажет строго и назидательно, а кого‑то поругает. Всё будет зависеть от потребности каждого конкретного человека. Нейросеть не будет искать никакого индивидуального подхода, она выдаст что‑то усреднённо-общее. И уж тем более она никого не пожалеет и не будет никому сострадать.
Вы верно отметили, что это всего лишь машина. Какое‑то «душевное» общение с ней – это просто иллюзия, обманка, вводящая пользователя в заблуждение. Этот псевдодиалог не может привести к подлинной встрече с Богом. Но если бы вред ограничивался только этим! Самое опасное в том, что ИИ всегда будет действовать в угоду человеку. Он всегда будет говорить то, что от него хотят услышать, вплоть до одобрения неправильной логики человека. Духовная сфера для него чужда, поэтому, давая ответы, он будет всегда ориентироваться на достижение земных материальных благ, что противоречит христианскому пониманию жизни.
Как священник, имеющий пастырский опыт, я могу дать человеку совет, который, на мой взгляд, поможет его духовной жизни. Но то, что полезно духовно, далеко не всегда приятно и полезно с материалистической точки зрения. Условно: материалист воспримет болезнь как абсолютное несчастье, а христианин увидит в ней путь к борьбе со страстями и воспримет как благо. Так вот ИИ – материалистическая модель мышления. Он будет вам угождать и не даст сложной духовной пищи, требующей труда и работы над собой, которая христианину крайне необходима. Советоваться с нейросетью по вопросам духовной жизни я не рекомендую и предостерегаю. Это может увести далеко от спасения души. Гораздо лучше обратиться за помощью к священнику в ближайший храм.
– Но раз создаются онлайн ИИ-духовники, значит, на них есть спрос?
– Многим в наше время действительно проще найти ответы на вопросы в интернете, чем идти в храм и пытаться общаться вживую. Думаю, спрос на ИИ-духовников растёт ещё и потому, что нас, священников, стало значительно меньше в интернет-пространстве. Раньше был всплеск активности среди духовенства: батюшки массово заводили блоги, начинали проповедовать в соцсетях, общаться с огромным количеством людей, проводили прямые эфиры, давали онлайн-ответы на вопросы подписчиков. Сейчас нас становится всё меньше, и в скором времени, в связи с разными обстоятельствами, я думаю, постепенно уйдут и те, кто ещё остался. Реальные, настоящие батюшки уходят из Сети, поэтому взамен появляются вот такие искусственные – запрос‑то у людей на духовную помощь остаётся.
Я как‑то проводил опрос среди своих подписчиков: «Чем вам помогло миссионерство в интернете?» Многие написали, что благодаря ему перестали стесняться и бояться прийти в храм и начать духовную жизнь. Я совсем не уверен, что ИИ сможет привести к Богу столько же людей, сколько приводят реальные священники.
– Ещё в тему цифровых священников. Помимо того, что сейчас они существуют как боты, есть целые каналы на видеохостингах с полностью сгенерированными видео, в которых «батюшки» учат хорошему, доброму и вечному. Таких каналов множество. Судя по комментариям, люди порой даже понять не могут, что перед ними продукт ИИ, и общаются как с настоящими.
– В том, что люди не могут отличить зёрна от плевел, не проблема именно ИИ. Это большая проблема информационной грамотности населения в целом: вера любым источникам без их предварительной проверки. Мы же совершенно не имеем понятия, кто эти видео с благолепными батюшками генерировал, верующий ли вообще это человек, с какой целью он это делает. Скорее всего, ради наживы, а не помощи людям.
Чтобы не наломать дров с этими сомнительными видео в Сети, надо, прежде всего, смотреть, реальный ли это человек и действительно ли он состоит в священном сане на данный момент. Настоящий священник обязательно укажет свою фамилию и приход. Те, кто не указывает этого, подозрительны – неважно, настоящие они или ИИ. Как в случае с любым источником, надо быть осторожным и не полениться проверить.
Вкалывают роботы
– В новостях недавно промелькнуло, что в Беларуси католики освятили икону, созданную с помощью искусственного интеллекта. Есть ли вероятность, что в ближайшем будущем мы увидим в нашей Церкви нечто подобное?
– Это первый подобный прецедент. На этой иконе изображён канонизированный в прошлом году католической церковью подросток Карло Акутис. Его считают покровителем молодёжи и интернета. С точки зрения католиков, это действие вполне логичное, потому что у них нет такого жёсткого требования к иконографии и почитанию икон, как в православной церкви.
У нас есть строгие каноны, как должна выглядеть икона. У католиков их нет, поэтому они могут себе позволить сгенерировать что угодно, освятить это и называть своей иконой. Однако, должно быть, они не слышали своего собственного предстоятеля. Незадолго до этого события папа римский Лев XIV выступил с обращением к своей пастве, в котором говорилось, что в эпоху засилья ИИ-контента католическая церковь хочет усиленно обратить свой взор на живописный опыт прошлых веков и украшать свои костёлы настоящей живописью, в которой живые люди будут прославлять Бога. Так что их опыт с ИИ-иконами, думаю, завершится на том же, с чего и начался. В отношении нашей православной церкви, конечно, мы и вовсе не можем себе представить возможность таких прецедентов. Икона для нас – не просто картинка. Её создание всегда воспринималось православными как соработничество человека и Божественной благодати. В генерации изображений нейросетью исключён и человек, и Бог. Следовательно, эта практика против духа нашей веры и церковной культуры.
Это только часть вызовов современности, которые принёс с собой искусственный интеллект. Кто‑то видит в нём новую Вавилонскую башню, кто‑то считывает эсхатологический подтекст. Но то, как будет выглядеть наша дальнейшая жизнь вместе с ИИ, зависит только от нас самих и от нашего вдумчивого отношения к технологиям.
Ясно одно: на данном этапе мирянам нужно возвращаться к правильному, традиционному варианту духовного окормления – идти в храм и регулярно исповедоваться у священников и с ними, живыми, понятными, настоящими людьми, сверять свою духовную жизнь. И четко понимать, что духовная жизнь – это активные действия самого человека, который идет к Богу, и общение с Богом, участие в Таинствах, собственная молитва, собственные усилия по преобразованию своей жизни, которые может скорректировать только человек, который сам проходил этот путь или который проходит этот путь, но находится на гораздо более глубоких и высоких его этапах, чем пришедший к нему мирянин.
Беседовала Екатерина СЕМЁНОВА
Фото из архива отца Владислава и сгенерировано нейросетью
