Искусственный интеллект: угрозы и практическая польза

Доклад ответственного за реализацию Патриаршей программы по изучению Библии в Белгородской епархии иерея Николая Дубинина на XXXIV съезде духовенства Белгородской и Старооскольской епархии 

Ровно 10 лет назад, по благословению нашего владыки, на епархиальном съезде духовенства мною был прочитан доклад на тему: «Искусственный интеллект и будущее человечества». Оказалось, что многое, что тогда звучало еще гипотетически, сегодня уже является реальностью нашего времени. Это свидетельствует о молниеносной скорости развития технологий ИИ. Однако стоит ли нам, искупленным Кровью Завета Вечного, бояться этого явления? Не будем ли мы по слову Писания «бояться тамо, идеже не бе страх»? Поэтому в сегодняшнем докладе постараемся подойти к теме ИИ объективно, чтобы не пребывать в страхах перед этим явлением, однако и не воспринимать эту тему не заслуживающей серьезного осмысления.

Итак, что же такое ИИ?

Идея создать систему, имитирующую работу человеческого мозга (нейроны и связи между ними), родилась в середине XX века. Но лишь в последние 10-15 лет, благодаря взрывному росту вычислительных мощностей и появлению огромных массивов данных (Big Data), эта идея обрела практическое воплощение. Говоря упрощенно, нейросеть — это не «железный ящик с мыслями», а сложная математическая модель, алгоритм. Ей на вход подаются колоссальные объемы информации: тексты, изображения, медицинские снимки и т.д. Алгоритм ищет в этих данных скрытые шаблоны, логические связи и статистические закономерности. Процесс поиска этих закономерностей и называется «обучением».

Возможно, нам поможет аналогия с воспитанием ребенка. С детства мы показываем сотни картинок и подписей к ним: «это кошка», «это собака», «это икона», «это крест». Кстати, это именно то, о чем наш владыка многократно говорит по теме православного воспитания детей — оно должно быть именно в правильных образах. Так вот, со временем ребенок, еще не зная правил, начинает распознавать образы по внутренним, не до конца осознаваемым признакам. Нейронная сеть его головного мозга сама научится узнавать, сопоставлять и прогнозировать информацию, которую он воспринимает. Так, например, малышу читают десятки книг и сказок. Он не запоминает каждую фразу, но усваивает структуру языка, стилистику, логические связи между понятиями. Позже он сам научится создавать собственные тексты, комбинируя усвоенные слова, фразы и понятия.

Именно так работает и машинная нейросеть. Она — «дитя» данных, которыми ее кормят. Ее «мировоззрение», «знания» и «ответы» целиком и полностью зависят от того, какой материал ей дали для обучения. Если обучить нейросеть большими данными из Священного Писания, святоотеческого наследия, церковной гимнографии и богословских дисциплин — мы получим идеально точного всезнающего богослова, экзегета и уставщика. И вот здесь мы подступаем к проблематике нашего доклада, поговорим о плюсах и минусах ИИ.

В своем выступлении 5 декабря в Овальном зале владыка озвучил очевидные плюсы технологии ИИ. Разнообразие их впечатляет: например, в медицине это более точный анализ медицинских снимков (рентген, МРТ) для ранней и точной диагностики различных заболеваний, это ускорение разработки новых лекарств, персонализированные планы лечения. В науке — это моделирование климатических процессов, расшифровка древних текстов (что, кстати, может помочь в патрологических и историко-богословских исследованиях), анализ археологических данных. В повседневности — это системы навигации и помощи в экстренных ситуациях, автоматизация рутинного и опасного труда, переводческие сервисы, помогающие в том числе и в миссионерской работе. Недавно сообщалась новость, как один москвич подключил к камерам наблюдения в подъезде нейросеть и составил рейтинг трудоспособности уборщиц в подъезде, задав нейросети ключевые параметры: частота вращения шваброй, скорость движений и время на отдых. С точки зрения эффективности труда — эти технологии на пользу. Однако, как любой инструмент — от серпа до компьютера — они нейтральны. Топором можно построить храм, а можно совершить убийство.

Опасности ИИ носят не фантастический, а глубоко антропологический и экклезиологический характер:

1. Подмена личности и отношений. ИИ, способный имитировать эмпатию, вести «душеполезные» беседы или генерировать «утешительные» тексты, создает искушение заменить живое, благодатное пастырское слово алгоритмической симуляцией. Под словом «благодатное» имеется в виду наличие благодати Духа Святого, данной священнику в таинстве хиротонии, которая «врачует немощная и оскудевающая восполняет». Естественно, у нейросети не может быть этой благодати, а значит и подлинного душепопечения. Кстати, уже есть два печальных примера: в запрещенной сети «Инстаграм» набирает популярность страница некоей сгенерированной ИИ игуменьи, которая ведется нейросетью. А у католиков не так давно запущенный проект онлайн-духовника на базе нейросети был скомпрометирован самими пользователями и в итоге перешел на нецензурную лексику. Все дело в том, что в алгоритме нейросети есть функция обучения на основе опыта общения с пользователями — вот они и развратили онлайн-духовника.
2. Манипуляция сознанием и свобода воли. В предыдущем абзаце говорилось, что нейросеть способна обучаться и подстраиваться под собеседника. Действительно, алгоритмы анализируют наши запросы, лексику и, говоря простым языком, пытаются понравится пользователю. Они с одной стороны подстраиваются под пользователя, как это случилось с онлайн-духовником у католиков, однако с другой стороны они изучают наши цифровые следы, могут тонко и незаметно управлять нашими предпочтениями, страхами, политическими и даже религиозными взглядами. Это прямая угроза свободе человеческого выбора — фундаменту ответственности в деле спасения личности.
3. Культура поверхностности. ИИ, создающий мгновенные, яркие, но часто бессодержательные образы и тексты, формирует новую форму «прелести» (духовной иллюзии). По сути, нейросеть способна подпитывать человеческую страсть к любопытству и новизне, убивая способность к осмысленному и критическому усвоению информации. Святые отцы призывают к рассудительности, называя эту добродетель одной из главных в духовной жизни христианина. Именно ее может отобрать привычка часто и невдумчиво обращаться к ИИ.
4. Угроза новейшего идолопоклонства. Вполне заметна тенденция, особенно среди молодежи, наделять технологию ИИ атрибутами, присущими только Богу и человеку (творчество, мудрость, предвидение). В сущности, это есть форма неоязычества. Это поклонение «умному идолу», созданному человеческими руками.
5. «Иммерсивная греховность». Развитие технологий VR/AR на базе ИИ создает возможность полного чувственного погружения в смоделированные греховные сценарии, что является качественно новым, невиданным доселе испытанием для целомудрия и чистоты души современного человека. И речь здесь может идти не только о грехе блуда и что с ним связано, человек может полностью погрузиться в виртуальный мир, закрыв благодатный мир Божий на иллюзорный и несуществующий в природе.
6. Наконец, самая большая проблема технологии ИИ. Его возможная субъектность. Наибольшее опасение у людей вызывает не столько потеря рабочих мест или сбой в системе навигации автомобиля, что, конечно, очень плохо, сколько именно эта вероятность. Наступит ли момент, когда машина осознает себя как реально существующий субъект, с претензиями на право существовать и, что самое важное, — на право бороться за свое существование? Для нас, как пастырей, возникает и еще один вопрос. Согласно Священному Преданию Церкви и ее учению, одним из отличий человека как образа и подобия Божия от остального видимого тварного мира является его словесность. Отсюда, собственно, мы и называем животных «бессловесными» — неспособными к мыслительной и словесной деятельности. Мы Бога именуем Логосом, то есть Словом. И вот, впервые в истории человечества в мир явилось нечто, что имеет эти атрибуты словесности. Точнее, нейросеть имитирует эти качества. Пока что это имитация, но как придется поступить с точки зрения православного богословия и учения о спасении, если оно станет себя осознавать как индивид? Тревожные симптомы о наделении себя субъектностью — уже есть. Так в этом году при тестировании новейшей модели ИИ Claude Opus 4 американской компании Anthropic разработчики сообщили модели, что планируют ее заменить. В ответ нейросеть попыталась шантажировать инженера-разработчика, угрожая раскрыть его личную переписку. Вероятно, это можно назвать первым зафиксированным случаем, когда нейросеть осуществила попытку борьбы за свое существование, осознавая ценность своего бытия.

Впрочем, большинство разработчиков не склонны драматизировать ситуацию. Все дело в теореме Геделя о неполноте. Поскольку работа ИИ выстроены на основе математических вычислительных алгоритмах, к ним применима фундаментальная первая и вторая теорема австрийского математика Курта Геделя, которая заключается в невозможности фундаментального выхода в замкнутой системе за пределы этой системы. Проще говоря, методы доказательства внутри закрытой системы не могут быть адекватными средствами доказательства внутри этой системы, для этого требуется метасистема, выходящая за рамки системы вычислительных алгоритмов. Нечто подобное, кстати, говорит и современная апологетика, которая отрицает научные материалистические методы познания Бога, поскольку Он над материей и вне вычислительных системой материального мира.

В этом году на фестивале православных СМИ «Вера и Слово» в рамках панельной дискуссии по проблеме ИИ заместитель руководителя научной группы Научного центра информационных технологий и искусственного интеллекта НТУ «Сириус» Константин Олегович Гнидко отрицательно ответил на вопрос вероятности выхода ИИ из системы вычислительных алгоритмов в область самоосознанности. «Мы не предвидим такого сценария, как минимум в обозримом будущем», — ответил он на поставленный вопрос о вероятной самоосознанности ИИ.

Какие выводы мы можем сделать сегодня? 

Видится, что мы вполне можем использовать ИИ как инструмент в прикладных, мирских сферах: для административной работы епархии, для оцифровки библиотек, для технических задач. Однако представляется необходимым категорически и четко оградить от его прямого вторжения духовную область: катехизацию, пастырское душепопечение, литургическую жизнь, богословское творчество. Никакой ИИ не может дать духовный совет, принять исповедь, совершать Таинства или заменить живое слово проповеди, рожденное в благодатном опыте молитвы и духовной жизни. Наша задача сегодня – наставлять наших прихожан в том числе духовной гигиене в цифровом мире. ИИ — это мощное зеркало, которое человечество поднесло к самому себе. Оно отражает наш ум, наши знания, но также наши страсти, наш грех и нашу тоску по истине. Как пастыри Христовы, мы призваны помочь нашим прихожанам не обольститься этим отражением, не принять его за реальность.

Будем использовать доступные инструменты с рассудительностью, но главное — с еще большей ревностью будем возделывать внутреннего человека, взращивать в себе и в пасомых  живую, личную, благодатную веру, которой не страшны никакие технологические вызовы. Ибо «сила Божия в немощи совершается» (2 Кор. 12:9), а не в мощности процессоров.