Религия и ИИ, а между ними Человек Часть 2

— Вот! — оживился Андрей. — Кривое зеркало — отличная метафора. Белов сегодня рассказывал, как нейросеть выдала ему наукообразную чушь. Но она выдала её, только потому что в обучающих данных была эта наукообразность и куча ошибочных шаблонов и данных. Машина просто достроила вероятностный мостик туда, где данных не хватало. Человек бы сказал: «Я не знаю». А машина не может сказать «не знаю», она должна выдать результат. Это не ложь, это — сбой архитектуры, галлюцинация.

— Получается, — философ подался вперёд, — «галлюцинация» ИИ — это отчаянная попытка алгоритма сохранить своё лицо? Или ... ? Компенсаторный механизм? Чем это тогда отличается от человеческой фантазии?

— Кардинально! — Андрей даже привстал. — Фантазия — творческий акт, выход за пределы. Человек фантазирует, потому что у него есть дух, образ Божий, если хотите. Отец Алексий подтвердит. А ИИ — лишь компилятор. Его «фантазия» — это ремикс, плагиат. Он не творит из ничего, как Творец, и даже не творит из опыта, как человек. Он просто перетасовывает данные. ... Или подтасовывает?

— Согласен, — кивнул философ. — Но давайте копнём глубже. Соколов сегодня в своём выступлении сказал, что человека человеком делает чувство вины. А память, добавил он, отличает нас от ИИ. Он всё помнит, но не переживает. Так может, ошибка — это и есть цена за человечность? Цена за душу со всеми её переживаниями?

Отец Алексий поставил стакан, разговор захватил его.

— Вы, Владислав Николаевич, о важном сказали. Вспомните притчу о блудном сыне. Он совершил грубейшую ошибку. Ушел, промотал наследство. Но именно осознание этой ошибки, чувство стыда привело его к возвращению и прощению. Ошибка в христианстве — это не баг. Это повод для покаяния. Где точка роста у ИИ. Даже если он «осознает» ошибку? Покается? Нет. Он просто скорректирует алгоритм. С помощью человека. Или без него, сам внесёт коррективы.

— То есть, — подхватил Андрей, — мы боимся, что ИИ станет самостоятельным и навредит нам, ошибаясь по-человечески. А опасность в другом: что человек перестанет ошибаться по-человечески. Перестанет чувствовать вину, переложив ответственность на алгоритм. Медик Лебедев сегодня про интеллектуальный регресс говорил. Убеждал, что если полностью доверять ИИ ставить диагноз, то со временем мы разучимся ставить его сами. И когда ИИ ошибётся, мы даже не поймем, в чём дело. Я потеряю критическое мышление. И кто будет виноват? И кому надо покаяться?

Философ одобрительно хмыкнул.

— Блестяще. Вы вывели нас на диалектику. Религия говорит: мир во грехе, человек ошибается. Наука говорит: ошибки устранимы, мы идём к идеалу. Борьба? Да. Но в чём их единство?

— В конечности, — неожиданно твёрдо сказал отец Алексий. — Религия учит, что мир конечен, история имеет конец, и каждому будет воздаяние. Это формирует нравственность. А что такое оптимизация, к которой стремится ИИ? Это попытка создать идеальную, безошибочную систему здесь и сейчас. Это попытка отменить конечность, построить рай на земле без Бога.

— И в этом их трагическое единство, — подхватил философ. — И то, и другое ищет спасения. Одно — в вечности, другое — в оптимизации. Но их «синтез», о котором сегодня говорил Орлов в тезисах про цифровую религию, — это страшноватая вещь. Вы представляете исповедь перед чат-ботом?

Отец Алексий поморщился.
— Это извращение. Исповедь — это акт веры перед Богом в присутствии священника-свидетеля. Чат-бот скажет: «Я тебя понимаю, брат». Это дешёвая психотерапия, но не таинство. Эффект расслабления будет, а благодати — нет.

— Но ведь будут те, кому эффекта достаточно, — грустно продолжил отец Алексий. — Массам нужен комфорт, а не истина. ИИ не требует веры, не требует усилия, он подстраивается под тебя. А религия говорит: «Неси крест», «Покайся». Это трудно. Вот здесь ИИ идеальный конкурент.

— Но именно в этом трудном и есть человек, — тихо произнёс Андрей. — Знаете, я понял, чем меня зацепила та ситуация с «обманом» ИИ. Мы думаем — машина врёт. А это мы, люди, вложили в данные столько противоречий, столько нашей путаницы и ошибок, что машина, как честный компилятор, собрала нам наш же коллективный портрет. И он получился лживым. Потому что лжив сам человек. ИИ обнажает нашу собственную кривизну. Он — зеркало не только знаний, но и нашей греховности. И глупости.

В номере повисла тишина. За открытым окном стрекотали цикады. Было далеко за полночь. Философ поднял стакан.

— Круто! Господа, я предлагаю тост. За ошибки. За то, чтобы у нас, людей, хватило мудрости ошибаться по-человечески — с покаянием и надеждой на прощение, и не передавать машине то, что принадлежит только нам: нашу боль, нашу вину и нашу способность к искуплению.

— И нашу веру, — добавил отец Алексий, поднимая стакан с чаем.

— И нашу свободу, — эхом отозвался Андрей.

Чокнулись. Коньяк и чай встретились в звоне тонкого стекла, как встречаются в этом мире вера и разум. За окном была ночь, и первый день дискуссии давно догорел. Впереди был остаток ночи и ещё один день, полный новых вопросов.

Вопросов стало, похоже, ещё больше. И кто даст на них ответ?