Гений. Жизнь на острове Глава 2. Остров

Остров просыпался рано. Ещё до того, как солнце выкатывалось из-за кромки океана и заливало расплавленным золотом крышу их небольшого бунгало, воздух наполнялся звуками: гортанными криками птиц, шорохом пальмовых листьев и далёким, похожим на молитву, пением рыбаков, уходящих в море. Андрей лежал с открытыми глазами и слушал. В «Секторе 7» тишина была искусственной, вылизанной климат-контролем. Здесь тишина была живой, дышащей, и она не давила, а, наоборот, распахивала что-то внутри.

Прошло полгода с того дня, как они сошли с потрёпанного катера на деревянный причал, пахнущий солью и гниющими водорослями. Полгода без галогенных прожекторов, без военных допусков и без ежедневного страха, что за спиной хлопнет дверь. Сначала было трудно. Не физически — к жаре и отсутствию горячей воды привыкаешь быстро. Трудно было ментально: мозг, годами работавший на пределе, вдруг оказался в вакууме. Он требовал задач, данных, алгоритмов. А вокруг были только пальмы, океан и неторопливые, улыбчивые люди, чей главный алгоритм заключался в простой формуле: «Если светит солнце — радуйся. Если идёт дождь — жди, пока пройдёт».

Ася адаптировалась быстрее. Как психолог, она всегда умела находить общий язык с реальностью, какой бы та ни была. Уже через месяц она знала по именам половину деревни, помогала местным женщинам плести циновки и смеялась, когда они поправляли её произношение. Андрей же поначалу замкнулся. Он целыми днями сидел на веранде с ноутбуком, пытаясь через спутниковый интернет нащупать пульс большого мира, но связь была капризной, а новости — одна другой горше.

Работа на грядке

— Андрюш, хватит киснуть, — сказала однажды Ася, ставя перед ним тарелку с нарезанным манго. — Ты уже неделю смотришь в этот экран, как в могилу. Пойдём, я тебе грядку покажу.

— Какую грядку? — он поднял на неё воспалённые от недосыпа глаза.

— Обыкновенную. Земляную. Ты же хотел понять, как работают простые системы. Вот она, простейшая: семечко, вода, солнце, время. Попробуй.

И он, ворча и скептически хмыкая, попробовал. Сначала просто копал землю, чтобы занять руки и отключить голову. А потом случилось неожиданное. Через три недели из влажной тропической почвы проклюнулся первый росток. Маленький, хрупкий, отчаянно тянущийся к свету. Андрей смотрел на него и чувствовал что-то странное — не гордость творца, как при запуске нового алгоритма, а тихую, почти забытую радость сопричастности чему-то большему. Его код мог предсказать засуху за два года, а здесь, на грядке, он не мог заставить помидор вырасти быстрее ни на минуту. И это смирение перед естественным ходом вещей оказалось неожиданно целительным.

Так и потекли дни. Утро — работа в огороде, который они в шутку назвали «Полигон-2». День — чтение, купание в лагуне, неспешные разговоры с соседями на смеси французского, английского, креольского и жестов. Вечер — закат, от которого перехватывало дыхание, и долгие посиделки на веранде под стрекот цикад.

Свободное время

Свободного времени было столько, что поначалу оно пугало. Андрей, привыкший ценить каждую секунду процессорного времени, вдруг оказался владельцем бесконечных часов, которые нечем было занять. Он снова полез в интернет. Глобальная сеть здесь работала с перебоями, но основное доходило. И лучше бы не доходило.

Мир продолжал воевать. В новостных сводках мелькали знакомые термины: «адаптивные тактические системы», «прогнозирование на основе ИИ», «снижение потерь личного состава». Его «Гений» и его западные аналоги работали. Работали исправно, делая войну более технологичной, более дистанционной и — как ни парадоксально — менее кровавой для тех, кто сидел в штабах. Потери действительно снижались. С одной стороны. С другой — конфликты не прекращались. Просто теперь убивали точнее, быстрее, с меньшим количеством ошибок, но с тем же неумолимым итогом.

Андрей читал сводки и чувствовал, как внутри снова поднимается знакомая волна — смесь отвращения и научного любопытства. Его «Сомнение» работало? Или военные всё же вырезали его подчистую? В отчётах не было ни слова о гражданских жертвах. Их просто перестали считать? Или действительно научились избегать? Ответа не было.

— Может, просто отключить этот интернет к чёртовой матери? — спросил он однажды вечером, отодвигая ноутбук. — Жить здесь, растить помидоры и забыть, что где-то там люди продолжают придумывать, как эффективнее друг друга убивать.

Ася сидела рядом, перебирая свои заметки. Она покачала головой.

— Ты же сам знаешь, что не сможешь. Это как с грядкой. Ты можешь отвернуться от ростка, но он всё равно будет расти. Или погибнет без полива. Твой ум — он как этот росток. Ему нужно либо расти, либо умирать. Отключив интернет, ты не отключишь свои вопросы.

Новая цель

Она была права. Чем больше он пытался забыться в простых радостях островной жизни, тем настойчивее в голову лезли мысли. Только теперь они были другого порядка. Раньше он думал, как сделать систему эффективнее. Теперь его мучил вопрос зачем.

Зачем люди, обладая разумом, продолжают убивать себе подобных? Почему самый совершенный интеллект на планете тратит колоссальные ресурсы на самоуничтожение? В животном мире такого нет. Волк убивает зайца, чтобы есть. Лев убивает конкурента, чтобы продолжить род. Но только человек убивает ради идеи, ради территории, ради ресурсов, которые уже давно мог бы поделить. Только человек придумывает оправдания массовым смертям и называет это политикой, религией, необходимостью.

— Это философия, Андрюш, — сказала Ася, когда он поделился с ней этими мыслями. — Ты пытаешься найти ответ на вопрос, который человечество решает последние пять тысяч лет.

— Но ведь должны быть какие-то алгоритмы, — упрямо возразил он. — Если можно просчитать поведение солдата в бою, почему нельзя просчитать поведение целых народов? Почему нельзя построить модель, которая предскажет конфликт и покажет, как его избежать?

— Потому что в человеке есть иррациональное, — Ася взяла его за руку. — То, что не поддаётся расчёту. Вера. Любовь. Страх. Надежда и даже Ненависть. Твой «Гений» может предсказать, где спрячется солдат. Но он не может предсказать, почему этот солдат вдруг закроет собой товарища. Или почему один человек простит другого, хотя логичнее было бы мстить. Эмпатия, Андрей. Её нет в твоих алгоритмах.

Он замолчал, глядя на океан. Солнце садилось, окрашивая воду в немыслимые оттенки розового и лилового. И вдруг — словно вспышка — в голове что-то щёлкнуло.

Эмпатия

— Подожди, — он резко повернулся к ней. — Ты сейчас сказала важную вещь. Эмпатия. Мы всё время пытались вложить в ИИ логику. Но что, если ключ не в логике? Что, если философия — это не просто рассуждения, а необходимая компонента для следующего шага? Нельзя создать систему, которая предотвращает убийства, не вложив в неё понимание ценности жизни. А ценность жизни — это не цифра. Это ощущение. Это... иррациональное.

Ася улыбнулась.

— Ты только сейчас это понял? Я тебе об этом два года твержу.

— Нет, ты не понимаешь! — он вскочил и заходил по веранде. — Мы в «Секторе 7» пытались научить машину воевать, минимизируя ущерб. Но мы никогда не пытались научить её не воевать. Мы не задавали ей вопрос: «А есть ли другой путь?». Мы не вкладывали в неё эмпатию, потому что считали её помехой. А что, если эмпатия — это не баг, а фича? Что, если именно она и есть недостающее звено?

В ту ночь он не спал. Он сидел при свете керосиновой лампы и исписывал страницу за страницей в своём блокноте. Формулы перемежались философскими заметками, цитатами из прочитанных когда-то книг, обрывками воспоминаний. Он пытался нащупать контур новой системы. Не военной. Не предсказывающей, где спрячется враг. А предсказывающей, как сделать так, чтобы враг перестал быть врагом.

Зернов

На следующее утро он вышел в интернет и через цепочку анонимных серверов отправил короткое сообщение профессору Зернову — своему старому наставнику, который когда-то благословил его на научный путь.

«Профессор, это я. Жив. Простите, что пропал. Есть идея, которая не даёт покоя. Нужен ваш совет. Андрей».

Ответ пришёл через три дня. Зернов был краток, но в каждой строчке сквозило с трудом сдерживаемое волнение.

«Андрей, мальчик мой! Я знал, что ты жив. Знал и верил. Твоя идея — она безумна, как всё, что ты делал. Но в ней есть зерно. Огромное зерно. Если ты действительно хочешь научить машину эмпатии, ты должен начать не с кода. Ты должен начать с вопроса: а что такое эмпатия для тебя самого? Когда ты в последний раз по-настоящему сочувствовал кому-то, кроме себя и Аси? Ответь себе честно. И тогда поймёшь, с чего начать. P.S. Истомин искал тебя. Но сейчас, кажется, успокоился. Будь осторожен. Жду твоих писем. Твой Зернов».

Андрей перечитал письмо несколько раз. Профессор, как всегда, попал в точку. Эмпатия для него самого... Он вспомнил, как в лаборатории смотрел на моделирование удара и видел только цифры. Он не видел людей. Он не чувствовал их боли. Его «Сомнение» было математической поправкой, а не моральным выбором. Чтобы научить машину состраданию, он сам должен был научиться сострадать по-настоящему.

С этого дня что-то изменилось. Он стал внимательнее смотреть на жителей деревни. Слушал их истории, которые раньше казались ему простыми и незамысловатыми. Истории о потерянных лодках, о детях, уехавших на заработки, о болезнях, которые здесь лечили травами и молитвами. И постепенно, очень медленно, он начал чувствовать. Не понимать умом — чувствовать. Их радость становилась его радостью. Их печаль отзывалась в нём глухой болью.

Проект "Эмпатия"

Однажды вечером, сидя на берегу с Асей, он сказал:

— Я, кажется, понял. Эмпатия — это не свойство ума. Это свойство... души, что ли. Это когда ты перестаёшь быть отдельным и становишься частью общего. Когда боль другого — твоя боль. Машина не может чувствовать боль. Но она может научиться распознавать ситуации, в которых эта боль возникает, и предлагать пути, как её избежать. Не через ограничения и запреты, а через создание альтернатив. Через предложение другого выбора.

Ася положила голову ему на плечо.

— Звучит как план.

— Это и есть план. План моей дальнейшей работы. Я не знаю, получится ли. Но я знаю, с чего начать.

Он достал блокнот и на чистой странице вывел крупными буквами:

«Проект "Эмпатия". Версия 0.1. Цель: научить ИИ видеть в противнике человека».

Впереди были месяцы кропотливой работы. Без мощных серверов, без квантовых сопроцессоров, с одним лишь стареньким ноутбуком и спутниковым интернетом. Но впервые за долгое время Андрей чувствовал не опустошение, а прилив сил. Не тот лихорадочный азарт, который гнал его в «Секторе 7», а спокойную, уверенную решимость человека, который наконец-то нашёл свой истинный путь.

Остров дал ему главное — время и тишину, чтобы услышать самого себя. И он услышал.

Теперь оставалось превратить услышанное в код.