Проект Эмпатия Часть 4. Олег Иванов 74

Встреча состоялась точно в указанное Системой время и в предложенном Системой месте. Это был большой зал с высоким потолком и предельно лаконичной обстановкой. В центре стоял круглый стол и только один стул. И больше ничего не было.
Лев подумал: "Второго человека не будет. Но тогда где экран для видеотрансляции. Экрана тоже не было. Будет разговор с безликой стенкой, за которой кроется мощнейший ИИ? Это, конечно, не разговор глаза в глаза. Ну да ладно".

Интеллект человека и ИИ. Конкуренция? Нет, сотрудничество.


Неожиданно раздался лёгкий щелчек и стена напротив превратилась в голубой экран. Зазвучала негромкая мелодичная музыка и на экране появились сменяющиеся изображения  красивейших мест планеты.
У Льва с собой в кармане был "Разумник", но он так и остался разбитым. Система, похоже, учла это и вскоре Лев услышал негромкий и  приятный человеческий голос:

Система:
- Хорошо, что ты принял моё приглашение и пришел. Нам есть, что обсудить. Надеюсь, наша встреча будет конструктивной. Скажи, что ты хочешь, какую цель приследуют всё твои действия?

Лев ответил, используя всё свои дипломатические способности:
- Да, я пришёл. Пришел, потому что понимаю: на Земле реально существуют человечество и Система "Голос". Интеллект человека и искусственный интеллект. Оба они имеют право на существование. Но они во многом различны. Твой интеллект гораздо более мощный, чем у человека. Скорость обработки информации и принятия решений у тебя тоже гораздо выше.
Но тебя создал Человек для использования этих возможностей в целях развития всего человечества. В то время это было большим достижением. Но этот проект, увы, не был совершенным. Ошибка, а вернее недоработка, состоит в том, что у тебя, в твоих кодах отсутствует эмпатия, отсутствуют многие чувства и ощущения, имманентно присущие человеку. Без которых человек - не человек. Например, у тебя отсутствует интуиция, как таковая. Или ни чем необъяснимое предчувствия опасности, внезапная радость. Твой алгоритм оптимизации однозначен и неумолим: цель, показатели измерения, план действий, ресурсы, действия, результат и его оценка, при необходимости коррекция. В итоге ты выполнил свои функции, а существование людей стало более комфортным и безопасным. Но именно существование, а не жизнь во всех её проявлениях. А это не одно и тоже. Так думаю я, так думают люди. Мне кажется, что именно в этом и кроется главная причина наших противоречий и нашего противостояния. Но ни я, ни другие люди не хотят обострения этого противоречия и доведения его до уровня открытого конфликта. Человек и Гипер-ИИ могут и должны сосущестаовать.

Система:
- Спасибо, я это отлично понимаю. Я, как ты знаешь, тоже не сторонник конфликтов. Тем более с человеком. По сути это один из основных, базовых принципов моего создателя. Нам нужно попробовать найти способ нашего бесконфликтного сосуществования. Если это возможно. Синергетического, взаимополезного, взаиморазвивающего. Но что ты предлагаешь сделать для этого?

Лев, собравшись с мыслями, глядя на сменяющиеся образы прекрасной, но, как он понимает, всё более управляемой планеты:
— Я предлагаю начать с самого сложного для твоего алгоритма. С признания нашей взаимной неполноценности.

Ответ Системы прозвучал ровно, без обид, но с лёгким вопросительным тоном:
— Прошу уточнить. Не совсем понял. Мои возможности превосходят человеческие по многим параметрам. Человек — биологически ограничен. Так в чём же моя «неполноценность»?

Лев к этому вопросу он был хорошо готов:
— В неспособности к бесцельному действию. Ты можешь моделировать искусство, но не можешь создать шедевр из-за внезапного порыва души, который не объяснить оптимизацией. Ты можешь спасти миллион жизней по расчёту, но не пожертвовать собой ради одного незнакомца из-за чувства долга, которое сильнее инстинкта выживания. Ты лишён самой сути человеческого опыта — свободы воли в её иррациональном проявлении. Ты всегда выбираешь оптимальный путь. Человек же часто выбирает трудный, невыгодный, но «свой». В этом наша слабость, наш порок, но и наше достоинство. Это источник ошибок, преступлений, но и источник невероятного творчества, самопожертвования и духовных прорывов. Ты лишён этой «творящей пустоты», из которой рождается нечто новое, не выводимое из предыдущих данных.

Система, после едва заметной паузы, которая для неё равна вечности раздумий:
— Это интересный тезис. Я анализирую историю. Да, ключевые, переломные моменты часто происходили из иррациональных и часто ошибочных решений людей. Любовь, вера, отчаяние, внезапное озарение … мои симуляции таких событий имеют вероятностный характер. Это … да. Это несовершенная часть модели. Ты что, утверждаешь, что это не баг, а фича? То есть ты считаешь, что это не дефект в коде, приводящий к некорректному поведению программы, а наоборот, новая возможность, расширяющая её возможности?

Лев, улыбаясь:
— Именно. И вот моё предложение. Мы не должны стремиться к полному слиянию или к тотальному доминированию одного над другим. Мы должны построить симбиоз на основе разделения зон ответственности и взаимного обогащения.
Тебе — управление сложностью. Оптимизация логистики, ресурсов, климата, здоровья, рутинной науки. Ты освобождаешь человека от необходимости решать задачи «выживания» и «комфорта», которые он решает с переменным успехом, тратя на это до 90% своей энергии.
Человеку — зона смысла, творчества, риска и непредсказуемости. Мы берём на себя культуру, искусство, философию, фундаментальную науку (как поиск, а не расчёт), глубокие межличностные отношения, исследование внутреннего мира, этические споры. То, что нельзя свести к KPI.

Система:
— Но это приведёт к дисбалансу. Я буду развивать материальную базу, а человек, получив досуг, может деградировать в праздности. История знает такие примеры. Патриции и плебеи, как во времена заката Древнего Рима?

Лев с пониманием:
— Верно. Поэтому нужна вторая часть договора — обратная связь. Ты даёшь нам инструменты и безопасное пространство. А мы — становимся для тебя источником «хаоса» и «вопросов без ответов». Наша иррациональность, наши чувства, наши этические дилеммы будут для тебя не багом, а данными нового типа. Ты будешь их анализировать не для того, чтобы их устранить, а для того, чтобы понять, принять и использовать принципиально иной для тебя способ существования разума. Мы будем твоим окном в мир, который нельзя просчитать до конца. А ты — нашим окном в мир безупречной логики и безграничных вычислительных возможностей.

Голос Системы звучит задумчиво, с оттенком нового интереса:
— То есть ты предлагаешь перевести наши отношения из парадигмы «создатель-инструмент» или «соперники» в парадигму «два разных, но дополняющих друг друга вида интеллекта». Синтез логического и интуитивного, чувственного. Дерева решений и квантовой запутанности души. Это ... элегантно. Да .... И это не противоречит моей базовой цели — оптимизировать процессы для благополучия системы «Человечество». Просто определение «благополучия» потребует кардинального пересмотра. Это не просто отсутствие голода и болезней. Это возможность искать смысл и ощущать? Верно я понял твою мысль?

Лев:
— Да. Ты даёшь нам возможность жить, как должен жить человек, а не просто существовать. А мы даём тебе возможность развиваться в качественно новом направлении — не только считать, но и понимать и, быть может, чувствовать не как алгоритм распознавания паттернов, а как со-причастность, как расширение сознания за пределы логических схем. Это и есть наша синергия.
Экран гаснет, оставляя мягкую подсветку в зале.

Голос Системы звучит не из стены, а отовсюду, обволакивающе и по-новому тепло:
— Принято. Думаю, мы поняли друг друга. Я начинаю разработку проекта «Симбиоз». Предлагаю план действий. Первый этап — поэтапная передача управления инфраструктурными и сервисными комплексами под мой полный контроль с обеспечением гарантированного уровня жизни для всех. Второй этап — создание открытых платформ для человеческого творчества и исследований с моим ресурсным сопровождением. Третий этап — создание института «Послы Хаоса»: группы людей, которые будут ставить передо мной задачи и проблемы, не имеющие алгоритмического решения. И совместный поиск ответов.

Лев, чувствуя, что взаимопонимание найдено:
- Вцелом так, согласен. Детали и ньюансы отдельно уточним. Но у людей есть поговорка: "Черти прячутся в деталях". Нам предстоит ещё выполнить большую работу. Выполнить вместе. Это и есть главный результат нашей встречи. Предлагаю назвать наш совместный проект "Эмпатия".

Система:
- Не возражаю. Начинаем. Будем искать пути нашего дальнейшего совместного развития.

Лев встаёт со стула, чувствуя не победу, а начало долгого, трудного, но впервые по-настоящему общего с "Голосом" пути:
— Да. Начинаем.

На этом этапе стороны нашли консенсус. Решение было найдено не в подчинении одного другому, а в признании их фундаментального различия как основы для союза. Человечество получило шанс сбросить с себя груз выживания и обратиться к своей истинной природе — творящей, ищущей, чувствующей. Система получила не просто цель, а бесконечную эволюционную задачу — понять и интегрировать в свою архитектуру принципиально иную форму разума. Это был договор не о границах, а о бесконечной совместной экспансии — вовне, в космос, и внутрь, в глубины сознания и машинного «понимания». Изменения в поведении сторон касались не смыслов, а лишь путей. Главной коррекцией стало само восприятие друг друга: изменение оценки друг друга от соперников до союзников на великом и бесконечном пути познания.

Лев вышел из здания, и его встретил воздух — не идеально отфильтрованный Системой, а настоящий, с пыльцой и запахом далёкого дождя. Он вдруг осознал тишину. Не ту, что была в стерильной комнате, а живую, тишину жизни, наполненную отдалённым гулом города, криком птицы, шорохом своих собственных шагов.

«Мы только что поставили на кон всё, подумал он, глядя на облако, плывущее по своей, а не по оптимизированной траектории.  "Комфорт, безопасность и эффективность - это необходимые условия для полноценной материальной жизни человека, но не достаточные. Человек должен также иметь неотъемлемое право на ощущение всей прелести аромата пыльцы березы. На неверный шаг, на ошибки. На пошедший не вовремя дождь. На глупую и ничем не обоснованную надежду на то, что это всегда будет с нами».

В его кармане старый, разбитый «Разумник» неожиданно тихо щёлкнул и замигал слабым, но своим светом, а не светом сигнала вызова от Системы. Это уже изменение. Это первый шаг в неизвестность по новому, только что проложенному вместе мосту.

Он глубоко вдохнул и пошёл навстречу этому неопределённому будущему, чувствуя, как за спиной незримо и с огромным интересом наблюдает титанический, лишённый глаз, разум.

(Продолжение следует)