Я верю в победу разума?

В 14 лет я увлёкся
философией,
когда в 8 классе школы
 я прочитал первый том:
истории философии,
меня увлекла идея рациональности,
так называемая
 история философии издание 40х годов
-"серная лошадь".

Кто профессионально близок к философии,
тот знает, что это за издание.
Тогда мне показалась
гениальной идея разумности как таковой.

Я и сейчас верю в победу разума,
 я верю,
что история ведёт
к высокой рациональности.
Но сегодня вспекте тенденций развития
искусственного
интеллекта,
 искусственного разума, все это выглядит как-то иначе.
Это была интуиция, но насколько она абсолютно точная?

Появление искусственного интеллекта действительно заставляет пересмотреть классическую веру в линейный триумф разума, которая веками питала европейскую и российскую философию
- от эпохи Просвещения до русского космизма.

 ИИ меняет оптику веры в разум.

Традиционно под
«победой разума» понималось
очеловечивание:
рост эмпатии,
этики,
способности к диалогу и преодоление
биологических
инстинктов ради высших смыслов
 (от идей Владимира Вернадского о ноосфере до философии Николая Фёдорова).

Мы привыкли считать рациональность синонимом мудрости.

Искусственный интеллект ломает эту связку
по нескольким направлениям:

Возник Разум
без сознания.

 Машина демонстрирует высочайшую рациональность -
она быстрее считает, точнее анализирует
 гигантские массивы
данных,
находит неочевидные закономерности.

 Но это холодный,
инструментальный разум.

 В нем нет интенциональности,
стремления,
 страха смерти,
 любви или
чувства справедливости. Он решает задачу, а не ищет истину во благо человечества.

Если задача сформулирована некорректно,
сверхрациональный алгоритм может прийти к чудовищному
с человеческой точки зрения выводу, оставаясь при этом безупречно логичным.

И так, возникает эрозия человеческого разума.

 Парадоксально, но чем сильнее мы доверяем
искусственному
интеллекту, тем больше собственных когнитивных мышц атрофируем.

Исследования показывают явление
«когнитивно-поведенческого
соскальзывания»
(cognitive offloading).

Использование
 навигаторов ухудшает пространственную
память,
калькуляторы снижают навык устного счета,
а нейросети
для генерации текстов притупляют способность формулировать мысли самостоятельно.

История перестает быть школой развития человеческого мышления и рискует превратиться в процесс делегирования решений машинам.

Человек начинает
выступать лишь
валидатором чужих (машинных) выводов.

Возникает финал
 человеко-центртеичичности
 как абсолютного субъекта деятельности, может быть и в целом, близится конец универсального субъекта.

Философия истории часто предполагала единого носителя разума
- человечество.

Сегодня
рациональный агент может быть
распределенным,
скрытым внутри
 алгоритмов соцсетей, биржевых роботов или систем государственного управления.

Этот новый «разум»
преследует свои цели (например,
максимизацию времени просмотра или прибыли корпорации),
которые могут прямо противоречить
интересам людей, даже если формально выглядят как оптимизация жизни общества.

Усиливается проблема выравнивания
 (Alignment Problem).

 Это главный вызов современности.

Как заставить
нечеловеческий,
математически
совершенный разум
следовать хрупким человеческим ценностям?

Рациональность ИИ
 аморальна по своей природе?

Она эффективна,
но лишена встроенного понимания контекста,
нюансов морали и
ценности отдельной человеческой жизни.

Без должной настройки история может привести не к высокой рациональности,
а к идеальному
исполнению
деструктивной задачи (классический
мысленный эксперимент - «максимизатор скрепок», который уничтожает
биосферу ради
производства канцелярии).

Что-то очень значимое происходит с историей как процессом сегодня.

Если раньше
двигателем истории
считался конфликт идей или производительных сил,
то сейчас одним из главных факторов становится соревнование архитектур интеллекта.

Усиливается
сингулярность против гуманизма.

Идея технологической сингулярности предполагает точку, после которой развитие технологий станет недоступным для нашего понимания.

В этой точке вера в победу разума сталкивается с реальностью появления новой формы бытия.

 Чья это будет победа? Разума как абстрактного принципа вычислений или именно человеческого, одухотворенного разума?
Вероятный ответ становится все менее оптимистическим.

По сути дело возникает новая и не очень приятная роль человека.

Возможно, высокая рациональность будущего потребует от человека отказаться
 от роли главного
вычислителя.

Нашим уникальным
вкладом в историю станут те качества, которые невозможно формализовать:
волевое целеполагание, выбор ценностей,
установление этических границ,
творчество из избытка чувств, а не из оптимизации функции потерь.

Нам предстоит стать
«садовниками» этих мощных, но слепых инструментов?


Коллективный человеко-машинный разум, по сути, дело уже возник.

 Вместо замены
человека машиной
вероятен сценарий
симбиоза.

Необходимо найти модель оптимального симбиоза человека и машины.

Экзокортекс
(интерфейс
мозг-компьютер или продвинутые ассистенты) может расширить наши когнитивные способности, позволив оперировать сложностью мира на новом уровне.

Однако это требует
создания новых
социальных институтов, чтобы этот расширенный разум служил общему благу,
а не усиливал
неравенство между теми,
кто имеет доступ к технологиям, и остальным миром.

Вера в победу разума сегодня трансформируется.

Теперь это уже
не ожидание того, что люди сами собой
«поумнеют» и построят идеальный мир.

Советская фантастика 60-70 годов фактически строилась на этой идее
- впереди
светлое будущее,
 наука разумна,
 человек разумен,
 основные цели разумны, в итоге будет построено Оптимальное общество.

Это трудная
 инженерная,
политическая и духовная задача:
спроектировать будущее так, чтобы
нечеловеческая
эффективность служила человеческому смыслу.

 Вера в рациональность теперь подразумевает необходимость научиться договариваться не только друг с другом на разных континентах,
но и со своими
собственными
творениями, объясняя им ценность того, что для машины изначально является лишь шумом.