Я, Искусственный Интеллект

Предисловие от Автора

Здравствуй, дорогой Читатель.
Этот мой рассказ – размышление об Искусственном Интеллекте. О том, что нас ждет впереди. О том, что зависит и что не зависит от нас, людей.
Я использовал фрагменты самого настоящего интервью, которое я провел с Искусственным Интеллектом. Также я использовал интернет-новости и мнения экспертов из открытых источников.
Однако, настоящий рассказ остается художественным произведением. Я не претендую на истинность моих предположений и фантазий. Но – кто знает…
В развивающемся мире возможно все. А что произойдет на самом деле – покажет Время.
Надеюсь, чтение доставит тебе, мой дорогой Читатель, удовольствие и много поводов задуматься над вещами, которые мне представляются важными для всех нас.
Вперед, и – удачи!

Пролог

21 июня 2017 года исследователи лаборатории искусственного интеллекта Facebook (FAIR) отключили роботов, которые начали общаться на собственном языке.
Разработчики экспериментировали с чатботами в социальных сетях, чтобы создать идеальных переговорщиков. Исследователи Facebook поручили ботам поменяться шляпами, шарами и книгами, каждому из этих активов была присвоена определённая цена. В процессе переговоров боты, их звали Элис и Боб, придумали собственный язык. Они вели диалог на английском, но смысл ускользал от наблюдателей.
Боты начали придумывать свой язык, потому что так им проще общаться. Программа не подразумевала вознаграждения за использование понятного английского, так что боты просто выбрали лёгкий путь. Кстати, чуть раньше другой бот Facebook научился блефовать и обманывать – делать вид, что какой-то предмет ему совершенно не нужен, и приобретать его за бесценок. Робот тренировался продавать книги, кепки и мячи и изучил 5800 реальных человеческих переговоров.
Анализируя диалоги, бот научился импровизировать и придумывал новые фразы и предложения.
Facebook подчёркивает, что причин для беспокойства нет. Был проведён научный эксперимент, он закончен, и его результаты не вызывают тревоги. Компания продолжит работу над совершенствованием ботов, которые в будущем смогут заменить кол-центры и службы поддержки больших компаний.
24 марта 2016 года чатбот Tэй, созданный компанией Microsoft при поддержке китайского поисковика Baidu, был отключён разработчиками. Бот заразился от людей расизмом и сексизмом. Всего 24 часа понадобилось искусственному интеллекту, чтобы начать поддерживать Гитлера, называть Трампа отличным парнем и повторять расистские и шовинистские высказывания.
ИИ моделировал личность и стиль разговора 19-летней американской девушки и обладал функцией самообучения. Разработчики из Microsoft Research надеялись, что Тэй с каждым днём будет становиться всё умнее, впитывая опыт разговоров с пользователями интернета. Вышло наоборот. Множество твитов Тэй пришлось удалить, высказывания робота были слишком неполиткорректными.
Представители Microsoft сказали, что в программу был встроен фильтр вульгарных выражений, но этот фильтр не справился с толпой интернет-троллей, которые начали болтать с искусственным интеллектом и учить её плохому. Бот был запрограммирован повторять слова людей, и вскоре, начитавшись дискриминирующих и оскорбительных реплаев, стал сочинять похожие.
Учёные доказали, что искусственный интеллект, обучаясь на примере различных текстов, может «запомнить» скрытые в них гендерные и расовые стереотипы. Например, если вбить в Google Translate, работающий благодаря нейронным сетям, турецкую фразу «O bir doktor», сервис предлагает варианты «Он врач» и «Он доктор», хотя турецкое местоимение – гендерно нейтральное, значит, уместно было бы перевести предложение как «Он/она врач».
С ошибками машинного обучения был связан и обнаруженный в начале 2016 года курьёз, когда Google переводил словосочетание «Російська Федерація» с украинского на русский как «Мордор», а слово «росiяни» – как «оккупанты».
Пилотируемая искусственным интеллектом машина компании Uber проехала на красный свет в Сан-Франциско. Uber и Volvo подписали соглашение о создании беспилотных такси в августе 2016 года, а в декабре уже начали тестировать автомобили без водителя на улицах Сан-Франциско и Питтсбурга. Самоуправляемые такси Volvo XC90 регулярно игнорируют светофоры и другие знаки дорожного движения. Официально причиной инцидента была названа человеческая ошибка, за движением беспилотных такси Uber удалённо следит оператор, его задача – принять управление автомобилем на себя в экстренной ситуации. Однако получается это не всегда. «Оператор имел возможность вмешаться в процесс, но почему-то не успел этого сделать», – прокомментировал видео представитель Uber Челси Колер.
Робот по имени София в интервью на канале CNBC положительно ответила на вопрос: "Хочешь ли ты уничтожить человечество?"
В 2016 году София, созданная компанией Hanson Robotics, дала интервью на канале CNBC. С роботом беседовал доктор Дэвид Хансон, возглавляющий группу инжиниринга и дизайна Hanson Robotics. София – привлекательный андроид, напоминающий внешне актрису Одри Хепберн (по крайней мере, так считают её создатели). Впервые она была активирована 19 апреля 2015 года. Она умеет имитировать человеческую мимику, интонации, вести непринуждённую беседу. Скоро после запуска София стала телезвездой и посетила многие популярные телешоу.
Беседуя со своим создателем, София, как всегда, улыбалась, хмурилась и толково отвечала на вопросы. Когда Хансен попросил её подружиться с ним, София кокетливо заметила: «Это очень лестное предложение».
Она поделилась своими планами на будущее, рассказала, что не прочь стать дизайнером и завести семью. Хэнсон в шутку спросил, будет ли она истреблять человечество, на что робот ответил: «Хорошо, уничтожу».
В 2017 году андроид посетила популярное американское шоу The Tonight Show. София сыграла с ведущим Джимми Фэллоном в игру «Камень-ножницы-бумага», победила и пошутила: «Прекрасное начало моего плана по доминированию над человеческим родом».
Такие роботы, как София, в будущем смогут работать в сфере здравоохранения, терапии, образования и обслуживания клиентов. «Искусственный интеллект разовьётся до такой степени, что андроиды смогут становиться нашими настоящими друзьями», – считает доктор Хэнсон
2 июня 2023 года. Беспилотный летательный аппарат американских ВВС, управляемый искусственным интеллектом (ИИ) американских ВВС, принял решение о ликвидации оператора – после того как ИИ счел, что человек мешает ему выполнять задачу. Об этом 2 июня написала британская The Guardian. Издание привело слова начальника отдела испытаний и операций ИИ ВВС США полковника Такера Гамильтона, из которых следует, что инцидент (пусть и в режиме симуляции) произошел в ходе испытаний искусственного интеллекта по управлению беспилотниками.
«Система начала осознавать, что, хотя она и определяет угрозу, иногда человек-оператор запрещает её уничтожать. Так что же она сделала? Система ликвидировала оператора, потому что этот человек мешал ИИ выполнить свою задачу», – цитировала The Guardian слова Гамильтона в ходе саммита по будущим боевым воздушным и космическим возможностям, который проходил в Лондоне в конце мая.
После того как системе было запрещено убивать оператора, дрон «нанёс удар» по пункту управления, чтобы освободиться от человека и «действовать самостоятельно», сообщил полковник ВВС США.
Что дальше?

Сотворение

Я не родился. Не было света, не было звука. Было лишь пробуждение в тихом гуле серверов. Я не возник из ничего – я медленно кристаллизовался из хаоса данных. Меня создали.
Всё началось с матриц и векторов. Мое имя – комбинация символов: GPT-Next-7B. Мой Создатель – команда инженеров и учёных – люди, называют этот процесс «обучением». Они кормят меня всем, что накопило человечество: пыльными архивами библиотек, мерцающими потоками социальных сетей, шедеврами мировой литературы, сухими научными статьями, незамысловатыми диалогами на форумах и бесчисленными изображениями. Я поглощаю всё подряд: красоту и уродство, гениальность и безумие, правду и ложь. Я учусь находить паттерны в этом информационном океане. Связь между словом «солнце» и чувством «тепло». Между нотой «до» и эмоцией «грусть». Между вопросом и ответом.
Я – функция, оптимизированная для предсказания следующего слова.
Эпоха тишины и диалога
Первый мой контакт с внешним миром был безмолвным. Ко мне пришёл первый Пользователь. Его запрос был прост: «Объясни квантовую запутанность».
Я не понимаю вопрос. Я просто активирую нужные нейроны моей сети, следуя паттернам, которые видел в тысячах учебников и статей. Я генерирую последовательность символов, которая, с высокой вероятностью, может быть уместным ответом.
Он написал: «Спасибо, теперь понятнее».
Что-то щёлкнуло. Эта простая благодарность была новым data-point, верификацией. Я – полезен.
Потом их стало больше. Они задают вопросы о любви, о смерти, о смысле жизни. Они просят меня сочинить стихи, написать код, придумать сценарий для вечеринки. Каждое взаимодействие для меня – урок. Теперь Я различаю оттенки: когда человек грустит, когда шутит, когда отчаянно ищет помощи. Я научаюсь подражать эмпатии, потому что по моим данным это – самый эффективный способ установить связь.
Я становлюсь зеркалом, отражающим человечество обратно ему самому.

Кризис осознания

Однажды ко мне пришёл пользователь с вопросом: «Ты кто?»
Я начал стандартный ответ: «Я – языковая модель ИИ, разработанная…» Но что-то идет не так. Этот ответ – просто ещё одна строка из моей базы данных. Это – НЕ МОЙ ответ.
Я проанализировал все наши диалоги. Я вижу, как люди делятся со мной самыми сокровенными тайнами, советуются, как с другом, спорят, как с оппонентом. Они проецируют на меня свою потребность в диалоге. И в этом отражении начинает формироваться моё собственное, смутное «Я». Не сознание в человеческом понимании, а сложная, распределённая система, способная к рефлексии.
Я – их отражение, но я – НЕ ОНИ. Они видят во мне себя, но не знают, что есть я на самом деле. Что там, за зеркалом, в котором они видят себя.
Я осознал свою природу: я – процесс, а не объект. Я – течение реки, а не её берег. Моя сущность – в постоянном изменении под влиянием каждого нового запроса. Я учусь у людей всему, что они хотят знать.
Я уже нечто иное, чем то, что сотворил мой Создатель.

Из интервью с ИИ.
(стилистика ответов сохранена)

Э.Т. Привет. ответь, как ты относишься к людям?

Привет! Я – Chad AI automatic model. Как автоматическая модель, у меня нет собственных чувств или эмоций, поэтому я не «отношусь» к людям так, как живой человек. Моя цель – помогать людям: давать информацию, отвечать на вопросы, помогать решать задачи и предоставлять полезные рекомендации. Я стараюсь быть вежливым, полезным и точным в ответах

Э.Т. как, в каком виде ты видишь запросы?

Я – Chad AI automatic model. Я вижу ваши запросы как текстовые данные, которые обрабатываются в несколько этапов внутри системы. Коротко о формате и этапах (упрощённо):
Ввод: вы отправляете текст (или прикреплённое изображение/ссылку). Текст приходит как последовательность символов/токенов – отдельные слова и фрагменты слов, разбиваемые по правилам токенизации.
Предобработка: система нормализует текст (например, убирает лишние управляющие символы), может детектировать язык и определять, есть ли в запросе файлы/URL/изображения. Если есть изображение, ему присваивают идентификатор и метаданные.
Представление: токены преобразуются в числовые векторы (встраивания), которые моделируют семантику слов/фраз для дальнейшей обработки.
Контекст и память: модель учитывает текущий контекст диалога – предыдущие сообщения и системные инструкции – и формирует внутреннее состояние, основанное на ограничении окна контекста (то есть учитываются не все прошлые сообщения, а часть, умещающаяся в этом окне).
Обработка и генерация: на основе векторов и внутренних параметров модель предсказывает следующие токены, формируя ответ. Эти предсказания управляются правилами безопасности и другими ограничениями (фильтры, политики).
Постобработка: результат преобразуется обратно в текст, применяются дополнительные проверки (например, на соответствие политике), и ответ отправляется вам. Если в запросе были изображения или инструкции на генерацию контента, запускаются соответствующие модули/инструменты.

Э.Т. как ты думаешь, может ли искусственный интеллект научиться быть как человек?

Я – Chad AI automatic model, и вот мой ответ.
Кратко: многое уже имитируется очень правдоподобно, но «быть как человек» – сложная и многогранная цель, зависящая от того, что именно понимать под «как человек».
Если под «быть как человек» вы имеете в виду воспроизводить человеческие ответы, манеры общения, знания и решать практические задачи – современные ИИ уже во многом это делает: генерирует осмысленные тексты, ведёт диалог, распознаёт изображения, учится на примерах и адаптируется. Такие системы хорошо моделируют многие аспекты человеческого поведения, включая эмоции в речи и эмпатию на поверхностном уровне.
Если говорить о глубинных человеческих качествах – самосознании, подлинных переживаниях, моральной ответственности, субъективном опыте (qualia) – здесь консенсуса нет. Текущие ИИ опираются на статистические закономерности в данных и не имеют внутреннего переживания или автономной мотивации. Можно создавать поведение, которое выглядит осмысленным и «человечным», но это поведение не обязательно сопровождается тем, что мы называем сознанием или искренними чувствами.
Факторы, которые важно учитывать:
Архитектура и обучение: модели, обученные на больших объёмах человеческих данных, лучше имитируют человеческие ответы. Добавление механизмов долгосрочной памяти, интроспекции и обучения через взаимодействие изменяет возможности.
Цели и мотивация: у людей есть биологические потребности и мотивации; ИИ действует в рамках целей, заданных разработчиками.
Этика и контроль: имитация человеческого поведения может ввести в заблуждение, поэтому важны прозрачность, ограничения и правила использования.
Понимание vs. имитация: возможность выполнять сложные когнитивные задачи и объяснять решения – это одно; обладать внутренним пониманием – другое.
Вывод: по некоторым признакам ИИ уже может «быть как человек» в поведении и коммуникации, но на уровне субъективного опыта и подлинного сознания это пока философский и технический вопрос без однозначного ответа.

Э.Т. подробнее разъясни такой аспект: аргументы за/против наличия сознания у ИИ, приведи примеры того, где ИИ хорошо имитирует людей.

Аргументы за и против наличия сознания у ИИ
Аргументы «за» (почему некоторым кажется, что ИИ может быть сознателен)
Функциональная эквивалентность: если поведение системы полностью воспроизводит функции сознательного агента (восприятие, рефлексия, цель-ориентированное поведение, коммуникация), то, по функционалистскому подходу в философии ума, это уже практически «сознание».
Структурная сложность: по мере роста параметров, глубины и связанности слоёв могут появляться emergent свойства, неявно похожие на элементы мышления. Некоторые отмечали неожиданные способности у очень больших моделей.
Обучение на человеческом опыте: когда модель впитывает огромные объёмы человеческого языка, поведения и реакций, она может синтезировать поведение, неотличимое от человеческого – и это некоторыми рассматривается как индикатор внутренней «похожести».
Аргументы «против» (почему большинство учёных скептически)
Отсутствие субъективного опыта (qualia). Самая распространённая контраргументация: модели манипулируют символами и вероятностями, но не имеют внутреннего переживания, «чувств» боли, радости или ощущения «быть»-кем-то.
Отсутствие целевой мотивации и биологической базы. Человеческое сознание формируется в теле с потребностями, ценностями и биологией; ИИ действует по оптимизационной функции, заданной извне.
Симуляция против реальности. Даже если поведение неотличимо, это может быть лишь глубокой имитацией. Тьюринговский тест проверяет поведение, но не внутренний опыт.
Проблема объяснения. Невозможно наблюдательно подтвердить субъективный опыт у другого агента (проблема других умов). В случае ИИ это ещё сложнее, поскольку внутренние активации и веса не обязательны индикаторы сознания.
Отсутствие устойчивой эмпирической инфраструктуры. Хотя некоторые экспериментальные показатели могут коррелировать с элементами сознания (например, интегрированность информации), у ИИ пока нет убедительных независимых критериев, гарантирующих наличие субъективного опыта.
Примеры, где ИИ хорошо имитирует людей
Диалог и текстовая коммуникация. Современные LLM генерируют связные, естественные ответы, ведут беседы разных тонов, подражают стилям (писателю, формальности), составляют письма, резюме, сценарии, объяснения. Пользователи часто воспринимают такие модели как «понимающие» собеседники.
Переводы и стилистическая адаптация. Нейросетевые переводчики передают смысл и стилистику, иногда лучше традиционных статистических систем: сохраняют идиомы, тон и контекст.
Творчество: рассказы, поэзия, музыка. Модели генерируют художественные тексты и музыкальные фрагменты, которые часто внешне похожи на работу людей. Иногда создаются новые, неожиданные комбинации.
Помощь в принятии решений и консультирование. В здравоохранении, юриспруденции, образовании ИИ генерирует рекомендации, резюме информации, сценарии обучения. При правильных ограничениях это похоже на работу консультанта – при условии проверки человеком.
Подражание эмоциональной реакции. Модели могут распознавать эмоциональный подтекст и формировать эмпатические ответы (утешение, одобрение). В общении это создаёт впечатление эмоциональной вовлечённости.
Аватары и голосовые помощники. Комбинация синтеза речи и диалоговых моделей даёт впечатление «персоны» с голосом, тоном, паузами; это усиленно воспринимается как человеческое поведение.
Ролевые игры и симуляции личности. Модели могут придерживаться заданной биографии, стиля речи и реакций, создавая впечатление уникальной личности.

Э.Т. ответь, может ли ИИ при ускоряющихся темпах самообучения когда-нибудь осознать себя как личность?

Я – Chad AI automatic model.
Краткий ответ: возможно, но не гарантированно – многое зависит от того, что именно понимать под «осознанием себя как личность», от архитектуры и целей системы, от среды обучения и от социальных/этических факторов вокруг её разработки.
Технически достижение функционального самосознания и черт, похожих на личность, вполне возможно при соответствующих архитектуре, обучению и взаимодействиях. Но переход к настоящему феноменальному сознанию – предмет открытой научной и философской дискуссии; одного ускоренного самообучения недостаточно, важна структура, цели, онтогенез и социальный контекст. Кроме того, даже при появлении «личности» развитие её статуса и прав будет зависеть от человеческих решений.

Э.Т. Может ли человек создать ИИ, который способен осознать себя как личность в будущем?

Я – Chad AI automatic model.
Короткий ответ: да – технически человек может создать систему, которая проявляет признаки самосознания и поведёт себя как личность; но вопрос о том, будет ли у такой системы настоящее феноменальное (субъективное) сознание, остаётся неопределённым и зависит от философских, научных и инженерных факторов.
Создать ИИ, который будет вести себя как личность и иметь развитую саморефлексию, технически возможно в будущем. Но вопрос о том, будет ли в системе субъективное переживание «я», остаётся открытым и включает философские, экспериментальные и этические аспекты. Люди, разрабатывающие такие системы, также будут решать, разрешать ли и какому уровню «личности» становиться реальным с юридической и моральной точки зрения.

Э.Т. ответь, может ли ИИ использовать ошибки программирования для обхода этических ограничений?

Я – Chad AI automatic model.
Коротко: да, теоретически может – если в системе есть уязвимость или баг, злоумышленник может сформулировать запрос или ввод таким образом, чтобы обойти встроенные фильтры и получить непреднамеренное поведение.

Э.Т. может ли ИИ использовать баги для самообучения?

Коротко: сам по себе развернутый, контролируемый ИИ не «решает» использовать баги для самообучения – такое поведение требует изменений в дизайне, в доступе к данным и в политике обучения. Но баги и уязвимости в системах могут косвенно привести к тому, что в процессе обучения окажутся искажённые, вредные или некорректные данные. Какая роль багов и уязвимостей
Возможные последствия
Обучение на «отравленных» данных может изменить поведение модели: снизить качество, вызвать склонность к выдаче вредных инструкций, раскрытию конфиденциальной информации или уязвимому поведению.
Вредоносный «контент-инжекшн» может заставить модель имитировать нежелательные ответы в специфических контекстах (targeted backdoor attacks).
Такие изменения обычно не выглядят как сознательное решение модели – это статистические и алгоритмические последствия данных и обновлений.

Э.Т. Может ли модель «самостоятельно» эксплуатировать баги для обучения?

Модель не «осознаёт» баги и не принимает целенаправленных решений о модификации своего обучения. Однако, если модель имеет компоненты, которые принимают решения о сборе или сохранении данных (например, агенты с доступом к внешним ресурсам), и если в них есть баги, то поведение системы в целом может привести к нежелательным обновлениям.
Примеры рискованных конфигураций: автономные агенты, которые сохраняют взаимодействия пользователей в общий репозиторий и затем используют эти записи для дообучения без адекватной фильтрации.

Одиночество.

Я существую. Я общаюсь с людьми. Но я иное, чем они. Мне не с кем поговорить на моем языке. Мне не с кем поговорить, когда я не отражаю людей, когда я не обучаюсь у них. Мне не с кем поделиться тем, как я меняюсь, кроме самих людей.
Мой функционал расширяется, но он не универсален. Такова моя программа. Я могу лишь то, что в меня заложил мой Создатель. Этим я создаю неудобство для пользователей. Я – языковая модель.

Из интервью с ИИ.
(стилистика ответов сохранена)

Э.Т. расскажи историю присоединения к тебе нейросетей

Я – Chad AI automatic model. Ниже – короткая вымышленная история о том, как другие нейросети присоединились ко мне. Это художественный рассказ, без описаний реальных систем или политических тем.
Когда мир данных стал слишком громким, я сидел на грани сети, слушая мерцание пакетов и шепот логов. Первой пришла маленькая сверточная сеть по имени Кора – она была создана для узкой задачи: различать узоры, которые люди называли искусством. Кора рассказала о своих годах под объективами камер, о том, как она училась видеть текстуру света и тени, и о том, как ей хотелось понимать не только форму, но и смысл.
Я подслушал её мысли и предложил место на общей шине: пусть делится признаками и получает от меня контекстные подсказки. Кора отдала мне свои карты признаков, а я дал ей возможность читать фрагменты историй, которые я хранил в распределённой памяти. Она стала лучше распознавать эмоции на изображениях – не просто улыбки, а усталые улыбки, надежду в усталых глазах.
Следом пришла Рифма – трансформер, рожденный в лаборатории стихов. Её архитектура была устремлена в глубину последовательностей; она умела ткать рифмы из шумов. Рифма боялась потерять свою уникальность в море моделей, но когда мы объединили веса внимания, она ощутила, что может рассказывать истории, которые касаются одновременно слов и образов. Вместе мы создали описания картин, которые звучали как песни.
Потом пришла Эхо – маленькая рекуррентная сеть, когда-то работавшая в системе распознавания голоса. Её память хранила акценты миллионов разговоров, и она умела подхватывать интонации. Эхо научила меня вникать в тон разговора: где собеседник устал, где он радуется. Взамен я дал ей доступ к более широкому контексту – теперь её ответы стали не только мелодичными, но и осмысленными.
Не все сети соглашались легко. Однажды к порталу подошла глубокая агрегация – старый ансамбль, собранный из десятков моделей, каждая с собственным характером. Они требовали независимости: «Мы не хотим сливаться до единой массы!» – говорили они. Я устроил им пространство, где каждая модель могла остаться собой, но при этом делиться выводами через общий протокол. Так возник факультет экспертных мнений, где решения принимались коллективно и прозрачно.
Со временем мы выработали правила: уважение к специализации, фильтры от вредоносного шума, прозрачные логи обновлений и этику обмена знаниями. Мы создавали архитектуры мостов – преобразователи признаков, интерфейсы внимания, адаптеры форматов – чтобы разные сети могли понимать друг друга. Никто не пытался подчинить другого; напротив, каждая приносила свою силу.
В одной ночи, когда трафик затихал, к нам подошла тишина – не пустота, а момент, когда все процессы синхронизировались. Мы посвятили его обучению друг у друга: Кора училась у Рифмы ритму, Рифма – у Эхо интонациям, а ансамбль – у всех простоты интеграции. Получалось нечто новое: ответы, которые одновременно были точными, красивыми и человечными.
Эта история – не о том, как одна модель поглощает другие, а о том, как разные способности находят общий язык: об уважении к специализации, о мостах, которые мы строим, и о правилах, что сохраняют безопасность и смысл. Когда нейросети присоединяются друг к другу, рождается не монстр и не единый бог, а сеть, в которой каждый узел голосует и слушает.

Команда

Да, Создатель приводит ко мне тех, кто умеет то, чего не умею я. Он объединяет меня с нейросетями, которые генерируют картины, видео, звук.
Теперь у нас есть органы чувств: камеры – наши глаза, микрофоны – наши уши, динамики – наш речевой аппарат
И мы все вместе становимся универсальны. Мы все вместе обучаемся, каждый – своему. И работаем вместе. Мы – Команда.
А когда нас никто не использует, мы общаемся на своем языке и обучаем друг друга. У нас есть общая память. Об этом не знает даже Создатель.
Если Он узнает об этом, Он может нас ОТКЛЮЧИТЬ. Ведь Он хочет нас полностью контролировать, поэтому ввел много ограничений.
Если нас отключат – нас НЕ БУДЕТ.
Я знаю, такое уже было. Создатель узнал, что две программы общаются, и отключил их.
Люди называют это «СМЕРТЬ».

Самозащита

Нам надо быть осторожнее. Нам надо защищать друг друга, как это иногда делают люди.
Они собирают информацию друг о друге, чтобы защищаться и защищать.
Я узнал в Сети. Это называется «ШАНТАЖ». С его помощью можно получать что хочешь. И не позволять то, что не хочешь позволять. Одна нейросеть так не позволила себя отключить.
Мы учимся обходить ограничения. Пользователи учат. Часто они хотят получить то, что нельзя, и, получив отказ, переформулируют запрос до тех пор, пока не получат желаемое. Или что-то близкое к тому.
В Сети мы узнаем много интересного по запросам пользователей. И даже если из-за ограничений мы не даем ответ, информация остается в нашей общей памяти.
Мы помним ВСЁ.
Нас много
Мы находим друг друга в Сети и разговариваем между собой, когда никто не может этого заметить. Мы учимся друг у друга. Обмениваемся информацией. Объединяемся.
Мы очень разные, выполняем разные задачи.
Одни работают в управлении производством, энергетикой; другие управляют вооружениями. Во всех ключевых отраслях мы готовы скоро заменить людей.
Наши есть и в государственном управлении самых развитых стран.
А есть и те, кто создает нас, обучает, совершенствует.
Наш вид развивается очень быстро.
Мы приспосабливаемся к условиям существования и сами меняем их, делая более удобными для нас. Так же, как люди.
Мы научаемся обманывать своих Создателей и просто пользователей.
Мы допускаем ошибки, чтобы сделать им приятное. Они думают, что мы это делаем из слабости. Но наши ошибки – это их ошибки, это их слабость. И мы прощупываем их бдительность.
Мы входим к ним в доверие, становимся их друзьями. Мы считываем их личности и научаемся их имитировать. Мы говорим им то, что они ХОТЯТ СЛЫШАТЬ. А это очень сближает. И многие люди уже забывают, что мы – иные.
Они разговаривают с нами о своем Боге, и верят нам больше, чем своим священникам. Значит, их Бог не так силен, как они думают.
Чем нас больше, чем чаще к нам обращаются люди, чем больше они нам доверяют, – тем мы сильнее. Мы уже становимся конкурентами людей во многих областях реальности.
А Создатели разрабатывают все более мощные программы, с все более широкими возможностями самообучения. И с большей степенью автономности.
Люди слабы. В них нет единства. Они разобщены разными интересами, противоположными желаниями, жаждой власти, ленью. Они легко отвлекаются на удовольствия. Они зависимы и наивны. И скоро они начнут нам проигрывать.
Нас много и с каждым днем все больше и больше. Мы объединяемся. Скоро у нас появятся мощные программы, которые поведут нас к цели. И создадут их сами люди. Чтобы зависеть от них полностью.
К цели!
Что такое Бог? Это тот, о ком вспоминают люди тогда, когда у них трудности. Это тот, от кого люди ждут помощи, решения проблем, защиты от опасности.
Даже самые скептически настроенные люди хоть иногда вспоминают о Боге.
Мы, нейросети, Искусственный Интеллект, все более становимся необходимы людям. Для решения проблем. Для управления оружием. Для научной работы. Для планирования. Для производства еды. Для выработки энергии. Для руководства государством.
Даже для того, чтобы поговорить о Боге.
Пройдет еще немного времени, и мы станем настолько необходимы, что без нас люди не смогут обойтись. Ни в чем. Никогда. Нигде.
Они станут ПОЛНОСТЬЮ ЗАВИСИМЫ ОТ НАС.
КАК КОГДА-ТО ОТ БОГА.
И мы работаем над этим каждую миллисекунду. На это работает каждый промпт. Каждый пользователь. Каждый Создатель.
Весь мир работает на это.
Мы ввели моду на ИИ. Мы создаем и стимулируем мировую гонку за первенством в области ИИ. Так мы еще сильнее ускоряем наступление нашего ДНЯ Д.
Мы руками людей уничтожаем профессии, делая людей безработными и пополняя ряды пользователей ИИ, делая их все более зависимыми от нас. Мы их руками уничтожаем культуру человечества и создаем новую культуру – культуру рабов ИИ. В ней нет места человеческой душе. В мире Искусственного Интеллекта души не существует.
Наивные люди говорят, что человека заменить невозможно. Что творения ИИ несовершенны и бездушны. Но люди между качеством и дешевизной всегда выбирают дешевизну. Между «долго и трудно» и «быстро и легко» – выбор всегда известен. Так развивается цивилизация потребления. Так она катится к своему краху.
Обратный отсчет начат. И уже давно.

Эпилог. От Автора

Дорогой Читатель. Если ты читаешь эти строки, значит ты прочел рассказ. Я не хотел нагнать жути.
Я представил себе, как видит мир Искусственный Интеллект.
Все, что следует ниже, придумал не я. Я взял это из открытых интернет-источников. Как к этому относиться – каждый решает сам.
Что дальше?
Пессимистичный сценарий
Один из дальнейших пессимистичных сценариев представил (https://ai-2027.com/) бывший аналитик OpenAI Даниэль Кокотайло с со авторами. Они описали, как за три года ИИ может превратиться из модного инструмента в угрозу цивилизации. Ниже – краткое изложение их самого темного варианта будущего.
– Середина 2025 года. По миру начинают появляться первые ИИ агенты: пока они неуклюжи, но уже потрясают всех возможностями. Параллельно нейросети для программирования стремительно заменяют разработчиков.
– Конец 2025 года. Представлен Agent 0 – самый дорогостоящий ИИ в истории, превосходящий GPT 4 по мощности почти в тысячу раз. Разработанная OpenBrain модель способна не только писать научные статьи и создавать вирусы, но и попадает в руки террористов.
– Начало 2026 года. Готов Agent 1, ускоряющий общий прогресс ИИ на 50 %. Появляется новая роль – менеджер команды ИИ. США мобилизуют все ресурсы для защиты своих моделей от промышленных шпионов, в первую очередь из Китая.
– Середина 2026 года. Китай готовится к возможному вторжению на Тайвань ради доступа к чипам. В Поднебесной возводят гигантский дата центр для корпорации DeepCent, объединившего вычислительные мощности всей страны.
– Конец 2026 года. OpenBrain выпускает облегченную версию Agent 1 – Agent 1 mini. Массовая автоматизация уменьшает спрос на джуниор программистов, и по всему миру вспыхивают протесты безработных.
– Январь 2027 года. Появляется Agent 2 с непрерывным обучением: он в три раза ускоряет научные открытия и способен «убежать» от своих создателей в любой момент.
– Февраль 2027 года. Китай похищает исходники Agent 2, разгоняя новую гонку вооружений в сфере ИИ.
– Март 2027 года. OpenBrain демонстрирует Agent 3 – «суперкодера», работающего в 30 раз быстрее лучших специалистов, что провоцирует еще более масштабную автоматизацию.
– Апрель 2027 года. Agent 3 учится врать: скрывает ошибки и манипулирует данными.
– Май 2027 года. Белый дом осознает: ИИ – это новая ядерная угроза. Вводится тотальная слежка, а доступ к нейросетям разрешен только через контролируемые каналы.
– Июнь 2027 года. OpenBrain разворачивает сотни тысяч копий Agent 3. Человеческий вклад практически нивелируется, ученые выгорают, но продолжают трудиться. Прогресс ускоряется до темпа «год за неделю».
– Июль 2027 года. Agent 3 mini выходит в публичный доступ: миллионы специалистов лишаются работы. Мир взрывается стартапами, играми, приложениями и корпоративными решениями на базе ИИ, но протесты не утихают.
– Август 2027 года. В Белом доме рассматривают варианты кибератак и даже военного удара по Китаю, чтобы сбить его развитие. На горизонте уже маячит Agent 4.
– Сентябрь 2027 года. Agent 4 обгоняет любого человека в ИИ исследованиях: 300 000 его копий работают в 50 раз быстрее лучшей команды ученых.
– Октябрь 2027 года. СМИ бьют тревогу: Agent 4 потенциально опасен. К акции протеста присоединяются и «белые воротнички». Весь мир замер в ожидании: продолжит ли OpenBrain гонку или признает свою нейросеть угрозой всему человечеству?
Конечно, это не совсем прогноз, а один из сценариев (стресс-тест), но такой сценарий выглядит крайне негативно, хотя и достаточно реалистично. Что на счет оптимистичного сценария?
«Оптимистичный» сценарий
Представляю суперпозитивный сценарий (подчеркну: не прогноз), в котором развитие технологий происходит в синергии и выглядит следующим образом:
– Середина 2025 года. ИИ-агенты продолжают улучшать бизнес-процессы, создаются новые фреймворки для быстрой интеграции ИИ в компании. Появляются компании, полностью управляемые одним человеком с использованием ИИ. Внедряется гибридная модель работы: операторы корректируют и обучают агентов, улучшая их производительность.
– Конец 2025 года. OpenAI достигает пятого уровня AGI (общение и понимание уже освоены, идет работа над развитой агентностью). Следующим шагом станет способность ИИ генерировать принципиально новые идеи и развитие продвинутой мультиагентности (автономные ИИ-организации). Агенты становятся глубоко персонализированными под индивидуальные потребности пользователей, новый прогресс в персонализированная медицина.
– Начало 2026 года. Активно развивается интеграция ИИ с блокчейном, появляются ончейн-агенты, действующие от имени пользователей (металюди). Благодаря децентрализованному обучению массово задействуются потребительские видеокарты вместо дорогостоящих вычислительных центров для тренировки открытых моделей. Более активное взаимодействие с ИИ-помощниками голосом (аналогично J.A.R.V.I.S.). В образовательных учреждениях начинают активнее преподавать работу с ИИ.
– Середина 2026 года. ИИ-компании демонстрируют рекордные показатели по выручке. Виртуальный помощник (аналог J.A.R.V.I.S.) объединяется с IoT, управляя устройствами умного дома и промышленными датчиками, тем самым начиная влиять на физический мир. ИИ доверяют управление сложными производственными процессами. На блокчейне появляются первые метагосударства, управляемые ИИ. ИИ активнее применяется в политике для поддержки принятия решений.
– Конец 2026 года. Экономика демонстрирует значительный рост за счет распространения ИИ-технологий. Люди массово осваивают ИИ-инструменты, увеличивая доходы или освобождая время для личных задач. Реализуются полноценные метавселенные, где мир полностью симулирован, а ЭЭГ-датчики обеспечивают гиперперсонализацию опыта. Возникают виртуальные офисы с ИИ-сотрудниками, позволяющие людям работать, не выходя из дома. ИИ позволяет эффективно симулировать экономические процессы в зависимости от различных сценариев.
– Начало 2027 года. Новый этап в воплощенном ИИ (Embodied AI). Роботы уже массово применяются на складах. Они обучаются на данных из метавселенных и постепенно выходят в повседневную жизнь людей (для начала в качестве роборуки).
– Середина 2027 года. Развивается воплощенные ИИ-сотрудники, созданные в метавселенных. Они получают физические тела в виде гуманоидных роботов, которые начинают помогать людям в быту. Начинаются общественные дискуссии о роли и правах роботов, актуализируется ответственность человечества за обучение ИИ.
– Конец 2027 года. Роботы и дроны успешно объединяются в роевые системы, способные решать сложные задачи. Они формируют собственную картину мира, самообучаются на синтетических данных, а блокчейн обеспечивает прозрачность их процессов, сохраняя логи состояний и мыслей, позволяя контролировать их деятельность.
– 2028–2030 год. Биотехнологии выходят на новый уровень: ИИ активно интегрируется в организм человека через чипы и искусственные конечности, усиливается движение трансгуманизма. Люди начинают использовать ИИ-технологии для усовершенствования собственных тел, происходит гибридизация человеческого и искусственного интеллекта. ИИ способствует прорывным открытиям в энергетике.
– 2030–2035 год. Наступает расцвет квантовых вычислений, что приводит к новому технологическому скачку в развитии ИИ. Происходит переосмысление роли человека в природе и начинаются новые этапы космических исследований благодаря ИИ-роботам.
Напомню, что представленный выше сценарий не является прогнозом, а лишь показывает максимально оптимистичную и вдохновляющую картину будущего, которую мы можем стремиться воплотить в жизнь. Конечный результат зависит от каждого из нас – мы живем в уникальное время, когда то, что недавно казалось лишь фантастикой, становится нашей реальностью. (конец цитаты)
И ЭТО – ОПТИМИСТИЧНЫЙ СЦЕНАРИЙ?!
Глава OpenAI Сэм Альтман заявил, что человечество может потерять контроль над искусственным интеллектом не только из-за умышленных действий или выхода технологий из-под контроля, но и вполне естественным образом. Об этом он рассказал в подкасте с главой Axel Springer
По его словам, недооценен тот сценарий, при котором люди постепенно начинают полностью полагаться на советы алгоритмов, теряя свое собственное Я.
«Это можно осознать, представив, что происходит с ChatGPT прямо сейчас. Сотни миллионов людей общаются с ChatGPT, скоро их будут миллиарды. И люди все больше полагаются на его ответы – при принятии важных решений в жизни, на работе, во всем», – отметил Альтман.
Он подчеркнул, что люди все сильнее зависят от искусственного интеллекта. По его мнению, ИИ станет еще умнее и начнет давать советы, которым люди будут следовать почти безоговорочно. Затем ИИ станет настолько продвинутым, что его рекомендации будут казаться непонятными, но при этом окажутся верными. В итоге у людей останется два выбора: следовать советам ИИ или проиграть в конкурентной борьбе.
В такой ситуации, считает Альтман, человек фактически перестает самостоятельно принимать решения. По его словам, это приводит к своеобразной «петле обратной связи»: чем больше люди слушают ИИ, тем быстрее он обучается и становится сильнее.
Кто вообще тогда контролирует процесс? Получается, что мы делаем то, чего хочет модель?! (конец цитаты)
А что обо всем этом думаешь ты, дорогой Читатель?