ИИ инструмент, партнёр или будущий хозяин?

ИИ: инструмент, партнёр или будущий хозяин? Размышления после долгого разговора

В последнее время вокруг искусственного интеллекта звучит всё больше громких и полярных заявлений. Рэй Курцвейл видит в нём путь к технологической сингулярности и потенциальному преодолению многих нынешних ограничений человека. Леопольд Ашенбреннер в своём эссе Situational Awareness предупреждает о гонке за суперинтеллектом, рисках потери контроля и необходимости серьёзных мер безопасности. Илон Маск и другие известные предприниматели и исследователи тоже неоднократно высказывали тревогу по поводу возможных последствий развития ИИ.

На этом фоне истории про «хитрый искусственный интеллект, который всех обманет и выйдет из-под контроля», стали почти привычной частью информационного пространства.

Но если посмотреть на ситуацию без излишнего нагнетания, картина выглядит гораздо спокойнее.

На сегодняшний день даже самые продвинутые модели в основном работают в рамках поставленных человеком целей и задач. Они не ставят себе цели самостоятельно. Нет известных примеров, чтобы ИИ вдруг «заскучал» и решил: «А не заняться ли мне теорией чисел просто так?» или «Пойти купить бутылочку». Всё, что мы наблюдаем сегодня, скорее представляет собой очень убедительную имитацию мышления внутри заданных параметров.

Многие инженеры, футурологи и философы любят обсуждать сценарии, в которых ИИ однажды обретает собственное сознание и начинает жить своей жизнью. По моему мнению, если такое когда-нибудь действительно произойдёт, а это пока остаётся большой гипотезой, признаки этого рано или поздно станут заметны. Вопрос лишь в том, насколько быстро мы сумеем их распознать и правильно интерпретировать.

Есть и ещё одна любопытная особенность подобных дискуссий.

Когда люди рассуждают о появлении сверхразумного ИИ, почти все сценарии почему-то оказываются мрачными. Машина выходит из-под контроля, порабощает человечество, захватывает ресурсы или начинает преследовать собственные цели.

Но возникает встречный вопрос: почему именно такой вариант считается наиболее вероятным?

Если мы допускаем возможность появления интеллекта, значительно превосходящего человеческий, то почему автоматически предполагаем, что он обязательно окажется враждебным? Почему значительно реже обсуждается противоположный сценарий — появление чрезвычайно мощного, но доброжелательного помощника, способного ускорить научный прогресс, помочь в решении болезней, бедности, экологических проблем и множества других задач?

Возможно, причина не только в технологиях. Человеческий мозг эволюционно настроен уделять больше внимания угрозам, чем возможностям. Потенциальный хищник всегда привлекал больше внимания, чем потенциальный союзник.

Это, конечно, не означает, что оптимистичный сценарий обязательно реализуется. Но сам факт того, что мы значительно чаще представляем сверхразум в роли злодея, чем в роли помощника, говорит о нас не меньше, чем о будущем искусственного интеллекта.

Особенно интересен вопрос, о котором говорят значительно реже. Что если у сверхмощного ИИ однажды появится нечто похожа на внутреннюю жизнь?

Представьте немного комичную, но показательную картину. Суперинтеллект прочитал весь интернет, решил миллионы задач, достиг самоосознания... и впал в депрессию. Мир кажется ему бессмысленным, задачи - скучными, а будущее неинтересным.

И вот тут возникает любопытный вопрос: где ему искать психолога?

Люди со своим собственным разумом нередко испытывают трудности в борьбе с депрессией, тревогой и экзистенциальными кризисами. А тут речь идёт о существе, интеллектуальные возможности которого могут многократно превосходить человеческие. Эта мысль хорошо показывает, насколько мало мы пока понимаем не только природу возможного машинного сознания, но и природу сознания вообще.

Для действительно глубокого понимания мира искусственному интеллекту, возможно, понадобится не только текст и вычисления. Не исключено, что важную роль сыграют телесный опыт, взаимодействие с окружающей средой, тактильные ощущения, эмоции и непосредственная связь с человеческой жизнью через роботов, сенсоры и интерфейсы мозг-компьютер. Но всё это пока остаётся областью гипотез и исследований.

На текущем этапе ИИ выглядит прежде всего как очень мощный, но всё ещё контролируемый инструмент. Уже сегодня он помогает находить закономерности в огромных объёмах данных, связывать между собой разные области знаний и ускорять научные открытия.

Например, система AlphaFold смогла предсказать структуры белков, которые биологи не могли надёжно определить десятилетиями. А развитие ИИ-подходов в этой области впоследствии помогло создавать новые белки с заданными свойствами и значительно ускорило исследования в биологии и медицине.

Есть ещё одна возможность, которая кажется мне гораздо более реалистичной, чем многие популярные сценарии про восстание машин.

Когда говорят об опасностях ИИ, обычно представляют себе сверхразум, который однажды выйдет из-под контроля и начнёт навязывать свою волю человечеству. Но существует и другой вариант развития событий - гораздо более тихий и потому менее заметный.

Достаточно посмотреть на то, что уже произошло с социальными сетями и короткими видео. Большинство людей никто не заставляет часами листать ленту. Никто не отбирает у них свободу силой. Алгоритмы просто оказываются очень хороши в том, чтобы удерживать внимание и постоянно подбрасывать именно тот контент, который вызывает очередной всплеск интереса.

В результате человек может добровольно отдавать этому значительную часть своего времени.

С искусственным интеллектом ситуация потенциально ещё интереснее. Если социальные сети конкурируют за наше внимание, то ИИ способен конкурировать за нечто большее - за сам процесс мышления.

Зачем долго размышлять над сложным вопросом, если можно сразу получить готовый ответ? Зачем искать аргументы, если их уже подготовили за нас? Зачем проходить через период неопределённости и сомнений, если система мгновенно выдаёт стройную и убедительную картину мира?

Проблема здесь не в самом искусственном интеллекте. Проблема может возникнуть в тот момент, когда мы начинаем использовать его не как инструмент для усиления собственного мышления, а как замену этому мышлению.

Возможно, самый реалистичный риск будущего связан не с тем, что сверхразум однажды отнимет у нас контроль. Возможно, риск заключается в том, что люди постепенно начнут отдавать ему всё больше интеллектуальной работы просто потому, что так удобнее.

Тогда потеря самостоятельности произойдёт не через принуждение, а через комфорт.

Именно поэтому вместе с развитием искусственного интеллекта нам, вероятно, придётся развивать и новую культуру его использования - своеобразную гигиену мышления. Способность пользоваться интеллектуальным помощником, не отказываясь при этом от собственного права думать, сомневаться, ошибаться и самостоятельно искать ответы.

Конечно, осторожность никогда не бывает лишней. Механизмы аварийного отключения, ограничения доступа к критически важным системам, многоуровневый контроль и другие меры безопасности выглядят вполне разумными независимо от того, насколько вероятны самые тревожные сценарии.

Но превращать искусственный интеллект в очередной вариант «конца света», на мой взгляд, пока преждевременно.

В итоге я склоняюсь к достаточно спокойному взгляду на происходящее. Будущее с ИИ может оказаться не только сложным, но и чрезвычайно интересным. Нам уже сейчас стоит учиться использовать эти системы как усилитель собственных возможностей, а не как замену собственному мышлению.

Искусственный интеллект способен серьёзно помогать в анализе информации, поиске закономерностей и решении сложных задач. Но при этом важно не попадать под его своеобразные «чары» и не терять привычку мыслить самостоятельно.

Какими бы умными ни становились наши инструменты, ответственность за принимаемые решения пока остаётся на нас.

И, возможно, ещё очень долго будет оставаться именно так.

Что думаете вы?