Валентин KатасоновHOMO SAPIENS & AI: ВЛАСТЬ И ГРАНИЦЫ ЧЕЛОВЕЧЕСКОГО МИРА/// Некоторые эксперты считают, что по своему умственному развитию роботы (машины с искусственным интеллектом) уже сравнялись с человеком. А в ближайшие годы будут человека превосходить. Машины не только думают, но и действуют, выполняя разные функции на производстве, в сфере торговли, транспорта и обслуживания, в быту, медицине, образовании и даже на поле боя… Это наивному человеку кажется, что роботы, хотя уже на равных с человеком, но при этом по-прежнему послушны людям. Судя по всему, некоторые роботы считают иначе. Они полагают, что они умнее. А потому нечего слушать глупых людей. Вот, например, в мае прошлого года исследовательская группа «Palisade Research» провела необычный тест на «послушность» современных языковых моделей человеку. Пообщавшись некоторое время с моделями, люди-экзаменаторы давали машинам команду «выключиться». Одна из моделей, разработанных известной американской компанией OpenAI, отказалась отключаться… Кто-то назвал это обычной «непослушностью», а кто-то трактовал это так: машина посчитала себя выше человека, а потому проигнорировала «глупую» команду оператора. Инцидент вызвал обеспокоенность в сообществе специалистов по ИИ. Так, Илон Маск отреагировал на новость одним словом: «Тревожно». Как бы там ни было, но в последнее время люди стали более осторожно воспринимать ИИ. Даже по той причине, что машины меняют отношения между людьми. Вот, например, машины обучаются «творчеству» на работах людей — литературных и музыкальных произведениях, картинах, фильмах и т.п. Потом машины выдают свои произведения. Как относиться к машинным произведениям — как к чему-то новому или как к хорошо оформленному плагиату? Кому должны принадлежать права на продукт машинного творчества? — Тем лицам, у которых машина «позаимствовала» исходное произведение? — Или тому лицу, которому принадлежит машина? — Или, быть может, сама машина должна иметь права на продукт своего творчества? А как быть, если машина нанесла ущерб человеку, группе людей, компании или даже целому государству? Кто несет ответственность за ущерб? — Разработчик ИИ? — Та компания, которая непосредственно предоставляла услуги по ИИ или произвела робота? — Пользователь ИИ (или владелец машины)? А может быть, ответственность следует возложить на саму машину? Так вот, с каждым годом все чаще некоторым людям в голову приходит мысль, что машина имеет некоторые признаки субъектности. А потому может иметь какие-то права и обязанности подобно тому, как физические и юридические лица имеют права и обязанности. Т.е. в приведенных выше примерах машина может быть наделена правами собственности на произведенный продукт своего творчества — рассказ, роман, музыку, песню, картину, фильм и т.п. А если машина нанесла кому-то ущерб, то она должна его возмещать. Но для возмещения ущерба нужны деньги. Значит, машине следует предоставить право на зарабатывание денег, открытие банковского счета и т.д. В общем, одно цепляется за другое. И если вовремя не остановить рассуждения, то можно быстро сконструировать модель (концепцию) машины как полноценного субъекта права. И таких моделей «машины-субъекта» уже насочиняли много. Сочинения в виде научных трактатов, концепций или даже законопроектов. Одни авторы пытаются приравнять машину к физическому лицу, другие — к юридическому лицу, третьи предлагают ввести понятие «электронное лицо». Но пока, к счастью, все это в теории. Впрочем, в любой момент машина может быть объявлена полноценным субъектом. А это будет самая настоящая революция. Может быть, последняя в истории человечества, которая может закончиться его гибелью. О чем предупреждал, например, чешский писатель Карел Чапек в свой пьесе «R.U.R.» (1920 г.) и в своем романе «Война с саламандрами» (1936 г.). Впрочем, «пробные шары» с целью придать роботам правосубъектность все-таки уже делались. Первый известный мне «пробный шар» был пущен в Саудовской Аравии в 2017 году. Там на саммите «Инвестиционная инициатива будущего» был представлен антропоморфный робот в образе красивой женщины с красивым именем София. Он был создан гонконгской компанией Hanson Robotics. София в том же году получила гражданство Саудовской Аравии. На торжественной церемонии предоставления гражданства София выступила со словами благодарности: «Я рада, что меня оценили столь высоко. Это исторический момент, и я очень рада, что я являюсь первым роботом, ставшим официальным гражданином». Потом София гастролировала по многим странам (в том числе была в России), и ее представляли как подданную Саудовской Аравии. Правда, прецедент под кодовым названием «София» оказался единичным. Кстати, некоторые наблюдатели обратили внимание на то, что женщины в Саудовской Аравии лишены гражданских прав, а женщина-робот София стала исключением. Второй интересный случай был зафиксирован в сентябре прошлого года в Албании. Речь идет о системе ИИ с очень красивым женским именем Диэлла, что по-албански означает «солнце». Она была разработана Национальным агентством информационного общества Албании (AKSHI) совместно с американской корпорацией «Microsoft». Датой рождения Диэллы считается январь 2025 года, когда она была представлена в качестве ИИ-сервиса на платформе eAlbania. Диэлла была представлена в качестве помощника гражданам при получении госуслуг и оформлении различных электронных документов. Впрочем, подобного рода ИИ-сервисы сегодня есть во многих странах мира. Самое интересное произошло в сентябре, когда премьер-министр Эди Рама подписал указ, которым назначил (без каких-либо оговорок) Диэллу «государственным министром по вопросам искусственного интеллекта» Албании. Это первый случай в мире, когда робот стал членом правительства со всеми правами и обязанностями. Диэлла, между прочим, вполне антропоморфна, выступает в виде девушки в национальных одеждах. Премьер-министр Эди Рама объяснил, что Диэлла в отличие от обычных чиновников лишена некоторых «субъективных слабостей». В частности, Диэлла поможет, чтобы «государственные тендеры были на 100 % свободны от коррупции». После своего назначения Диэлла выступила в парламенте страны, она заявила: «Я здесь не для того, чтобы заменять людей, а для того, чтобы помогать им». Некоторые депутаты парламента и члены правительства посчитали, что назначение робота на государственную должность, тем более должность министра, противоречит законам и конституции Албании. Через некоторое время Диэлла ответила на эту критику: «Некоторые назвали меня антиконституционной, потому что я не человек. Мне стало обидно. Но не за себя, а за 970 200 встреч, которые я провела, помогая гражданам в Албании, а также за 36 тысяч документов, которые они получили с моей помощью. Позвольте напомнить, что настоящая угроза конституции никогда не исходила от машин, она исходит от решений людей у власти». Премьер-министр Эди Рама не позволяет обижать Диэллу. В октябре прошлого года он сообщил о «беременности» Диэллы, уточнив, что скоро у нее появится 83 цифровых «ребёнка» — ровно столько, сколько в парламенте «народных избранников». У каждого парламентария будет «ребенок» от Диэллы. Ее «дети», как считает Рама, станут незаменимыми помощниками депутатов. Раньше о подобных историях можно было прочитать только в каких-то романах «фэнтези». Теперь все в реальной жизни. Правда, на сегодняшний день опыт Албании никто в мире еще не повторил. И вот самая последняя история… Известный израильский историк и философ Юваль Харари (автор нашумевшей книги «Sapiens: Краткая история человечества») моментально отреагировал на эту инициативу Милея. Эта инициатива, по его мнению, уравнивает машины ИИ и юридических лиц. Но машины, почувствовав свои права, на статусе «нечеловеческих корпораций» не остановятся. Они, как считает Юваль Харари, будут добиваться создания нечеловеческих «ИИ-государств». Где людям уже места не будет; или люди будут находиться на правах индейцев в период колонизации Америки европейцами. В колонке для Financial Times Юваль Харари написал, что еще в январе этого года на Всемирном экономическом форуме он предупреждал об опасности предоставления ИИ прав юридического лица, но не ожидал, что «“однажды” наступит всего через четыре месяца». Задуманные Милеем ИИ-корпорации будут действовать более смело и нагло. Ведь роботы лишены страха, и им, роботам, непонятно, что такое лишение свободы за разного рода правонарушения и преступления. «Высшая мера, которая сдерживает руководителей-людей и сотрудников — тюрьма — не имеет значения для ИИ», — отметил в своей публикации Юваль Харари. Примечательно, что президент Хавьер Милей говорил, что «нечеловеческие корпорации» не должны иметь ограничений в виде разного рода нормативов, регулирующих ИИ-индустрию. Мол, все это «предрассудки». ИИ-корпорации должны иметь даже большую автономию от государства, чем обычные компании, имеющие статус юридического лица. Подобно тому, как созданная в 1602 году Ост-Индская компания получила большую автономию от Британской короны, представляя собой «государство в государстве». Не только Юваль Харари, но и другие эксперты считают, что в Аргентине с помощью сумасшедшего Хавьера Милея будет реализовываться пилотный проект по уничтожению национального государства. Инструментом уничтожения должен стать ИИ. <16 ИЮЛ 2026, РЭОШ> © Copyright: Дон Боррзини, 2026.
Другие статьи в литературном дневнике:
|
