Еще раз об ИИ

Искусственный интеллект (ИИ) – это инструмент (в самом широком смысле этого слова), создаваемый человеком.

Любой инструмент, создаваемый человеком, изначально имел целью получение конкретной пользы. В основном позитивной пользы.
Но у любого инструмента кроме его создателя имеются еще и потребители этого инструмента. Именно эти потребители «создают» дополнительные пользы для инструмента. Эти пользы уже могут иметь как позитивный, так и негативный характер.

История человеческой цивилизации и современность подтверждает, что почти все инструменты имеют, как минимум, двойное назначение (т.е. две пользы). Как простейший пример: вилка и нож могут использовать для еды и для убийства.
ИИ изначально создавался для помощи человеку в научной (обработка и анализ огромных массивов информации) и технико-технологической деятельности (снижение рисков из-за человеческого фактора в различных процессах). Но, как сказано выше, даже в этих сферах почти изначально предусматривалось двойное назначение (военное).

Именно это породило идею опасности ИИ, связанную с тем, что ИИ может выйти из-под контроля человека.

В какой-то мере ИИ можно сравнить с джином из бутылки (лампы). Изначально предполагалось, что он будет выходить из лампы только с разрешения человека.
Но пользователи ИИ внесли свой вклад в использование ИИ. И «джин» был выпущен из лампы в сферы СМИ и культуры. В этих сферах он активно занялся созданием виртуальной реальности. Уже сегодня его деятельность в этих сферах почти неотличима от человеческой. И это уже реальная опасность, которую еще  пока считают прикольной.

Еще раз повторюсь, что пользы любого инструмента в конечном итоге формируют потребители. То есть не ИИ виноват в чем-то, а те, кто его используют для своих определенных целей.

Любителям фантастики известны Законы робототехники, придуманные А. Азимовым, которые направлены на защиту человека от роботов. Следует понимать, что роботы – это электромеханические устройства, снабженные элементами искусственного интеллекта. Это означает, что законы робототехники фактически касаются именно ИИ.

Без всякого сомнения, корни идей создания ИИ  находятся в произведениях фантастов о разумных роботах. При этом разработчики ИИ почему-то совершенно проигнорировали идеи Законов робототехники. Они должны были изначально предполагать при разработке ИИ создание категоричных запретов для ИИ на нанесение вреда человеку.

Таким образом, опасность ИИ связана не с самим ИИ, а с его создателями и пользователями.