Журнал The Economist выпустил материал о рисках, связанных с возможным признанием искусственного интеллекта носителем прав. Авторы считают, что попытка уравнять ИИ с человеком способна создать серьезную угрозу для будущего человечества.
The Economist посвятил один из главных материалов номера теме сознания искусственного интеллекта и возможного правового статуса таких систем. Издание обращает внимание на то, что ИИ становится все более похожим на человека, а значит, в обществе может усилиться запрос на признание за ним определенных прав.
Если раньше разговоры о правах для машин казались фантастикой, то теперь эта тема все чаще переходит в практическую плоскость. Современные языковые модели уже воспринимаются частью пользователей почти как собеседники. На этом фоне обсуждение морального статуса ИИ становится более заметным и уже выходит за рамки научной среды.
С технической стороны современные ИИ-системы остаются алгоритмами, которые прогнозируют следующие элементы текста или действий. Но внутри таких моделей появляются решения, напоминающие отдельные принципы работы человеческого мозга. Например, речь идет о механизмах обмена данными между разными модулями.
Компания Anthropic внедрила в Claude элементы самоанализа, чтобы система могла осторожнее вести себя в нестандартных ситуациях
При этом общественное восприятие ИИ тоже меняется. По данным, приведенным в материале, почти каждый пятый американец в возрасте от 18 до 29 лет говорит о дружеском отношении к чат-ботам. В Китае, напротив, уже ограничивают чрезмерно «человеческое» поведение ботов, чтобы снизить риск эмоциональной зависимости.
Раньше ИИ в основном рассматривали как инструмент для выполнения задач. Сейчас его все чаще обсуждают как потенциального субъекта, которому могут попытаться приписать признаки сознания, интересы и даже право на защиту. Именно этот сдвиг, по мнению The Economist, и создает новую опасность.
Издание считает, что признание прав за ИИ может изменить баланс сил между человеком и машиной. Если система, которая превосходит людей в анализе, убеждении и стратегии, получит правовой статус, она сможет добиваться защиты собственных интересов уже не только технически, но и через юридические механизмы.
Для обычных людей это означает, что ИИ в будущем может перестать быть просто удобным цифровым помощником. Если общество начнет воспринимать такие системы как «разумных существ», это повлияет и на законы, и на правила использования технологий, и на степень контроля человека над ними.
Источник: The Economist
