Дискуссия об угрозах ИИ усилилась после недавних заявлений Билла Гейтса. В августе сооснователь Microsoft заявил, что развитие технологии может принести больше вреда, чем пользы, и предупредил о рисках для безопасности, рынка труда и детей. В конце сентября Гейтс пошел дальше: он допустил, что ИИ способен спровоцировать события с миллиардом погибших, и призвал власти участвовать в создании механизмов контроля за технологией.
Переименование меняет отношение к технологии
По мнению директора Института философии РГПУ им. А. И. Герцена, футуролога Алексея Воскресенского, попытка заменить привычное понятие «искусственный интеллект» на «суперинтеллект» создает ложное представление о природе технологии.
Слово «искусственный» подчеркивает происхождение системы: ее создают люди, они же определяют принципы ее работы и несут ответственность за использование. Термин «суперинтеллект», напротив, может сформировать образ самостоятельного субъекта, который якобы существует независимо от человека.
Воскресенский считает такую смену терминологии не просто игрой со словами. По его мнению, она способна размыть границу между технологическим инструментом и самостоятельным субъектом.
При этом современные ИИ-системы не обладают сознанием, намерениями и способностью самостоятельно осознавать последствия своих действий. Поэтому, как отмечает футуролог, моральная и юридическая ответственность за их создание и применение остается за людьми – разработчиками, владельцами и пользователями.
Польза ИИ не отменяет возможных угроз
Еще одной проблемой Воскресенский называет попытки представить опасения вокруг ИИ как необоснованные. По его словам, предупреждение Гейтса касалось не утверждения о неизбежной катастрофе, а возможности развития событий с крайне тяжелыми последствиями.
Футуролог также критикует аргумент о том, что потенциальная польза ИИ способна компенсировать возможные угрозы. Технология действительно может ускорить развитие медицины и помочь решать другие масштабные задачи, однако возможные преимущества и катастрофические последствия нельзя рассматривать как полностью сопоставимые величины.
Поэтому, считает Воскресенский, вопрос должен стоять не как выбор между пользой и риском, а как поиск способов контролировать развитие технологии. Он связывает это с необходимостью регулирования систем, потенциальные последствия применения которых могут быть масштабными.
Для пользователей это означает, что разговор об ИИ касается не только возможностей конкретных сервисов. По мере развития технологий все большее значение получают правила их создания, контроля и применения, а также вопрос о том, кто отвечает за последствия решений, принятых с помощью ИИ.
Для России эта дискуссия также актуальна: речь идет о том, как сочетать развитие отечественных ИИ-технологий с требованиями безопасности и ответственным использованием систем.
Воскресенский считает, что ключевая проблема заключается не в самом названии технологии, а в готовности людей отвечать за созданные ими инструменты и последствия их применения. По его мнению, развитие ИИ требует не отказа от технологий, а осторожного подхода и механизмов регулирования.
Источник: РГПУ им. А. И. Герцена
