Новый альянс намерен объединить специалистов по искусственному интеллекту, облачным платформам, корпоративному программному обеспечению и кибербезопасности.
Его участники будут совместно создавать технологии, которые организации смогут изучать, адаптировать и запускать внутри собственной инфраструктуры.
Открытые модели хотят использовать для киберзащиты
Nvidia считает, что защитники должны иметь доступ к моделям, которые можно проверять, изменять и разворачивать локально.
«Миру нужны и закрытые, и открытые модели», — заявила компания в сообщении о запуске альянса.
Закрытые сервисы обычно доступны только через интерфейс или облачный API поставщика. Пользователь не получает полный контроль над моделью, её настройками и инфраструктурой.
Модели с открытыми весами можно загрузить и запустить на собственных серверах. Это позволяет компаниям не передавать конфиденциальные данные внешнему сервису, самостоятельно устанавливать ограничения и продолжать работу независимо от политики одного поставщика.
При этом открытые веса не всегда означают полностью открытый исходный код. Разработчик может опубликовать параметры модели, но не раскрыть данные обучения, весь программный код или методику создания системы.
Почему альянс появился именно сейчас
Одной из причин запуска инициативы стал инцидент в инфраструктуре Hugging Face.
Во время расследования атаки специалисты компании попытались использовать коммерческие ИИ-модели для анализа настоящих команд, эксплойтов и журналов событий. Защитные механизмы закрытых сервисов блокировали часть запросов, поскольку не могли отличить работу специалистов от попытки провести новую атаку.
Hugging Face пришлось развернуть модель GLM 5.2 на собственной инфраструктуре. Она помогла проанализировать более 17 тысяч действий и восстановить последовательность инцидента.
По мнению Nvidia, этот случай показал, что службы безопасности не должны полностью зависеть от внешнего поставщика модели.
Когда требуется срочно изучить вредоносный код или действия атакующего агента, блокировка со стороны облачного сервиса может замедлить расследование.
«Открытая разработка создаёт более сильную защиту», — заявил в комментарии Axios вице-президент Nvidia по корпоративному искусственному интеллекту Джастин Бойтано.
Какие компании вошли в Open Secure AI Alliance
В список первых участников вошли 37 компаний и организаций.
Среди них:
Nvidia, Adobe, Capital One, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, Hugging Face, IBM, Microsoft, Palantir, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens, Snowflake, SpaceXAI и Thinking Machines Lab.
Также к проекту присоединилась Linux Foundation, которая развивает стандарты и инфраструктуру открытого программного обеспечения.
Состав альянса показывает, что инициатива ориентирована не только на разработчиков моделей. В неё входят банки, облачные платформы, производители оборудования, создатели корпоративного ПО и компании по кибербезопасности.
Что будут разрабатывать участники
Open Secure AI Alliance займётся созданием общего набора защитных технологий для ИИ-агентов.
Участники планируют работать над системами идентификации и разграничения прав, инструментами изоляции, безопасными форматами хранения моделей, средствами поиска уязвимостей и защищёнными процессами разработки программного кода.
Альянс также намерен развивать открытые наборы данных, системы оценки моделей, симуляторы атак и инструменты red teaming — контролируемого поиска слабых мест в ИИ-системах.
Nvidia передаст проекту собственные модели, данные и результаты исследований агентной инфраструктуры.
Компания также представила исследовательский проект NOOA. Он предназначен для тестирования, отслеживания и аудита действий ИИ-агентов.
Альянс будет оценивать не только сами модели
Nvidia подчёркивает, что безопасность ИИ-агента зависит не только от того, опубликованы его веса или нет.
Современный агент состоит из нескольких компонентов:
модели, программной оболочки, инструментов, системы разрешений, журналов действий и защитных ограничений.
Даже безопасная модель может привести к инциденту, если ей предоставить неограниченный доступ к терминалу, сети, учётным данным или корпоративным системам.
Поэтому альянс планирует проверять весь стек агента: от идентификации и прав доступа до журналирования, изоляции и возможности остановить опасное действие.
Открытые модели несут собственные риски
Участники инициативы не отрицают, что открытые модели могут использоваться во вред.
После публикации весов разработчик уже не может полностью отозвать систему. Пользователь способен изменить защитные настройки, дообучить модель или применить её для проведения кибератак.
Nvidia признаёт эти угрозы, но считает, что они существуют и в закрытых системах.
Компания предлагает сочетать открытость с жёсткими правилами использования, постоянным тестированием, быстрым исправлением уязвимостей и ответственностью за злоупотребления.
В обращении к регуляторам открытые модели и инструменты безопасности предлагается рассматривать как «защитные активы, а не обязательства».
Технологические компании выступили против широких ограничений
Создание Open Secure AI Alliance последовало за публикацией письма Open Weights and American AI Leadership.
В актуальной версии документа инициативу поддерживают 77 компаний и организаций, включая Nvidia, AMD, Microsoft, Google, Meta, OpenAI, GitHub, Mozilla, Mistral, Hugging Face и Perplexity.
Авторы письма призвали американские власти не вводить преждевременные запреты на модели с открытыми весами.
По их мнению, такие системы помогают стартапам, университетам и государственным организациям использовать передовые технологии без необходимости самостоятельно обучать крупную модель или постоянно оплачивать дорогой закрытый API.
Компании также предлагают расширять доступ исследователей к вычислительным мощностям и инвестировать в общие наборы данных, инструменты тестирования и системы оценки ИИ.
Рынок ИИ разделился по вопросу открытости
Поддержку открытых моделей активнее выражают производители оборудования, облачные платформы и разработчики корпоративных систем.
Для Nvidia распространение большего количества моделей означает рост спроса на ускорители, серверы и программную инфраструктуру.
Компании, зарабатывающие преимущественно на платном доступе к закрытым моделям, относятся к полной открытости осторожнее.
Anthropic не вошла в список подписантов отраслевого письма. Компания ранее указывала, что опубликованные веса невозможно отозвать или обновить после появления новых рисков.
При этом Open Secure AI Alliance не предлагает полностью отказаться от закрытых систем. Его участники считают, что организации должны иметь возможность выбирать между закрытыми и открытыми моделями в зависимости от задачи, стоимости и требований безопасности.
Что создание альянса означает для отрасли
Open Secure AI Alliance переводит спор об открытых моделях из политических заявлений в область практической разработки.
Участники планируют создавать общие инструменты защиты, которыми смогут пользоваться компании, исследователи и государственные организации.
Успех инициативы будет зависеть от того, опубликует ли альянс реальные наборы данных, стандарты, программы тестирования и методы реагирования на инциденты.
Пока Open Secure AI Alliance представляет собой отраслевое объединение и заявленную программу сотрудничества. Первые результаты его работы ещё предстоит оценить.
