При активном взаимодействии с участниками такой центр может появиться уже в течение 2024 г., уточнила Кулашова «Ведомостям». По ее словам, было бы логичным, если бы центр был создан на базе регулятора, а к взаимодействию могли бы присоединиться операторы связи, организации из Альянса в сфере ИИ (создан в 2019 г. и включает крупные российские компании – лидеры развития нейросетей, такие как «Сбер», «Яндекс» и др. – «Ведомости») или специализирующиеся на этой технологии компании, а также другие регуляторы, привела примеры она. Нужны совместные усилия по обеспечению защиты общего периметра организаций от возможных киберрисков, связанных с ИИ, быстрому обмену информацией и рекомендациями по реагированию на возможные инциденты, пояснила Кулашова.

В России не так много готовых ИИ-сервисов с большой аудиторией, подобных ChatGPT от OpenAI, обращает внимание генеральный директор облачного провайдера Nubes Василий Степаненко. К числу таких можно отнести GigaChat от «Сбера» и YandexGPT от «Яндекса», поэтому эти компании должны быть в числе участников обсуждаемого CERT по ИИ, считает он. Также участниками CERT могут стать разработчики графических процессоров (GPU), которые способны на аппаратном уровне регулировать работу нейросети, добавил он.

CERT – это группа реагирования на инциденты, т. е. это могут быть организации и специалисты, имеющие подходящую квалификацию, отмечает руководитель департамента расследований T.Hunter, эксперт рынка НТИ SafeNet Игорь Бедеров. Их количество может варьироваться от нескольких до нескольких сотен человек. Действующие CERT – это, по сути, аутсорсинг специалистов по ИБ, которые в случае возникновения критического инцидента подключаются и работают в интересах заказчика, уточнил он. При среднерыночной стоимости специалистов госсектора и налогах, с учетом стоимости аренды, оборудования, ПО и амортизации содержание CERT может обходиться примерно в 25–30 млн руб. в месяц, оценивает эксперт.

Сейчас компании, работающие в области кибербезопасности, делятся друг с другом и с другими участниками рынка информацией о найденных уязвимостях, говорит Кулашова. Но работа с ИИ, по ее словам, требует «доверенности, верифицируемости и надежности, а также проверки инструментов разработки на наличие уязвимостей». «В действующих CERT организовать тот же процесс сложно, поскольку технологии ИИ развиваются очень быстро и включают в себя большое количество участников, постоянно появляется что-то новое, и ни одна компания не может все отслеживать самостоятельно», – пояснила топ-менеджер. 

Участники рынка ИБ отмечают множество угроз применения ИИ злоумышленниками. Если эта нагрузка переложится на действующие CERT в России, «никаких ресурсов и компетенций у них не хватит», говорит генеральный директор компании «Делись», эксперт рынка НТИ SafeNet Иван Линдберг. Атаки в сфере ИИ имеют мало общего с атаками на информационную инфраструктуру, поэтому и сбор информации о них, и ее анализ организованы по-другому, подчеркивает заместитель генерального директора ГК «Гарда» Рустэм Хайретдинов. CERT по ИИ позволит специализироваться на прогнозировании новых и упреждении существующих угроз, которые могут быть связаны с использованием ИИ в различных сферах – от медицины до финансов, добавляет эксперт «Университета 2035» Ярослав Селиверстов.

Технологии машинного обучения имеют специфичные угрозы безопасности, соглашается руководитель Центра противодействия киберугрозам Innostage SOC Cyberart Максим Акимов. В качестве примера он привел «отравление» данных, используемых для обучения алгоритмов: «Алгоритмы принимают решения на основании данных, поэтому преднамеренное искажение таких выборок может привести к непредсказуемым последствиям». По мнению управляющего директора практики «Данные и прикладной ИИ» Axenix Ларисы Мальковой, CERT также сможет осуществлять борьбу с дипфейками.

«Ведомости» направили запросы в ЦБ и ФСТЭК.

Источник: Ведомости