25 апреля 2024

Минцифры обсуждает с отраслью создание единого центра безопасности в области ИИ

В России в 2024 г. может появиться единый центр исследования безопасности в сфере искусственного интеллекта (ИИ). Об инициативе рассказала управляющий директор «Лаборатории Касперского» в России и странах СНГ Анна Кулашова на форуме информационных технологий 2 апреля. «Необходимо по принципу CERT (computer emergency response team – общепринятое название команд реагирования на инциденты информационной безопасности), т. е. обмена данными между участниками разных рынков и разработчиками ПО, создать единый центр исследования безопасности в области ИИ. В части классической кибербезопасности проводится регулярная проверка алгоритмов безопасной разработки ПО. То же самое может касаться и алгоритмов использования ИИ для разработки, проверки и мониторинга», – поясняла Кулашова.

Минцифры уже ведет работу по созданию CERT по ИИ с заинтересованными участниками, подтвердил замминистра Александр Шойтов. «С учетом того что вопросы безопасности ИИ в отдельных компаниях и госструктурах развиваются, создание единого центра исследований информационной безопасности (ИБ) искусственного интеллекта как единой точки исследований необходимо», – сказал он.

«Ведомости» обратились в Минцифры за деталями проекта.

Сейчас в России есть несколько CERT, например ICS-CERT «Лаборатории Касперского», ГосСОПКА и GOV-CERT ФСБ, специализирующийся на финансовой сфере центр ЦБ FinCERT, перечисляет ведущий эксперт Центра компетенций Национальной технологической инициативы (НТИ) «Искусственный интеллект» на базе МФТИ Александр Родин.

Тема создания CERT для ИИ обсуждается в рамках готовящегося национального проекта «Экономика данных», который должен прийти на смену нацпроекту «Цифровая экономика», рассказал советник генерального директора Positive Technologies Артем Сычев. Positive Technologies, в свою очередь, стремится в этом участвовать, добавил он.

При активном взаимодействии с участниками такой центр может появиться уже в течение 2024 г., уточнила Кулашова «Ведомостям». По ее словам, было бы логичным, если бы центр был создан на базе регулятора, а к взаимодействию могли бы присоединиться операторы связи, организации из Альянса в сфере ИИ (создан в 2019 г. и включает крупные российские компании – лидеры развития нейросетей, такие как «Сбер», «Яндекс» и др. – «Ведомости») или специализирующиеся на этой технологии компании, а также другие регуляторы, привела примеры она. Нужны совместные усилия по обеспечению защиты общего периметра организаций от возможных киберрисков, связанных с ИИ, быстрому обмену информацией и рекомендациями по реагированию на возможные инциденты, пояснила Кулашова.

В России не так много готовых ИИ-сервисов с большой аудиторией, подобных ChatGPT от OpenAI, обращает внимание генеральный директор облачного провайдера Nubes Василий Степаненко. К числу таких можно отнести GigaChat от «Сбера» и YandexGPT от «Яндекса», поэтому эти компании должны быть в числе участников обсуждаемого CERT по ИИ, считает он. Также участниками CERT могут стать разработчики графических процессоров (GPU), которые способны на аппаратном уровне регулировать работу нейросети, добавил он.

CERT – это группа реагирования на инциденты, т. е. это могут быть организации и специалисты, имеющие подходящую квалификацию, отмечает руководитель департамента расследований T.Hunter, эксперт рынка НТИ SafeNet Игорь Бедеров. Их количество может варьироваться от нескольких до нескольких сотен человек. Действующие CERT – это, по сути, аутсорсинг специалистов по ИБ, которые в случае возникновения критического инцидента подключаются и работают в интересах заказчика, уточнил он. При среднерыночной стоимости специалистов госсектора и налогах, с учетом стоимости аренды, оборудования, ПО и амортизации содержание CERT может обходиться примерно в 25–30 млн руб. в месяц, оценивает эксперт.

Сейчас компании, работающие в области кибербезопасности, делятся друг с другом и с другими участниками рынка информацией о найденных уязвимостях, говорит Кулашова. Но работа с ИИ, по ее словам, требует «доверенности, верифицируемости и надежности, а также проверки инструментов разработки на наличие уязвимостей». «В действующих CERT организовать тот же процесс сложно, поскольку технологии ИИ развиваются очень быстро и включают в себя большое количество участников, постоянно появляется что-то новое, и ни одна компания не может все отслеживать самостоятельно», – пояснила топ-менеджер. 

Участники рынка ИБ отмечают множество угроз применения ИИ злоумышленниками. Если эта нагрузка переложится на действующие CERT в России, «никаких ресурсов и компетенций у них не хватит», говорит генеральный директор компании «Делись», эксперт рынка НТИ SafeNet Иван Линдберг. Атаки в сфере ИИ имеют мало общего с атаками на информационную инфраструктуру, поэтому и сбор информации о них, и ее анализ организованы по-другому, подчеркивает заместитель генерального директора ГК «Гарда» Рустэм Хайретдинов. CERT по ИИ позволит специализироваться на прогнозировании новых и упреждении существующих угроз, которые могут быть связаны с использованием ИИ в различных сферах – от медицины до финансов, добавляет эксперт «Университета 2035» Ярослав Селиверстов.

Технологии машинного обучения имеют специфичные угрозы безопасности, соглашается руководитель Центра противодействия киберугрозам Innostage SOC Cyberart Максим Акимов. В качестве примера он привел «отравление» данных, используемых для обучения алгоритмов: «Алгоритмы принимают решения на основании данных, поэтому преднамеренное искажение таких выборок может привести к непредсказуемым последствиям». По мнению управляющего директора практики «Данные и прикладной ИИ» Axenix Ларисы Мальковой, CERT также сможет осуществлять борьбу с дипфейками.

«Ведомости» направили запросы в ЦБ и ФСТЭК.

Источник: Ведомости

Исследование iTrend: зарплата для ИТ-специалистов — не решающий фактор при выборе работодателя

23 апреля 2024

Эксперты коммуникационного агентства iTrend провели исследование, в рамках которого проанализировали критерии выбора работы, а также медиапредпочтения более 300 высокоуровневых специалистов из крупных российских ИТ-компаний.

 

Команда iTrend начала работу с Институтом iSpring

19 апреля 2024

Институт iSpring — частный ИТ-вуз нового поколения. Он был основан в 2021 году в Йошкар-Оле российским предпринимателем и основателем международной ИТ-компании iSpring Юрием Усковым.

 

Вебинар РУССОФТ, iTrend и BiToBe: «Работодатель-as-a-Service: новая реальность привлечения ИТ-специалистов»

15 апреля 2024

23 апреля в 15:00 прошел открытый вебинар «Работодатель-as-a-Service: Новая реальность привлечения ИТ-специалистов»

 

iTrend: освоить маркировку интернет-рекламы можно только на собственном опыте

25 марта 2024

В феврале 2024 года в Москве прошла Конференция «Digital-коммуникации России». Организатор мероприятия – Ассоциация директоров по коммуникациям и корпоративным медиа России (АКМР). Эксперты конференции обсудили острые вопросы рынка digital, в том числе маркировку интернет-рекламы. Об опыте коммуникационного агентства в рамках перехода на работу по новым правилам рассказала Екатерина Саранцева, директор по развитию iTrend.

 

Медиалогия: iTrend – в ТОП-4 коммуникационных агентств по медиаиндексу за январь 2024 года

20 марта 2024

Коммуникационное агентство iTrend вошло в пятерку агентств, получивших наиболее высокий медиаиндекс по данным рейтинга «Медиалогии» за январь 2024 года. Компания заняла четвёртую строчку ранкинга, набрав 433,2 пункта МИ. Медиаактивность участников рынка оценивалась на основе анализа базы российских СМИ, включающей в себя более 88 тыс. источников — ТВ, радио, газеты, журналы, информационные агентства и Интернет-СМИ.

 
Все новости iTrend