Уровень проникновения ИИ в ИБ вырос, но все равно остается небольшим
![](/media/photo/news/b5242.jpg )
Доля систем ИБ и в мире, и в России, где применяются продвинутая аналитика и машинное обучение, достигла 20% по итогам первого полугодия 2023 г., причем среднегодовые темпы роста имеют явную тенденцию к ускорению. Данному процессу способствуют рост нагрузки на ИБ-персонал и снижение бюджетов ИБ-подразделений.
Такое мнение разделило большинство участников экспертной дискуссии "Инь и ян: ИБ и ИИ", которая прошла в рамках конференции Innopolis AI Conference for business (AI IN 2023). Управляющий директор "Лаборатории Касперского" в России Анна Кулашова при этом назвала сферу ИБ довольно консервативной в плане использования искусственного интеллекта (ИИ), и за счет этого уровень проникновения ИИ в ИБ остается ниже среднего по экономике как в мире, так и в России. Она обратила внимание на такие риски любых систем, использующих искусственный интеллект (ИИ), как слабая устойчивость к манипуляциям с данными, причем эта уязвимость касается возможных действий и внутренних, и внешних нарушителей.
Анна Кулашова напомнила, что широкое использование аналитических технологий создает дополнительные риски для конфиденциальности данных. Не менее серьезной сложностью, по ее мнению, является высокая требовательность к вычислительным ресурсам систем обучения нейросетей, особенно на фоне дефицита комплектующих, в частности графических ускорителей.
Директор по стратегическому развитию InnoStage Андрей Тимошенко привел пример с антивирусным ПО CYLANCE, которое из-за неправильного обучения начало пропускать вредоносный код. При этом, по его оценке, при решении как минимум 70% задач, стоящих перед ИБ, использование ИИ объективно не нужно.
Эксперт OSINT ООО "Интеллектуальная безопасность" (Security Vision) Евгений Кунин назвал серьезным сдерживающим фактором сложность систем, использующих продвинутую аналитику. Он привел пример систем поведенческого анализа пользователей и сущностей (UBA, UEBA), внедрение которых практически всегда представляет собой интеграционный проект. И в целом при внедрении таких систем, как предупредил Евгений Кунин, очень много организационных и технических проблем. Также, по его оценке, очень много нерешенных сложностей с регуляторами, особенно при использовании систем генеративного ИИ, которые требуют подключения к публичному интернету, что является грубым нарушением законодательства по защите критической информационной инфраструктуры (КИИ). Евгений Кунин привел пример недавнего обвинительного приговора, который вынесен ИТ-специалисту за внедрение системы с открытым кодом на объекте КИИ.
Руководитель отдела перспективных технологий ПАО "Группа Позитив" (Positive Technologies) Александра Мурзина, ссылаясь на опыт компании, заявила, что бизнес ограничивается мерами по защите кода, тогда как перечень возможных векторов атак куда шире. Она привела выдержки из исследований профессора Имперского колледжа Лондона Кенга Ли, согласно которым число возможных векторов атак не меньше девяти. Но при этом, сославшись на результаты обследований заказчиков Positive Technologies, Анна Мурзина оценила уровень уязвимости компаний в 96%, когда речь идет о внешних злоумышленниках, а перед внутренними нарушителями уязвимы и вовсе абсолютно все.
При этом сами системы ИИ, как заявил Евгений Кунин, также нуждаются в защите. При этом, по его оценке, модели являются не менее ценным активом, чем данные, особенно для таких отраслей, как розничная торговля и финансовый сектор, где разработка более эффективной модели для скоринга или обработки пользовательского опыта является ощутимым конкурентным преимуществом.
Начальник отдела информационной безопасности ООО "СерчИнформ" Алексей Дрозд обратил внимание, что ИИ активно используют киберпреступники. Однако противостояния защитного ИИ с нападающим, по его мнению, стоит ждать еще год-два. ИИ в ИБ-системах, по оценке Алексея Дрозда, пока используется по большей части для автоматизации рутины при работе с системами мониторинга и корреляции событий (SIEM) и центров мониторинга ИБ (SOC). Однако перспективными, по его оценке, являются системы класса UBA (поведенческий анализ пользователей и сущностей), принцип работы которых состоит в выявлении отклонений от нормы.
Однако, по мнению Анны Кулашовой, без использования ИИ уже невозможно решение целого спектра задач, в частности, связанных с анализом вредоносных приложений, количество которых растет на 400 тыс. за день.
Как заявил Андрей Тимошенко, область применения для ИИ в ИБ уже измеряется десятками сфер, а годовые темпы роста - двузначными числами. По его мнению, основной эффект от внедрения ИИ - снижение реакции на инциденты, прежде всего сотрудников SOC. Такие проекты, как заявил Андрей Тимошенко, уже реализуются, причем массово. Также машинное обучение, по его мнению, широко распространено при решении задач сетевой безопасности и защиты от фрода, мошенничества и разного рода злоупотреблений.
Как заявил директор департамента доверия и безопасности Avito Андрей Рыбинцев, современные системы антифрода без ИИ невозможно представить, особенно если речь идет о сервисах С2С с большим количеством пользователей, таких как Avito. ИИ, по его словам, помогает модерировать объявления, выявлять ботов, фальшивые учетные записи, фишинг.
Пример Avito не является единичным. К примеру, обновление механизмов защиты от фрода позволило клиентам "Яндекса" сохранить 240 млрд руб. рекламных бюджетов за первую половину года, что в пять раз больше, чем в январе-июне 2022 г. "Наши алгоритмы обучаются в том числе на данных о конверсиях, которые мы получаем от бизнеса. Таким образом, совместными усилиями мы решаем одну из самых актуальных проблем на рекламном рынке - проблему роста фродового трафика", - прокомментировал результат обновления сервиса заместитель коммерческого директора "Яндекса" по качеству Алексей Гончаров.
Источник: Comnews
iTrend организует панельную дискуссию «Российские ИТ на глобальном рынке: стратегия выживших» на Международном технологическом Конгрессе-2024
2 сентября 2024Ключевые игроки ИТ-отрасли и представители профессиональных ассоциаций обсудят перспективы российского технологического бизнеса в контексте расширения БРИКС.
iTrend начал работу с DCLogic
21 августа 2024iTrend начал работу с DCLogic. Компания входит в топ-10 самых эффективных ИТ-компаний страны 2023 года, а также в топ-100 крупнейших интеграторов и разработчиков отечественного ПО по версии CNews.
iTrend выступит информационным партнером Международного технологического Конгресса-2024
20 августа 2024Мероприятие пройдет с 17 по 19 сентября 2024 года в Конгрессно-выставочном центре «Патриот» (Московская область).
iTrend проведет дискуссию о маркетинге и PR в ИТ на ИТ-форуме РУССОФТ
15 августа 20248-10 сентября 2024 года в Санкт-Петербурге состоится ИТ-форум РУССОФТ-2024, приуроченный к 25-летнему юбилею Ассоциации.
iTrend выступит инфопартнером бизнес-регаты IT Sailing Day 2024
12 августа 202415 августа в подмосковном поместье яхт-клуба Галс на берегу Пироговского водохранилища состоится бизнес-регата IT Sailing Day 2024. Мероприятие соберёт ведущих экспертов и лидеров ИТ-рынка для общения на важнейшие отраслевые темы и соревнования на скоростных яхтах.