17 мая 2023

Минцифры предложили ввести маркировку для текстов и рисунков, созданных ИИ. Мнение iTrend.

 

Управляющий партнер коммуникационного агентства iTrend для ИТ-компаний Ася Власова сказала CNews, что маркировка ИИ-контента — логичный шаг для регулятора. «В первую очередь, ИИ-сервисы несут опасность появления огромных массивов не только никем не проверенных текстов, но и даже полностью выдуманных фактов, цифр и данных. С учетом того, что искусственный интеллект постоянно дообучается, то с течением времени он будет уже ссылаться сам на себя, и количество фейков будет расти в геометрической прогрессии», — считает эксперт.

По ее мнению, опасность представляет и возможность сбора личных данных людей (фото, личных постов, геотэгов из соцсетей), обучения ИИ на примерах личной переписки и применения этой информации киберпреступниками в социальной инженерии, для взломов систем или банального шантажа. ИИ-контент (как текстовый, так и графический) в целом открывает совершенно новое пространство для информационных атак и fake news. Однако, каким бы логичным ни было внедрение инструментов контроля над ИИ-контентом, оно неизбежно натолкнется на два препятствия. Первое — выявить ИИ-контент крайне сложно: пока неясно, какая филологическая экспертиза позволит распознавать степень участия машины и человека в одном и том же тексте, т. к. человек постоянно дообучает алгоритм на новых датасетах, может взять за основу ИИ-контент и доработать его и т. д., считает Власова.

«Вероятно, российские ИИ-сервисы будут обязаны автоматически маркировать любые сгенерированные внутри сервиса тексты. Тексты, созданные зарубежными сервисами, будет малореально распознать. Такие сервисы могут в будущем официально блокировать, но при необходимости злоумышленники всегда могут блокировки обойти», — сказала она.

Вторая проблема — это нежелание самих пользователей афишировать, что тот или иной контент создан нейросетью, говорит Власова. «Если при создании описаний товаров авторство ИИ не проблема, то копирайтеру или дизайнеру не всегда выгодно признавать использование ИИ в своей работе», — сказала она. По данным АНО «Цифровая экономика», в 2021 г. в России объем инвестиций в ИИ-проекты увеличился на 170%, причем со стороны как частных инвесторов, так и государства, отмечает она.

«Поэтому попытки регулировать эту сферу понятны и, вероятно, своевременны и оправданны. Но пока мы видели лишь одну попытку маркировки товаров и услуг в креативных индустриях — в сентябре 2022 г. в силу вступили новые правила маркировки рекламы в интернете . Система до сих пор выстраивается. К примеру, до сих пор ведется спор о том, какие именно креативы относить к категории рекламных, нужно ли маркировать каждый пресс-релиз или новость. Согласно разъяснению ФАС от 21 ноября 2022 г., рекламными можно признать любые материалы, если в них уделяется особое внимание одному товару, есть призывы его приобрести. Во избежание штрафов маркируют все подряд. По факту же, недавно российские рекламные и маркетинговые ассоциации вместе с объединением профильных юристов попросили законодателей смягчить ответственность за нарушение правил маркировки интернет-рекламы, а также отложить готовящееся введение санкций минимум до 2024 г.», — сообщила Власова.

Читать статью полностью>>>

iTrend занял лидерские места в "Рейтинге Рунета" 

16 мая 2023

Впервые поучаствовали в рейтинге, и результаты превзошли наши ожидания! Сразу 6 призовых мест.

 

Комментируем "Ведомостям" знаковые события "Яндекса" и VK     

5 мая 2023

VK разрабатывает свой аналог Tinder. «Яндекс» отказался от бесплатной электронной почты для бизнес-клиентов.

 

iTrend начал работать с разработчиком комплексных банковских систем SoftWell

3 мая 2023

Пишем новости, комментируем тренды, готовим аналитические статьи.

 

iTrend - официальный партнер «Сбер Бизнес»

24 апреля 2023

Компании-разработчики российского ПО могут через наше агентство принять участие в программе Минцифры и получить финансовую поддержку.

 
Все новости iTrend