Минцифры предложили ввести маркировку для текстов и рисунков, созданных ИИ. Мнение iTrend.

Управляющий партнер коммуникационного агентства iTrend для ИТ-компаний Ася Власова сказала CNews, что маркировка ИИ-контента — логичный шаг для регулятора. «В первую очередь, ИИ-сервисы несут опасность появления огромных массивов не только никем не проверенных текстов, но и даже полностью выдуманных фактов, цифр и данных. С учетом того, что искусственный интеллект постоянно дообучается, то с течением времени он будет уже ссылаться сам на себя, и количество фейков будет расти в геометрической прогрессии», — считает эксперт.
По ее мнению, опасность представляет и возможность сбора личных данных людей (фото, личных постов, геотэгов из соцсетей), обучения ИИ на примерах личной переписки и применения этой информации киберпреступниками в социальной инженерии, для взломов систем или банального шантажа. ИИ-контент (как текстовый, так и графический) в целом открывает совершенно новое пространство для информационных атак и fake news. Однако, каким бы логичным ни было внедрение инструментов контроля над ИИ-контентом, оно неизбежно натолкнется на два препятствия. Первое — выявить ИИ-контент крайне сложно: пока неясно, какая филологическая экспертиза позволит распознавать степень участия машины и человека в одном и том же тексте, т. к. человек постоянно дообучает алгоритм на новых датасетах, может взять за основу ИИ-контент и доработать его и т. д., считает Власова.
«Вероятно, российские ИИ-сервисы будут обязаны автоматически маркировать любые сгенерированные внутри сервиса тексты. Тексты, созданные зарубежными сервисами, будет малореально распознать. Такие сервисы могут в будущем официально блокировать, но при необходимости злоумышленники всегда могут блокировки обойти», — сказала она.
Вторая проблема — это нежелание самих пользователей афишировать, что тот или иной контент создан нейросетью, говорит Власова. «Если при создании описаний товаров авторство ИИ не проблема, то копирайтеру или дизайнеру не всегда выгодно признавать использование ИИ в своей работе», — сказала она. По данным АНО «Цифровая экономика», в 2021 г. в России объем инвестиций в ИИ-проекты увеличился на 170%, причем со стороны как частных инвесторов, так и государства, отмечает она.
«Поэтому попытки регулировать эту сферу понятны и, вероятно, своевременны и оправданны. Но пока мы видели лишь одну попытку маркировки товаров и услуг в креативных индустриях — в сентябре 2022 г. в силу вступили новые правила маркировки рекламы в интернете . Система до сих пор выстраивается. К примеру, до сих пор ведется спор о том, какие именно креативы относить к категории рекламных, нужно ли маркировать каждый пресс-релиз или новость. Согласно разъяснению ФАС от 21 ноября 2022 г., рекламными можно признать любые материалы, если в них уделяется особое внимание одному товару, есть призывы его приобрести. Во избежание штрафов маркируют все подряд. По факту же, недавно российские рекламные и маркетинговые ассоциации вместе с объединением профильных юристов попросили законодателей смягчить ответственность за нарушение правил маркировки интернет-рекламы, а также отложить готовящееся введение санкций минимум до 2024 г.», — сообщила Власова.
Читать статью полностью>>>
«Стратегия развития Telegram-канала ИТ-компании»: запись онлайн-встречи MCIO и iTrend
25 октября 2023iTrend начал работу с одним из лидеров российского рынка разработки решений на базе нейросетей — компанией «Наносемантика»
20 сентября 2023«Наносемантика» входит в ТОП-10 российских компаний, занимающихся нейросетями, по версии CNews.
Стоп-фразы, или Что никогда нельзя писать в текстах - разбираем на VC
20 сентября 2023Вот лишь поверхностным взглядом слова и фразы-мусор, которые мы стараемся не допускать в текстах.
Маркировка рекламы создаст новую профессию? Комментируем тему для Ъ
13 сентября 2023Рекламщикам понадобились маркировщики: новые правила создали новую специальность
Как мемы и юмор помогают бизнесу. Комментируем для "Делового Петербурга"
29 августа 2023Digital–директор iTrend Ася Шабалина поделилась своим мнением об использовании мемов и юмора в маркетинге.