30 декабря 2023

О каких угрозах ИИ предупредил Владимир Путин 

Развитие технологий искусственного интеллекта (ИИ) «непременно приведет к тому, что они могут начать угрожать человечеству – сопоставимо с развитием ядерного потенциала». Такой прогноз дал президент России Владимир Путин в рамках своего выступления на ежегодной пресс-конференции.

По словам Путина, предотвратить развитие технологий ИИ невозможно. Особенно когда речь идет о так называемом «сверхинтеллекте», когда робот начинает чувствовать, различать запахи, приобретать когнитивные возможности, а также способности к самообучению. «А значит, нужно возглавить – во всяком случае, нужно сделать все для того, чтобы мы могли быть одними из лидеров в этом направлении», – отметил президент.

В то же время, к чему приведет такое развитие, сейчас никто не знает, посетовал Путин. Страны должны говорить о разработке ограничений и самоограничений в части технологий ИИ, добавил он. «Да, нужно говорить о том, что нужно договариваться между лидерами, чтобы не создать условий, которые могут привести к каким-то опасностям для человечества», – продолжил президент.

В качестве примера Путин привел развитие технологий ядерной энергии, которые со временем превратились в ядерное оружие. И только после этого мировое сообщество начало договариваться между собой о самоограничениях в этом направлении. 

«Так же будет, наверное, и с искусственным интеллектом. Когда лидеры этого направления, развития осознают, что возникают какие-то угрозы, тогда, наверное, начнут договариваться. Но до этого реальных договоренностей достичь вряд ли удастся. Но думать над этим, конечно, нужно уже сегодня», – заявил президент.

В этом году формат президентской пресс-конференции был совмещен с форматом прямой линии Путина, и президент отвечал как на вопросы журналистов, так и на вопросы обычных граждан. Вопрос о развитии ИИ был задан в формате видео от ребенка. Девочка спрашивала, сможет ли искусственный интеллект заменить ее саму, а также родителей и бабушку. «Что касается искусственного интеллекта, одно точно могу сказать совершенно [точно]: бабушку никто не заменит, это заменить невозможно», – ответил на это глава государства. 

К вопросу от девочки был добавлен вопрос от студента из Санкт-Петербурга, также заданный в видеоформате. Для участия в президентской прямой линии студент использовал нейросеть, которая сгенерировала изображение и голос президента. ИИ в образе Путина поинтересовался, есть ли у Путина двойники. «Это мой первый двойник, кстати сказать», – отметил Путин, отвечая на вопрос о возможных угрозах ИИ.

«Благодаря ИИ можно создавать абсолютно неотличимые от реальности дипфейки людей, событий и т. д. и производить с их помощью непредставимого ранее масштаба операции по дезинформации, провокации, манипуляции общественным мнением. То есть мы оказываемся в мире, где невозможно более доверять вообще никаким источникам», – замечает гендиректор коммуникационного агентства iTrend Павел Житнюк.

Уже сейчас развитие технологий ИИ может нести риски для большого числа людей, говорят опрошенные «Ведомостями» эксперты. 

«Непрозрачный механизм работы рекомендательных технологий, к примеру, вызывает риск манипулирования мнением пользователя. Его цель – удовлетворение интересов сервиса и создание “информационного пузыря”, в котором человек получает избирательную информацию, влияющую на формирование его позиции по определенным вопросам», – говорит основатель компании-разработчика «Роббо» Павел Фролов.

Возможность развития ИИ, имеющего моральные убеждения или способность принимать этические решения, вызывает вопросы о том, как контролировать его решения и действия, соглашается гендиректор компании-разработчика ingry.tech Георгий Банчиков. Использование автономных оружейных систем на базе ИИ может привести к непредсказуемым последствиям и обострению военных конфликтов, считает он. Помимо того, развитие ИИ может предоставить возможности для массовой слежки, взлома систем безопасности и использования персональных данных злоумышленниками, рассуждает эксперт.

По мнению Житнюка, предположение о том, что ИИ может получить доступ к оружию массового уничтожения, пока что не более чем «страшилка, как в фильме «Терминатор». «Все-таки для управления ядерными боеголовками применяются достаточно консервативные технологии, которые вряд ли имеют подключение к «интернету вещей», – добавил Житнюк.

Также, продолжил он, ИИ может стать «своеобразным инструментом в гонке вооружений», поскольку с его помощью можно производить масштабные операции воздействия на геополитических противников. И в целом, вопрос опасности ИИ лежит в этической плоскости, считает эксперт. «Человечество впервые в истории сталкивается с чем-то, наделенным равным или превосходящим [человека] разумом, и как себя вести в этой ситуации, пока не очень понятно», – резюмировал Житнюк.

В ноябре 2023 г. Путин в ходе выступления на международной конференции по искусственному интеллекту AI Journey давал ряд поручений по развитию отрасли ИИ. В частности, президент поручил правительству и компаниям, входящим в Альянс по развитию ИИ, работать над увеличением мощностей российских суперкомпьютеров, обеспечить к ним доступ студентам и аспирантам, а также в целом расширить подготовку ученых-разработчиков, разработать больше программ по ИИ.

Как отмечал тогда президент, в Кремле «готовы дополнительно финансировать исследования и разработки в области ИИ при условии софинансирования ведущими российскими компаниями», писали «РИА Новости».

Источник: Ведомости

Команда iTrend начала работу с Институтом iSpring

19 апреля 2024

Институт iSpring — частный ИТ-вуз нового поколения. Он был основан в 2021 году в Йошкар-Оле российским предпринимателем и основателем международной ИТ-компании iSpring Юрием Усковым.

 

Вебинар iTrend «Работодатель-as-a-Service: новая реальность привлечения ИТ-специалистов»

19 апреля 2024

23 апреля в 15:00 пройдет открытый вебинар «Работодатель-as-a-Service: Новая реальность привлечения ИТ-специалистов». Организаторы — коммуникационное агентство iTrend, ассоциация РУССОФТ и консалтинговая группа BITOBE.

 

iTrend: освоить маркировку интернет-рекламы можно только на собственном опыте

25 марта 2024

В феврале 2024 года в Москве прошла Конференция «Digital-коммуникации России». Организатор мероприятия – Ассоциация директоров по коммуникациям и корпоративным медиа России (АКМР). Эксперты конференции обсудили острые вопросы рынка digital, в том числе маркировку интернет-рекламы. Об опыте коммуникационного агентства в рамках перехода на работу по новым правилам рассказала Екатерина Саранцева, директор по развитию iTrend.

 

Медиалогия: iTrend – в ТОП-4 коммуникационных агентств по медиаиндексу за январь 2024 года

20 марта 2024

Коммуникационное агентство iTrend вошло в пятерку агентств, получивших наиболее высокий медиаиндекс по данным рейтинга «Медиалогии» за январь 2024 года. Компания заняла четвёртую строчку ранкинга, набрав 433,2 пункта МИ. Медиаактивность участников рынка оценивалась на основе анализа базы российских СМИ, включающей в себя более 88 тыс. источников — ТВ, радио, газеты, журналы, информационные агентства и Интернет-СМИ.

 

iTrend: интерес деловых СМИ к ИТ вырос в 6 раз за последние пять лет

20 марта 2024

Эксперты коммуникационного агентства iTrend провели исследование, в рамках которого проанализировали, как менялся медиаландшафт в ИТ-индустрии в последние пять лет. В компании сравнили количество упоминаний крупнейших российских разработчиков и системных интеграторов в деловых СМИ и пришли к выводу, что об ИТ-компаниях стали писать в 6 раз чаще.

 
Все новости iTrend