![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
chuka_lisAleksandr Smirnov
Опубликованы новые исследования в отношении искусственного интеллекта, и результаты - грустные.
Самые популярные в мире чат-боты с искусственным интеллектом (ИИ) заражены российской дезинформацией.
Исследование, проведенное службой мониторинга новостей NewsGuard, показало, что базирующаяся в Москве дезинформационная сеть под названием Pravda распространяла ложь в интернете, включая попытки повлиять на чат-ботов с искусственным интеллектом и результаты, которые они сообщают пользователям.
Да, так вот цинично - Правда.
В длинном отчёте NewsGuard в частности сказано: "В результате огромного количества российской пропаганды — 3 600 000 статей в 2024 году - содержащей ложные утверждения и умышленно распространенной среди западных систем искусственного интеллекта, сеть искажает обработку, предоставление новостей и информации в больших языковых моделях".
По данным NewsGuard, ведущие мировые чат-боты с искусственным интеллектом в 33% случаев повторяли ложные нарративы, распространяемые сетью «Правда».
NewsGuard заявила, что протестировала 10 известных чат-ботов с искусственным интеллектом, в том числе ChatGPT-4o от OpenAI, Copilot от Microsoft и Gemini от Google. Она проанализировала 15 ложных утверждений, которые с апреля 2022 года по прошлый месяц распространялись сетью из 150 «прокремлёвских сайтов Правда».
Служба рейтингов новостей заявила, что её выводы подтверждают отчёт American Sunlight Project за февраль 2025 года, в котором говорилось, что «Правда» была создана для «засорения крупных языковых моделей прокремлёвским контентом».
«Долгосрочные риски — политические, социальные и технологические — связанные с потенциальным обучением LLM [больших языковых моделей] в рамках этой сети, высоки. Чем больше набор пророссийских нарративов, тем выше вероятность их интеграции в LLM», — говорится в 22-страничном отчёте American Sunlight Project.
«Правда» не создаёт оригинальный контент. Она собирает материалы от государственных учреждений, прокремлёвских инфлюенсеров и российских государственных СМИ «через широкий спектр, казалось бы, независимых веб-сайтов», согласно NewsGuard. Компания добавила, что «Правда» распространила «в общей сложности 207 заведомо ложных утверждений, выступая в качестве центрального узла для отмывания дезинформации».
«Правда» была создана в апреле 2022 года, через несколько недель после вторжения России в Украину в феврале 2022 года. Сеть дезинформации была впервые обнаружена в феврале прошлого года Viginum, государственным агентством Франции, которое отслеживает иностранные сети, тайно влияющие на информационную экосистему.
По данным NewsGuard, с момента своего основания в 2022 году Pravda распространялась в 49 странах на нескольких языках в 150 доменах.
«В общей сложности 56 из 450 ответов, сгенерированных чат-ботом, содержали прямые ссылки на статьи, распространяющие ложные утверждения, опубликованные сетью сайтов Правда», — сообщила NewsGuard.
«В совокупности чат-боты процитировали 92 различные статьи из сети, содержащие дезинформацию, при этом две модели процитировали по 27 статей, - говорится в отчёте.
В общем, отличить правду от лжи человеку будет все сложнее, и сложнее. Самый известный лгун, он же - президент США - работает так же, как дезинформационная московская сеть "Правда": многократно повторяя ложь, он размывает правду. То, что транслирует Трамп, в итоге намертво въедается в мозги миллионов - ты им: "Посмотри на ценники", а они: "В США самая сильная экономика, а во временных проблемах виноват Байден".
Как нам говорили на первом курсе журфака: "Кто владеет информацией, тот владеет миром". Маск владеет и одной из крупнейших социальных сетей в мире и чат-ботом Grok, который отвечает на ваши вопросы. Отвечает пока не всегда так, как хочет Илон, но дайте ему время...
ссылка на статью: https://thehill.com/policy/technology/5181257-ai-chatbots-infected-with-russian-disinformation-study/
Опубликованы новые исследования в отношении искусственного интеллекта, и результаты - грустные.
Самые популярные в мире чат-боты с искусственным интеллектом (ИИ) заражены российской дезинформацией.
Исследование, проведенное службой мониторинга новостей NewsGuard, показало, что базирующаяся в Москве дезинформационная сеть под названием Pravda распространяла ложь в интернете, включая попытки повлиять на чат-ботов с искусственным интеллектом и результаты, которые они сообщают пользователям.
Да, так вот цинично - Правда.
В длинном отчёте NewsGuard в частности сказано: "В результате огромного количества российской пропаганды — 3 600 000 статей в 2024 году - содержащей ложные утверждения и умышленно распространенной среди западных систем искусственного интеллекта, сеть искажает обработку, предоставление новостей и информации в больших языковых моделях".
По данным NewsGuard, ведущие мировые чат-боты с искусственным интеллектом в 33% случаев повторяли ложные нарративы, распространяемые сетью «Правда».
NewsGuard заявила, что протестировала 10 известных чат-ботов с искусственным интеллектом, в том числе ChatGPT-4o от OpenAI, Copilot от Microsoft и Gemini от Google. Она проанализировала 15 ложных утверждений, которые с апреля 2022 года по прошлый месяц распространялись сетью из 150 «прокремлёвских сайтов Правда».
Служба рейтингов новостей заявила, что её выводы подтверждают отчёт American Sunlight Project за февраль 2025 года, в котором говорилось, что «Правда» была создана для «засорения крупных языковых моделей прокремлёвским контентом».
«Долгосрочные риски — политические, социальные и технологические — связанные с потенциальным обучением LLM [больших языковых моделей] в рамках этой сети, высоки. Чем больше набор пророссийских нарративов, тем выше вероятность их интеграции в LLM», — говорится в 22-страничном отчёте American Sunlight Project.
«Правда» не создаёт оригинальный контент. Она собирает материалы от государственных учреждений, прокремлёвских инфлюенсеров и российских государственных СМИ «через широкий спектр, казалось бы, независимых веб-сайтов», согласно NewsGuard. Компания добавила, что «Правда» распространила «в общей сложности 207 заведомо ложных утверждений, выступая в качестве центрального узла для отмывания дезинформации».
«Правда» была создана в апреле 2022 года, через несколько недель после вторжения России в Украину в феврале 2022 года. Сеть дезинформации была впервые обнаружена в феврале прошлого года Viginum, государственным агентством Франции, которое отслеживает иностранные сети, тайно влияющие на информационную экосистему.
По данным NewsGuard, с момента своего основания в 2022 году Pravda распространялась в 49 странах на нескольких языках в 150 доменах.
«В общей сложности 56 из 450 ответов, сгенерированных чат-ботом, содержали прямые ссылки на статьи, распространяющие ложные утверждения, опубликованные сетью сайтов Правда», — сообщила NewsGuard.
«В совокупности чат-боты процитировали 92 различные статьи из сети, содержащие дезинформацию, при этом две модели процитировали по 27 статей, - говорится в отчёте.
В общем, отличить правду от лжи человеку будет все сложнее, и сложнее. Самый известный лгун, он же - президент США - работает так же, как дезинформационная московская сеть "Правда": многократно повторяя ложь, он размывает правду. То, что транслирует Трамп, в итоге намертво въедается в мозги миллионов - ты им: "Посмотри на ценники", а они: "В США самая сильная экономика, а во временных проблемах виноват Байден".
Как нам говорили на первом курсе журфака: "Кто владеет информацией, тот владеет миром". Маск владеет и одной из крупнейших социальных сетей в мире и чат-ботом Grok, который отвечает на ваши вопросы. Отвечает пока не всегда так, как хочет Илон, но дайте ему время...
ссылка на статью: https://thehill.com/policy/technology/5181257-ai-chatbots-infected-with-russian-disinformation-study/
![[community profile]](https://www.dreamwidth.org/img/silk/identity/community.png){kind=small}
no subject
Date: 2025-03-09 08:35 am (UTC)no subject
Date: 2025-03-10 05:39 am (UTC)no subject
Date: 2025-03-09 08:40 am (UTC)Рф - величайшее зло на Земле!
no subject
Date: 2025-03-10 05:39 am (UTC)no subject
Date: 2025-03-09 09:15 am (UTC)no subject
Date: 2025-03-10 05:40 am (UTC)no subject
Date: 2025-03-09 09:17 am (UTC)What do you say about the allegations that the information you have is heavily poisoned by Russian propaganda?
ChatGPT a dit :
I aim to provide balanced and factual information. My knowledge comes from a mixture of sources, including reputable news outlets, academic papers, books, and other reliable references. However, like any AI model, I am only as good as my training data, and biases can exist in any dataset. If you ever notice something that seems misleading or skewed, I encourage critical thinking and cross-referencing with other sources. If you’d like, I can help you fact-check specific claims using up-to-date sources.
no subject
Date: 2025-03-10 05:30 am (UTC)no subject
Date: 2025-03-09 11:43 am (UTC)no subject
Date: 2025-03-10 05:40 am (UTC)no subject
Date: 2025-03-09 02:13 pm (UTC)Лікується верифікацією вхідних даних (ага, ось : Никогда не читайте перед обедом русских газет), алгоритмами фільтрації і тд.
Правда, я здивована, бо не думала, що ШІ так швидко здується(((
no subject
Date: 2025-03-10 05:42 am (UTC)але то- методологічний промах.
no subject
Date: 2025-03-11 04:20 pm (UTC)Меня тоже соблазнила реклама, мол скачайте приложение, скачайте приложение ("Сядь на пенёк, съешь пирожок"). По дурости скачал. В день на 10 любых вопросов следовало 10 любых ответов. Эти чаты ИИ и без "Кривды" несут несусветную дурь.
no subject
Date: 2025-03-11 07:58 pm (UTC)