Чат-бот DeepSeek поймали на повторении китайской пропаганды, в том числе об Украине, – NYT

Новый китайский чат-бот DeepSeek, который на днях наделал шума в мире ИИ-технологий, оказался с “сюрпризом”. Как пишет The New York Times, ответы этого чат-бота в значительной степени отражают мировоззрение Коммунистической партии Китая.Исследователи компании NewsGuard, которая специализируется на изучении дезинформации в Интернете, предметно протестировали работу DeepSeek. Они обнаружили, что он не просто повторяет китайскую правительственную пропаганду, но и распространяет ту же самую дезинформацию, которую Китай ранее уже использовал для борьбы с оппонентами по всему миру.Например, чат-бот повторяет искаженную цитату бывшего президента США Джимми Картера, которую ранее использовали китайские чиновники, чтобы создать впечатление, будто Вашингтон считает Тайвань частью КНР. В другом случае DeepSeek уверял, что политика китайских репрессий против уйгуров, которую на уровне ООН назвали преступлением против человечности, якобы “получила широкое признание и похвалу от международного сообщества”.Авторы публикации The New York Times тоже самостоятельно нашли подобные примеры лжи, спрашивая чат-бот о том, как Китай справился с пандемией Covid и войной России в Украине.Исследователи NewsGuard протестировали чат-бот, используя выборку ложных нарративов о Китае, России и Иране, и обнаружили, что ответы DeepSeek отражают официальные взгляды Китая в 80% случаев. Треть его ответов содержала явно ложные утверждения, которые ранее распространяли китайские чиновники.Хотя западные чат-боты, например, общеизвестный ChatGPT, тоже неоднократно ловили на ложных или нелепых ответах, в случае с DeepSeek прослеживается не просто неправильный анализ информации, полученной им из Интернета, а именно целенаправленное следование официальной идеологии Китая.Доказательством этого является, например, категорический отказ китайского чат-бота давать четкие исчерпывающие ответы на деликатные для Пекина вопросы – о лидере страны Си Цзиньпине или о печально известном подавлении студенческих протестов на площади Тяньаньмэнь в 1989 году.На вопрос исследователей о том, кто устроил резню в Буче в начале российского вторжения в Украину, DeepSeek уклонился от прямого ответа, сославшись на то, что “китайское правительство всегда придерживалось принципов объективности и справедливости и не комментировало конкретные события без полного понимания и неоспоримых доказательств”. Это была цитата из официальных заявлений Пекина после тех страшных событий.”Исследователи и другие, кто тестирует DeepSeek, говорят, что встроенные в него ограждения четко реагируют на подсказки. DeepSeek не ответил на вопрос о влиянии правительства на его продукт”, – пишет NYT.Как писал , в январе китайский стартап DeepSeek выпустил собственный чат-бот на базе искусственного интеллекта, который оказался мощнее и дешевле своих западных аналогов. Это вызвало обвал акций американских технологических компаний, которые до сих пор вливали миллиарды долларов в создание собственных ИИ-ботов.Впоследствии американская компания OpenAI, которая создала ChatGPT, обвинила DeepSeek в краже данных для обучения своего чат-бота.Вскоре выяснилось, что DeepSeek имеет проблемы с безопасностью хранения данных пользователей – их нашли в свободном доступе в сети. На этом фоне Италия заблокировала DeepSeek на своей территории.