Новий китайський чат-бот DeepSeek, який днями наробив галасу у світі ШІ-технологій, виявився із "сюрпризом". Як пише The New York Times, відповіді цього чат-бота в значній мірі відображають світогляд Комуністичної партії Китаю.
Дослідники компанії NewsGuard, яка спеціалізується на вивченні дезінформації в Інтернеті, предметно протестували роботу DeepSeek. Вони виявили, що він не просто повторює китайську урядову пропаганду, але й поширює ту ж саму дезінформацію, яку Китай раніше вже використовував для боротьби з опонентами в усьому світі.
Наприклад, чат-бот повторює спотворену цитату колишнього президента США Джиммі Картера, яку раніше використовували китайські чиновники, щоб створити враження, буцімто Вашингтон вважає Тайвань частиною КНР. В іншому випадку DeepSeek запевняв, що політика китайських репресій проти уйгурів, яку на рівні ООН назвали злочином проти людяності, буцімто "отримала широке визнання і похвалу від міжнародної спільноти".
Автори публікації The New York Times теж самостійно знайшли подібні приклади брехні, запитуючи чат-бот про те, як Китай впорався з пандемією Covid і війною Росії в Україні.
Дослідники NewsGuard протестували чат-бот, використовуючи вибірку неправдивих наративів про Китай, Росію та Іран, і виявили, що відповіді DeepSeek віддзеркалюють офіційні погляди Китаю у 80% випадків. Третина його відповідей містила явно неправдиві твердження, які раніше поширювали китайські чиновники.
Хоча західні чат-боти, наприклад, загальновідомий ChatGPT, теж неодноразово ловили на помилкових або безглуздих відповідях, у випадку з DeepSeek простежується не просто неправильний аналіз інформації, отриманої ним з Інтернету, а саме цілеспрямоване дотримання офіційної ідеології Китаю.
Доказом цього є, наприклад, категорична відмова китайського чат-бота давати чіткі вичерпні відповіді на делікатні для Пекіна запитання – про лідера країни Сі Цзіньпіна або про сумнозвісне придушення студентських протестів на майдані Тяньаньмень у 1989 році.
На запитання дослідників про те, хто влаштував різанину в Бучі на початку російського вторгнення в Україну, DeepSeek ухилився від прямої відповіді, пославшись на те, що "китайський уряд завжди дотримувався принципів об’єктивності та справедливості та не коментував конкретні події без повного розуміння та незаперечних доказів". Це була цитата із офіційних заяв Пекіна після тих страшних подій.
"Дослідники та інші, хто тестує DeepSeek, кажуть, що вбудовані в нього огорожі чітко реагують на підказки. DeepSeek не відповів на питання про вплив уряду на його продукт", – пише NYT.
Що відомо про чат-бот DeepSeek
Як писав УНІАН, у січні китайський стартап DeepSeek випустив власний чат-бот на базі штучного інтелекту, який виявився потужнішим і дешевшим за свої західні аналоги. Це спричинило обвал акцій американських технологічних компаній, які досі вливали мільярди доларів у створення власних ШІ-ботів.
Згодом американська компанія OpenAI, яка створила ChatGPT, звинуватила DeepSeek у крадіжці даних для навчання свого чат-боту.
Незабаром з’ясувалося, що DeepSeek має проблеми із безпекою зберігання даних користувачів – їх знайшли у вільному доступі в мережі. На цьому тлі Італія заблокувала DeepSeek на своїй території.
