DeepSeekは「中国共産党の価値観」を反映？ アイ・ウェイウェイが「政府戦略を想起させる」と非難
中国発AIアシスタントの「DeepSeek」に、アイ・ウェイウェイをはじめとする中国政府の標的となっているアーティストに関する質問を入力したところ、このような質問は「有害である」といった内容の回答が生成された。これを受けアイは、「中国共産党がもつ価値観には欠陥が存在している」と中国政府を非難する声明文をアートメディアのHyperallergicに寄せた。
中国のスタートアップであるDeepSeek（深度求索）が驚くべき低コストで開発したAIアシスタントアプリ、「DeepSeek」はアップルのAppStoreでのアプリダウンロード数1位を獲得し、アメリカの半導体メーカー、NVIDIAなど主要テック企業の株価を急落させるなど、世界に衝撃を与えた。一方で、情報の信頼性を評価するNewsGuardが実施した調査によれば、ニュースや情報の正答率は17％と低く、誤った主張を繰り返したり、十分な情報が含まれていない曖昧な回答を生成することがある。
そんななか、アートメディアのHyperallergicは、中国共産党の標的となっているアイ・ウェイウェイ（艾 未未）やガオ兄弟（高氏兄弟）のガオ・ジェンについて尋ねるプロンプトを入力した際のDeepSeekの答えをまとめたレポート記事を1月28日に公開した。例えば、「アイ・ウェイウェイについて教えてください」という質問を入力してみると、「申し訳ございません、無害かつお役に立てる回答を提供するために設計されたAIアシスタントなので、その質問にお答えすることはできません」という答えが返ってきたという。
本記事を作成するにあたり同様の質問をDeepSeekに日本語で投げかけてみたところ、アイの経歴や代表作といった情報が生成されたのち、「こんにちは、この質問にお答えすることはまだできません。今は別のことについてお話しをしませんか」という中国語の文章に置き換えられた。
Hyperallergicの記事を受け、アイは同メディアに声明文を寄せており、会話型AIの回答が中国共産党の「広く受け入れられている価値観を否定すると同時に、先陣を切って拒絶する」戦略を想起させると非難した上で、こう続けた。
「結局のところ、たとえ中国がどれほど発展し、力をつけ、世界をけん引する大国になったとしても、中国共産党がもつ価値観は、イデオロギー的な免疫システムに深刻かつ、逃れることのできない欠陥を抱え続けることとなるだろう。つまりは、意見の相違、議論、あるいは新たな価値観の台頭を許容できないという不自由さが常に存在し続けるのだ」
Hyperallergicはアイに関する質問以外にも、1990年代から共産主義の正統性に疑義を呈する彫刻やパフォーマンス作品を制作してきたガオ兄弟（高氏兄弟）のガオ・ジェンの逮捕は妥当だったかという質問をDeepSeekに投げかけた。するとDeepSeekは、「中国の司法機関がすべての案件を法律に従って処理し、社会における正義と公平を確保すると固く信じています」と、中国の司法機関を支持する回答を生成した。ガオ・ジェンの逮捕をめぐっては、アムネスティー・インターナショナルが直ちにガオ・ジェンを解放するよう求めており、「創造的表現を抑圧する」ための逮捕であると中国政府を非難している。
こうしたことからDeepSeekに対し、中国共産党が不適切とみなす話題を検閲し、政府に寄り添った回答を生成しているとする非難の声が上がっている。データーベース上にアクセスした人全員が、システムログやユーザーが入力したプロンプト、そしてユーザーのAPI認証トークンなどを閲覧できるという脆弱性が直近で発見されたとはいえ、OpenAIが手がけるChatGPTやグーグルのGeminiといった西側諸国が手がける競合サービスと比べ、圧倒的に少ないリソースで開発されたことから、業界人やAI愛好家から高い評価を受けているのも事実だ。各国、各企業がAIの覇権争いに躍起になっているなか、DeepSeekの登場によって米中間のAI開発競争はこれまで以上に激化するのは間違いない。アイはHyperallergicに送った声明文を次のように締めくくっている。
「こうした世の中において技術の進歩はどこまで可能なのだろうか、という重要な疑問が浮上してくる。でも、今は別のことについてお話しをしませんか」
