陰謀論と生成AIの時代──情報の真正性を見極める方法を美術史家の視点から考察
日進月歩で進化するAI技術は、さまざまな産業分野で業務の効率化や問題解決に革新を起こしている。その一方、悪意のあるフェイクに用いられるなど、負の側面があるのも事実。US版ARTnewsでは、最新デジタル特集号「AIとアートの世界」のために、偽画像の氾濫が社会にもたらす本質的な問題について美術史の専門家に考察してもらった。
画像加工の炎上事例に見る真贋判定の手法とその限界
今の世の中で最も差し迫った問題の1つは、フェイク画像や加工画像が社会に与える脅威だろう。それは昨今のニュースの見出しからも明らかだ。画像生成AIが普及し、フォトショップなどの画像編集ソフトがますます使いやすくなった現在、コンピュータとインターネットを利用できる人なら、フェイク画像を作ることは不可能でなくなった。ここから生まれる潜在的なリスクは、美術品の偽造から経歴詐称、別人への成りすまし、政治的な意図を持つ偽情報拡散に至るまで多岐にわたる。だから、人を惑わす画像の危険性が膨らみ続ける時代に生きている私たち1人ひとりが、本物と偽物を見分ける術を身につけなければならない。
だが、本当にそうだろうか？
最近メディアが大々的に取り上げた事例は、フェイク画像の問題について多くの示唆を与えてくれた。それは、イギリスの皇太子妃が写っている写真が、王室をめぐる陰謀論者たちに格好の材料を提供した一件だ。
経緯はこうだ。ケンジントン宮殿はイギリスの母の日に合わせ、3人の子どもたちに囲まれたキャサリン妃の写真を公開。これは1月に皇太子妃が手術を受けて以来、初めて公開されたものだった。しかし、AP通信などの大手通信社は、写真の信憑性が疑われる点があることを理由に、まもなく画像の配信を停止した。これがさまざまな憶測を呼び、キャサリン妃は写真に加工をしたことを認めて謝罪。さらに、がんと診断されていたことを公表した。
こうした事実が明らかになる前、ジャーナリストたちはキャサリン妃の写真を詳細に検証し、画像が加工、あるいは捏造されたことを示す特徴を洗い出した。微に入り細に入り写真を検証する彼らの仕事は、美術史家である私が絵画を検分する作業と似ている。それは、デジタル画像の時代における鑑定眼と言っていいかもしれない。そして、そこから導き出された判断の手がかりは次のようなものだった。
● 衣服や床などの模様のずれ
● 不自然なほど滑らかな肌
● 異様に細長い手
● 不自然な体勢
● 空間的なゆがみ、平面の不整合
● 反射や影の位置が合っていない
● 背景が全体的にぼやけている
● 物体が途切れている（たとえば、1本の杖が脚の前に表示されたり後ろに表示されたりするなど）
● 文字化けがある
AP通信は、画像にこうした不審点がないかを調べる専門チームを立ち上げたが、公開されるニュース画像の真正性の審査は、全ての報道機関が標準的な業務として行うべきだろう。当然そのような審査に対する信頼は、それを行う報道機関が国家や企業、政治の影響を受けず、民主主義を守る強い使命感を持っていて初めて成立する。それに、上記のリストは今のところは役に立つかもしれないが、AI対策という点ではその場しのぎでしかない。なぜなら、次に挙げる3つのより大きな問題を考慮していないからだ。
1つ目の問題は、すべての画像はその出所が確かである場合に限って「価値を伝える文化財」として精査に値するということだ。「1924年の出来事の写真」が、2024年にデジタル技術を用いて捏造されたものである場合、その内容を吟味しても意味がない。2つ目の問題は、画像の真正性の評価が、訓練を受けていない市民ボランティアに委ねられている点。そして3つ目は、そう遠くないうちに上記のリストは時代遅れになってしまうだろうという点だ。
画像編集ソフトも、生成AIも、常に進化し続けている。最新技術に追いつこうとどれだけ努力しても、所詮は後追いに過ぎない。そうこうしているうちに新たな偽画像が出回り、社会に影響を与えるだろう。また、そうした問題以前にいまだ対処が遅れているのが、白人の顔を主としたデータセットで訓練された生成AIに内在する大きなバイアスだ。
誰もがフェイク画像を作れる時代の「信頼性の危機」
キャサリン妃の事件が重要な意味を持つのは、写真が加工されていたからではない。そもそも有名人の肖像は大昔から修正されるのが常で、皇帝の姿を理想化した彫刻からカーダシアン家が投稿してきたヘタクソな加工写真まで、その例は枚挙にいとまがない。また、キャサリン妃の事情を考えれば、あのような形で秘密を守ろうとしたのは理解できると同情することもできる。
しかし、この事件はそうしたこととは別の次元で、社会の大きな変化を示唆している。誰もがAIで簡単に画像を生成できるようになった今、私たちはこれまでにないほどの不信感をあらゆる画像に対して持つようになった。そして、人を欺く画像そのものよりもはるかに危険なのが、現在私たちが直面している「信頼性の危機」だ。それと並行するように、「信頼できる情報源」について人々の間にあったコンセンサスも揺らいでいる。このコンセンサスこそが、建設的なコミュニケーションと誠意ある議論の基礎となるのだが、インターネット上に溢れる偽情報が、人々が議論するための基礎を蝕む深刻なシニシズムを生んでいる。
もちろん、健全な懐疑は必要だし、現代において無邪気に情報を鵜呑みにしてしまうのは危険だ。それに、画像が人を欺くのは、それが生成されたり加工されたりした場合だけではない。キャプションに偽の情報を記したり、意図的に情報を省略したり切り取ったりすることでも人を騙すことはできる。
問題は懐疑主義や、誰もが簡単にフェイク画像を作成し、流布できることだけではない。誰もがあらゆることを疑う根拠ができてしまったことが最大の問題なのだ。言い換えれば、誰もが自分が信じたい画像を信じ、信じたくない画像を信じない自由を手にしてしまった。自分の先入観と合わないというだけで画像を無視することもできるし、フェイク画像だという確証がなくても、その可能性があるだけでそれを疑っていいことにもなる。
こうした状況においては、全ての人が世の中に流通する1つひとつの画像の信憑性を見定めようとするようになる。そして、その反作用として反ワクチン運動や大統領選挙の不正疑惑を生んだ陰謀論がますます勢いを増す。そんな世の中にあっては、疑心暗鬼がみんなのデフォルトの態度になるだけではない。誰もが自由に使えるアルゴリズムツール（つまりグーグル）があればアルゴリズムを逆行分析できるので、真実を知るにはそれさえあれば事足りる、という考えが蔓延するようにもなる。
社会を蝕む疑心暗鬼を和らげる解決策はあるか？
この問題を解決するため、美術史にできることがあるとすれば何だろう？ 目を皿のようにして不審点を見つけることは根本的な解決にならない。どのみち、いたちごっこでしかないからだ。これは画像の文化的価値の問題だ。であるとすれば、美術史はそれを検証する作業を助け、もしかすると解決策すら提示できるかもしれない。30年以上前、美術史家のジョナサン・クレーリーは、その著書『観察者の系譜：視覚空間の変容とモダニティ』の冒頭で、次のように書いている。
「この10年あまりの間に、膨大な種類のコンピューター・グラフィックス技術が急速に発展した。これを含む大きな変化によって、観察する主体とさまざまな表現形式との関係性が一挙に再構成された」
このままでは、この「再構成」の結果として社会に深い不信感が広まり、私たちをニヒリズムと麻痺状態に陥れるだろう。フェイク画像そのものより、これこそが本当の危機だと言える。そして、市民生活の基礎を支えている公共組織やジャーナリズムの力を揺るがそうとする者たちの最終目的は、そうした状況を作ることなのだ。
フォトショップで加工された画像やAIによる生成画像を見分けるため、上に挙げたリストが役に立つのであれば、ネット上のあらゆる画像にこれを適用してほしい。だが、画像の細部に目をこらすよりも前に、その出所を確認するほうがより良い解決策だと私は思う。目利きであることよりも来歴を知ることを重視すべきだ。
美術史家は画像を注意深く観察し、矛盾する点がないかを探す。しかし、絵画の真贋を判断したり、作者を特定したりする際には、筆跡や顔料を見るだけでは十分ではない。その絵がどのような人の手を経てきたか、どのような歴史をたどってきたかを示すさまざまな情報も考慮する。
今の社会では、デジタル画像に関する同様のプロセスが必要とされている。これを「デジタル・フォレンジック（Digital Forensic）」（*1）と呼ぶが、この役割を担うべきは一般の人々ではない。個々の人間が完璧に中立であることは不可能で、あらゆる分野について専門知識を持っているわけでもないからだ。たとえば私は、車で橋の上を通る前に橋の安全性を証明することはできないし、レタスに大腸菌がついているかどうかを判断することもできない。だから、それを判断できる専門家や組織の評価を信じる。情報に関しても同様だ。ニュース画像に対し、ジャーナリストは上で説明したようなチェックを行う責任がある。そして、私たちはそれを信じるしかない。
*1 主にコンピュータ犯罪に関し、PCやスマートフォンなどのデジタルデバイスに保存されている情報の解析により事実解明を行うための技術。
社会を蝕む疑心暗鬼を和らげるための一つの方法は、世に出回る画像の真正性を見極められる専門家を抱えている報道機関や画像アーカイブを支持することだろう。前述したように、AP通信はこれが可能であることを証明した。
それは現実的でないと思うだろうか？ では聞きたい。ジャーナリズムへの信頼を強化することと、ニュースを見る全ての人がデジタル・フォレンジックの専門家になることと、どちらが現実的だろうか。（翻訳：野澤朋代）
from ARTnews
