AI生成画像の元ネタは特定できない？ MITの研究が示す、生成AIと著作権の新たな論点
生成AIによる画像は、学習に使われたどの作品から影響を受けているのか。マサチューセッツ工科大学の研究チームが個々の学習データと生成結果の関係を調べる新たな研究結果を発表した。
マサチューセッツ工科大学コンピュータ科学・人工知能研究所（MIT CSAIL）の研究チームによれば、生成AIモデルの学習データが増えるほど、生成画像にどの学習データが影響したのかを特定することは難しくなるという。研究チームはこの現象を「帰属の減衰（attribution decay）」と呼んでいる。学術誌『Nature Communications』に掲載された論文の筆頭著者で、元MIT CSAIL研究員のジェン・ダイは、次のように説明する。
「ある学習データを取り除いてもモデルの生成結果が変わらないのであれば、そのデータは出力に影響を与えていなかったと考えられます。そうであれば、その画像を特定の学習データに結びつける意味はありません。同じ検証をすべてのデータについて一つずつ行い、どれを除いても結果が変わらないと確認できれば、完成した画像を特定のデータに帰属させることは意味をなさないと言えます」
研究チームは、一般公開されている画像コレクションから、256枚から16万枚超まで規模の異なるデータセットを用意し、24のアンサンブル（*1）を訓練した。特定の画像を1枚取り除くたびにモデルを再学習し、生成結果が実際にどう変わるかを確認したという。従来の研究では、個々の元画像が生成結果に与える影響を近似的に推定する手法が用いられていた。研究チームが構築した「拡散アンサンブル」と呼ばれる仕組みは、それぞれ異なるデータのサブセットで学習した複数のモデルから構成されている。
*1 機械学習において、複数のモデルを組み合わせてより精度の高い予測や生成を行う手法のこと。
「従来の手法はいずれも近似に基づくもので、個々のデータを削除しても出力が変わらないことを厳密に証明することはできませんでした。今回の手法では、対象となる入力データを実際に取り除き、そのデータの影響を排除した状態でモデルを再学習します。大規模なデータセットでもこうした削除を効率的に行い、生成結果が変化するかどうかを直接検証できる点が、この研究の特徴です」
プレスリリースによると、研究チームは開発したアンサンブルと、同じデータで学習させた24の従来型の拡散モデルを比較した。その結果、生成画像の質は「標準的な評価基準に照らしてほぼ遜色がなかった」という。
ギフォードは、この研究結果が、生成モデルの出力を既存作品の二次的著作物とみなすべきかという法的論点にも影響し、生成AIと著作権をめぐる議論に新たな材料をもたらすと考えている。彼はプレスリリースのなかで、こう指摘する。
「ひとつの見方として、こうしたAIには創造性があると考えることもできます。与えられたデータをそのままコピーするのではなく、そこから新しいものを生み出しているからです。もし生成結果を、学習データに含まれるどの個別の作品とも結びつけられないとすれば、いくつもの法的な論点が浮かび上がります。たとえば、フェアユースをどう考えるべきなのか。生成結果そのものが新たな著作物として保護される可能性はあるのか。そして、生成物を特定の既存作品に帰属させられない場合、学習データとなった作品の作者にはどのような形で対価を還元すべきなのか、といった問題です」（翻訳：編集部）
from ARTnews
