• CULTURE
  • NEWS
  • 2022.12.08

データ泥棒にご用心! 大人気のアバター作成AIアプリの落とし穴

写真編集アプリ「Lensa(レンサ)」の新機能が爆発的人気を集めている。AIによる画像生成が利用できるというもので、ソーシャルメディアには自撮り写真をもとにLensa AIが生成したアバターを投稿する人が続出中だ。しかし、そこには落とし穴もある。

ユーザーの自撮り写真をもとに写真編集アプリ「Lensa」のAIが生成した画像。Photo: Courtesy Maya Kotomori

写真編集アプリ、Lensaのアプリ内課金で3.99ドル(約546円)を支払うと使える「魔法のアバター」機能は、ユーザーが10~20枚の自撮り写真をアップロードすると、さまざまなスタイルでAIが生成した画像を50枚受け取れるというもの。

ただ、購入ボタンを押す前に注意しなければいけないことがある。プライバシーポリシーと利用規約を読むと、画像生成のための素材となる自撮り写真、つまりユーザーの「顔データ」は、アプリ開発元のプリズマ・ラボ(Prisma Labs)によってAIの人工ニューラルネットワーク(*1)の学習に使われる可能性があると書かれているのだ。


*1 人間の脳内にある神経回路網を模した数式的なモデル。

Lensa AIや、テキストから画像を生成する人気のAIツール「Dall-E(ダリ)2」で使われている人工ニューラルネットワークは、膨大な量のデータを学習して精度を高めていく。入力された簡単な文章をもとに、驚くほど高精度の画像を生成するDall-E 2は、単語とそれが喚起する視覚的特徴の関連性を、何億枚もの画像をもとに学習してきた。同様に、Lensa AIのニューラルネットワークも、より正確に顔を描写する方法を継続的に学習している。

顔データには、位置、向き、パーツ同士の位置関係などが含まれるが、こうしたデータの取得には、アップル社のTrueDepth(トゥルーデプス)APIを用いている。これはiPhoneのロックを解除する顔認証に使われているのと同じ技術だ。ユーザーから取得した顔データはLensa AIのニューラルネットワークの学習に使われるが、第3者に販売されることはないという。

最近この機能を利用した元モデルでライターのマヤ・コトモリは、こうした画像生成AIとどう付き合うべきか、態度を決めかねている。イラストレーターや画家などのクリエーターの間では、Dall-E 2のような画像生成ツールには賛否両論がある。AIに仕事を奪われたり、単価が下がったりして収入が減少しかねないことに加え、ニューラルネットワークを学習させるためのデータとして、自分の作品を無断で使われる可能性があるからだ。

多くの場合、ユーザーが利用する画像生成AIでは、元の絵画やイラストの作者の同意を得ることなく、また報酬を支払うことなく、ネット上にある画像が素材として使われている。

また、自分の顔のデータを差し出すことで社会や個人にどんな影響があるのかという問題もある。

コトモリは、自撮り写真をもとにLensa AIが作ったアバターを2セット購入した。彼女は肌のトーンが明るい黒人だが、最初に買ったセットは白人女性のような仕上がりになってしまった。これが気に入らず、再び写真をアップロードして2度目の支払いを済ませると、もう少し満足のいく画像を受け取ることができたという。

コトモリはUS版『ARTnews』の取材にこう答えている。

「明るめの肌を持つ黒人の私の写真から、AIはさまざまなことを学習したと思います。2回目に送られてきた画像は、最初のものより私らしかったので。ただ、その後すぐ、ちょっと軽率だったと後悔の気持ちが湧いてきました。もしかしたら、私は人種の識別に関する微妙なニュアンスをAIに教えてしまったのかもしれない。長い目で見て、これが社会に与える影響が果たして良いものなのか悪いものなのか、見当もつきません」(翻訳:野澤朋代)

from ARTnews

*あわせて読みたい:高性能AI画像生成サービス、「DALL・E(ダリ) 2」がいよいよ一般公開開始

  • ARTnews
  • CULTURE
  • データ泥棒にご用心! 大人気のアバター作成AIアプリの落とし穴