ブログ

Aug 19, 2023

AI 画像を見つけるのはますます困難になっています。 Googleは解決策があると考えている。

テクノロジー企業が AI 製品の改良を競う中、人工知能によって生成された画像を本物の画像と区別するのが難しくなってきています。 2024 年の大統領選挙運動が本格化するにつれ、懸念されるのは

テクノロジー企業が AI 製品の改良を競う中、人工知能によって生成された画像を本物の画像と区別するのが難しくなってきています。 2024年の大統領選が本格化するにつれ、こうした画像が虚偽の情報を広めるために利用されるのではないかとの懸念が急速に高まっている。

火曜日、Google は、ソリューションの一部となる可能性があるとされる、SynthID と呼ばれる新しいツールを発表しました。 このツールは、人間の目では見ることができませんが、画像を読み取るように訓練されたコンピューターによって認識できるデジタル「透かし」を画像に直接埋め込みます。 Googleは、同社の新しい透かし技術は改ざんに強く、偽画像の拡散を取り締まり、偽情報の拡散を遅らせるための重要な一歩となると述べた。

AI 画像ジェネレーターは数年前から利用可能になっており、本物を装った偽の画像である「ディープフェイク」の作成に使用されることが増えています。 3月にはドナルド・トランプ元大統領が警察から逃走する偽AI画像がネット上で拡散し、5月には国防総省で爆発が起きた様子を映した偽画像が株式市場の一時的な暴落を引き起こした。 企業は AI 画像に目に見えるロゴを配置したり、画像の出所を示すテキスト「メタデータ」を添付したりしていますが、どちらの技術も比較的簡単に切り取ったり編集したりできます。

企業にAI画像に透かしを入れることを義務付ける法案を推進してきたイベット・D・クラーク下院議員（ニューヨーク州）は、「明らかに魔神はすでに瓶から出ている」とインタビューで語った。 「武器化という点で最大限に活用されているのを私たちは見たことがありません。」

現時点では、Google ツールはクラウド コンピューティング ビジネスの一部の有料顧客のみが利用できます。また、Google の画像生成ツール Imagen で作成された画像でのみ機能します。 同社は、これはまだ実験段階であるため、顧客に使用を要求していないとしている。

同社のAI研究所であるGoogle DeepMindの研究担当バイスプレジデントであるプッシュミート・コーリ氏は、最終的な目標は、埋め込まれた透かしを使用してAIで作成された画像のほとんどを簡単に識別できるシステムの構築を支援することだと述べ、新しいツールは完全に万能ではないと警告した絶対確実。 「問題は、そこに到達するための技術があるかどうかです。」

AI が画像やビデオの作成能力を向上させるにつれて、政治家、研究者、ジャーナリストは、オンライン上での真実と虚偽の境界線がさらに侵食され、既存の政治的分断が深まり、事実情報の拡散が困難になる可能性があると懸念しています。 ソーシャルメディア企業がプラットフォーム上の偽情報の取り締まりから手を引く中、ディープフェイク技術の進歩が進んでいる。

ウォーターマーキングは、テクノロジー企業が数百万人に急速に普及させている「生成型」AI テクノロジーの悪影響を軽減する可能性のある方法として、テクノロジー企業が結集しているアイデアの 1 つです。 7月、ホワイトハウスはGoogleやChatGPTメーカーのOpenAIなど、最も強力なAI企業7社のリーダーとの会合を主催した。 各社は、AIが生成したテキスト、ビデオ、画像に透かしを入れて検出するツールを開発すると約束した。

マイクロソフトは、AI画像に透かしを入れるための共通標準を開発するためにテクノロジー企業とメディア企業の連合を発足させ、AI画像を追跡する新しい方法を研究していると述べた。 同社はまた、AI ツールによって生成された画像の隅に小さな目に見える透かしを配置し​​ます。 昨年 AI への関心の波を起こすのに貢献した Dall-E 画像ジェネレーターを提供する OpenAI も、目に見えるウォーターマークを追加しています。 AI研究者らは、人間の目には見えないがコンピューターによって識別できる電子透かしを埋め込む方法を提案している。

グーグル幹部のコーリ氏は、グーグルの新しいツールは画像が大幅に変更された後でも機能するため優れていると述べ、画像を変更したり反転したりすることで簡単に阻止できた従来の方法に比べて重要な改善となった。

「透かしを埋め込む技術は他にもありますが、私たちはそれらがそれほど信頼できるとは考えていません」と彼は言いました。