AIを活用した偽（フェイク）アプリレビューがもたらす隠された脅威

ChatGPTやAnthropicのような生成AIツールは、コンテンツ制作に革命をもたらし、かつてないほど身近なものになりました。こうした民主化には多くのメリットがある一方で、特に広告やマーケティング領域では大きな課題も生じています。

アプリ内におけるモバイルアドフラウド（広告詐欺）の急増

2023年、DV Fraud Lab（フラウドラボ）のモバイルアプリ詐欺に関する調査件数は倍増し、今後も増加が見込まれます。私たちが発見した問題のある傾向の1つは、生成AIによる偽アプリレビューの拡散であり、多くの場合、消費者を騙して潜在的に有害なアプリをダウンロードさせるために使用されています。

詐欺のメカニズム

偽レビューはしばしば、アプリの信頼性を意図的に高めることで、ユーザーにアプリをインストールさせようと意図するものです。例えば、私たちは何千もの5つ星評価を持つアプリを特定しましたが、その多くはAIによって巧妙に作成されたものです。偽レビューには一見しただけだと気づきにくいものがあったり、その一方で、「I’m sorry, but as an AI language model…」（申し訳ありませんが、AI言語モデルとして…）といった生成AIツール特有の言い回しによって、より簡単に見分けることができるものもあります。

偽レビューで高評価のアプリの例：

コネクテッドTV(CTV)アプリでも同様のパターンが確認されており、レビューで重複する言い回しは、計画的な詐欺行為を示唆しています。

CTVアプリのレビューにおける品質操作のイメージ：

このようなアプリをダウンロードしたユーザーは、多くの場合、広告を表示するためだけに作られたウェブサイトのように、圧倒的な量の文脈のない広告で溢れかえっていることに気づきます。このアプローチはユーザーエクスペリエンスを妨げ、不満を募らせたユーザーが最終的にこのような偽装アプリをアンインストールするため、アプリの長期的な利用価値を低下させてしまいます。また、ユーザーがアプリをアンインストールした後でも、アプリは不正スキームでトラフィックを表示し続けます。

このアプリは、先に「非常に簡単、扱いやすい」と特徴づけられたが、サイクロンボットのトラフィックが高いレベルを示していました。これは、不正アプリが偽のCTVトラフィックを隠れ蓑として機能していることを例証しています。さらに、偽レビューは不正トラフィックをより合法的に見せる効果があります。

広告過多問題を浮き彫りにするリアルなユーザーフィードバック：

ストリーミングアプリの事例： 50％以上の偽レビュー

AIが生成するアプリレビューは、モバイルからストリーミングサービスまで、あらゆるタイプのアプリストアで発生しています。例えば、人気のスマートTVプラットフォーム上のストリーミングアプリをDVが分析したところ、そのレビューの50％が偽物であることが判明しました。この結論は、何らかの操作の兆候を特定するために、独自のテクノロジーと専門家による分析を組み合わせて得られたものです。

偽レビューの主な指標は以下の通り：

• 異なるユーザーによると思われるものにも、統一された構文やスタイルの使用
• 各単語の最初の文字を大文字にするなど、通常とは異なる書式設定（2024年2月26日発見）
• 「まだまだ」のような批判的なコメントが含まれているにもかかわらず、評価は常に5つ星
• 必須ではないにもかかわらず、すべての評価にレビュー文書が添付されている
• レビュアーは、特定のエコシステム内でのみ活動をしている

迷惑行為の先にあるもの：より大きな危険

偽アプリレビューの危険性は、単なる迷惑行為に留まりません。不正アプリの中には、デバイスを乗っ取り、デバイスの電源が切れているように見えても、絶え間なく広告を表示させ続けるものもあります。これは、バッテリーの消耗、デバイスの過熱、過剰なデータ使用といった深刻な問題を引き起こし、ユーザーに多大なコストを負担させる可能性があります。このようなアプリは削除するのが難しい場合があり、中にはデバイスの誤動作や予期せぬシャットダウンを引き起こすものも存在します。

広告への広範な影響

こうした行為は、広告のエコシステムに多大な影響を与えています。ユーザーが過剰な広告による不快な体験に悩まされるか、バックグラウンドで目に見えない広告が表示されようとも、広告の品質と効果は低下してしまいます。評価の高いアプリに広告を掲載しようとする広告主は、こうした不正行為の犠牲にならずにこの状況を乗り切ることがますます難しくなっており、不正な環境を回避するために、より厳格な基準と警戒が必要となっています。

2024年、DVのFraud Lab（フラウドラボ）は、AIを駆使した偽レビューを持つアプリ数が大幅に増加し、2023年の同時期と比較して3倍以上の数を特定しました。この傾向は特に1,000インプレッションあたりのコストが35ドルから65ドルの範囲であることが多い、ストリーミング広告において、広告主に大きな影響を与える可能性があります。

さらに、DVの調査によると、ボットを利用したアプリ詐欺は保護されていない広告主に毎年数百万ドル（日本円で数億円）の損害を与えています。これらの詐欺グループはAIを利用して偽レビューを生成することで、彼らの詐欺行為をさらに助長しています。

アプリ詐欺から保護する

生成AIが業界を大きく変え続ける中、そのイノベーション（革新）と搾取の二重の可能性が広告分野で顕在化してきています。ステークホルダーは、アプリストアにおけるAI生成コンテンツの悪影響に対抗するために高度な対策を講じる必要があります。これには、より高度な検証プロセスの開発と、詐欺グループの巧妙な手口に対する絶え間ない最新の注意が含まれます。継続的なイノベーション（革新）と厳格な監視を徹底することで、コンテンツ制作におけるAIの利点がその悪用の可能性を上回ることを保証できます。