より安全な広告エコシステムを形成するコンテンツポリシーガイドラインの開発

DoubleVerify (DV) のプロダクトポリシー担当ディレクターであるStephanie Posnerは、ケンブリッジ大学で古代言語学を専攻していたため、キャリアの早い段階から言語の力に対する強い理解を得ることができました。

NetflixのGlobal Risk and Intelligenceチームで、Stephanieは、さまざまな地域や文化に幅広いコンテンツをリリースすることの意味を深く掘り下げました。TikTokでは、ソーシャルメディア上の膨大かつ急速なクリエイティブコンテンツの流れがもたらす課題に触れながら、ユーザー生成コンテンツの収益化に関するプラットフォームのポリシー作成に携わりました。

今回の「専門家に聞く」シリーズでは、Stephanieが研究開発チームと密接に連携し、分類のためのコンテンツポリシーガイドラインを開発する方法を説明します。DVのすべての取り組みと同様に、より強く、より安全で、よりセキュアな広告エコシステムを提供することで、クライアントを保護することが目標です。

この分野で仕事をするようになったきっかけは？

私はもともとメディアに対する情熱と、テクノロジーに対する知的な関心を持っていました。私のキャリアは、外交アドバイザーとしてスタートしました。高度な国際感覚を身につけたおかげで、オンライン・コミュニケーションが社会に与える影響にすぐに魅了されるようになりました。ハーバード大学とイェール大学では、グローバルアフェアーズ修士号とMBAの一環として、このテーマを学術的な観点から掘り下げました。その後、NetflixやTikTokなどの革新的なテクノロジー企業で、テクノロジーが世界にポジティブなインパクトを与えることを目指すチームに参加する機会に恵まれました。

8ヶ月前にDVのプロダクトチームに参加したのは、私たちのミッションに興奮したからです。ブランドには力があり、オンライン上のどこに広告を掲載するかで、オンライン環境の健全性に違いが生まれます。DVのプロダクトは、ブランドが自分たちの価値観に忠実に広告を掲載できるよう、その方法を提供します。

あなたの役割には、素晴らしい専門知識が必要です。あなたの仕事をわかりやすく説明すると？

私たちのチームは、機械学習モデルをトレーニングするための原則的なルールを作っています。ヘイトスピーチや誤報、有名人のゴシップ、スポーツなど、ありとあらゆるコンテンツのトピックを対象に、細かくルールを定義しています。テキストのみのシンプルなウェブサイトから、テキスト、画像、動画、音声、そしてこれらの組み合わせからなる複雑なページやソーシャルメディアの投稿まで、すべてを分類するための一貫したガイドラインが存在することを、ポリシーチームは確認します。

プロダクトポリシーに携わるには、データサイエンティスト、言語学者、エンジニアと協働するための技術的な理解と、法律、哲学、歴史、時事問題などの人文科学の素養（さまざまな問題がクライアントや消費者にどのように影響を与えるかを理解するため）の両方が必要です。これらの世界にまたがることができることが重要なのです。

機械学習モデルの開発で一番好きなことは何ですか？

最も好きなことは、チャレンジすることです。DVは、コンテンツ分類の分野で製品開発の限界に挑戦しています。機械学習は、人類の歴史の中で、まだ始まったばかりの分野です。高性能なモデルを開発するためには、非常にきめ細かいポリシーが必要です。また、コンテンツにラベル付けをするチームにとって理解しやすく、かつ複数の機械モデルを組み合わせて実装できるようなものでなければなりません。

さらに、私たちが行うことは、違いを生み出します。私はブランドやパートナーと一緒に仕事をするのが好きですし、多くの人がポジティブなインパクトを与えようとしている空間で働くのが好きです。

どんな分野にも課題はあります。あなたの分野での最大の課題は何ですか？DVの役割として、これらの課題に真っ向から取り組むために、どのように取り組んでいますか？

この分野では多くの人が、原則的なポリシー決定を志向しながらも、その決定が結局は製品目標と矛盾してしまうという課題に直面しています。DVでは、私たちの製品目標は、原則的なポリシー決定を行うこととユニークに整合しています。DVのゴールは、クライアントが広告費について意識的な意思決定を行えるようにすることです。

この分野で私たちが直面する課題のひとつは、より多くの声を届けることです。私自身、このことを最優先に考え、DVのチームにもこのことを奨励します。ネット上の問題は複雑化しており、できるだけ多くの問題、地域、経験をカバーする多様な専門家集団を持つことが必要です。また、私のチームは、コンテンツポリシーに関する問題について、専門家、学者、市民社会組織と意欲的と取り組んでいます。

DVの仕事の中で、最も誇りに思うことは何ですか？

私たちのチームは、今日の社会にとって最も重要な問題に取り組んでおり、ブランドに対してオンラインで変化をもたらす力を与えています。偽情報やヘイトスピーチなどの問題に取り組むことが重要であることは多くの人が認めるところですが、これらの問題を大規模に解決することがいかに困難であるかは理解されていません。DVでは、90以上のカテゴリーの中から、偽情報やヘイトスピーチなど、ブランドが問題視するコンテンツを回避（マネタイズも回避）できるようにするために、チャレンジングな取り組みを行っています。私たちのアプローチでは、特定のキーワードだけに依存するのではなく、コンテンツの全体的な性質を考慮した高度な分類ツールを提供することで、ブランドは規模を維持しながらレピュテーションを保護することができます。

コンテンツの分類において、最もエキサイティングな開発は何だと思いますか？また、今後どのようなことが期待されますか?

機械モデルがより洗練されるにつれて、非常に明確なコンテンツの分類を人間が監督する必要性は、ますます少なくなっていくでしょう。しかし、ニュアンスの異なる問題に人間の作業を集中させることは、ますます必要になるでしょう。

メタバースは、ユーザーの安全性、ブランドセーフティとスータビリティ（適合性）にとってまったく未知の世界であるため、コンテンツ分類の世界でもエキサイティングな展開となるでしょう。

プロダクトポリシーや機械学習技術についてもっと知りたい人にお勧めのリソースはありますか？

プロダクトポリシーやコンテンツポリシーの分野では、オンラインのエコシステムの最新動向を把握し、そのオンラインコンテンツと「現実世界」の相互作用を理解することが非常に重要です。そのため、私はニュースレターの大ファンです。オックスフォード・インターネット研究所の『DemTech Newletter』や、ハーバード大学のバークマン・クライン・センターの『The Berkman Klein Center for Internet & Society』など、世界各地のストーリーをカバーするお気に入りのニュースレターがあります。

コンテンツ分類の専門家による他の記事をご覧になりたい方は、機械学習技術に関するAnna Zapesochiniのブログ「専門家に聞く」と分類オペレーションに関するCJ Morelloのブログをご覧ください。