継続的なセキュリティ対策をするために脅威分析をしました

<html><head></head><body><p>プレイドのエンジニア兼ハンター <a href="https://github.com/algas" target="_blank" rel="noreferrer">@algas</a> です。<br>
この記事では Privacy Sandbox の中でも Web 広告に関連する Edge Computing の技術を紹介します。<br>
Ad Selection (広告の選択) の技術である <a href="https://github.com/michaelkleber/turtledove" target="_blank" rel="noreferrer">TURTLEDOVE</a> と <a href="https://github.com/jkarlin/floc" target="_blank" rel="noreferrer">FLoC</a> が <a href="https://www.chromium.org/Home/chromium-privacy/privacy-sandbox" target="_blank" rel="noreferrer">Privacy Sandbox</a> で提案されています。<br>
この2つは個人を特定するデータをブラウザから送信せずに興味の似ているユーザの大規模なグループに広告を配信する技術です。<br>
TURTLEDOVE はブラウザで広告オークションを行う仕組みで、FLoC はブラウザで広告の興味モデルを学習させるグルーピングの仕組みです。<br>
どちらの技術もブラウザから個人を特定するデータを送らないという目的があります。</p>
<h2 id="ブラウザから個人を特定するデータを送信したくない3つの理由">ブラウザから個人を特定するデータを送信したくない3つの理由</h2>
<p>なぜブラウザから個人を特定するデータを送信しない仕組みが必要なのでしょうか？<br>
これには大きく3つの理由があります。</p>
<ol>
<li>
<p>プライバシーの保護<br>
ここ数年で GDPR のように企業が必要以上に個人を特定するデータを集めないようにする世界的な流れがより強まっています。データの取り扱いを正しく行えない企業には厳しい罰則や社会的な批判が強まることは避けれません。不要なデータを企業が持たなければ問題も起こりません。</p>
</li>
<li>
<p>ユーザが自分のデータ利用を制御できない<br>
これまではユーザを同定するためなどにブラウザの Cookie を使っていましたが、最近では情報漏えいを防ぐために Cookie を使わない方針になってきています。Cookie の代替として fingerprinting などの技術が一部の Web サイトで使われています。しかし、これらの技術にはユーザが制御できないという問題があります。個人を特定するデータがブラウザの外に出なければ制御できない対象もなくなります。</p>
</li>
<li>
<p>個人端末やブラウザの性能向上<br>
多くの Web ユーザはスマートフォンのブラウザからサイトにアクセスします。スマートフォンやブラウザの性能は日々向上しているのでサーバで処理しなくてもブラウザ側でできることが増えてきました。ブラウザでデータを処理することができればサーバやネットワークの負荷を減らすことができます。</p>
</li>
</ol>
<h2 id="技術要素">技術要素</h2>
<h3 id="TURTLEDOVE">TURTLEDOVE</h3>
<p><a href="https://github.com/michaelkleber/turtledove" target="_blank" rel="noreferrer">https://github.com/michaelkleber/turtledove</a><br>
TURTLEDOVE は Privacy Sandbox が提案するブラウザでの広告オークションの仕組みです。</p>
<p>Web広告の表示に重要な以下の2つのデータがあります。</p>
<ol>
<li>
<p>興味データ<br>
ウェブサイトの訪問者が何に興味を持っているかのデータです。<br>
このデータに基づいてどんな種類の広告を出すか決定されます。</p>
</li>
<li>
<p>アドオークションの勝者<br>
アドオークションというWeb広告のオークションでどの広告を表示するかが決められます。<br>
アドオークションの勝者が広告を出すことができます。<br>
アドオークションの詳細は <a href="https://support.google.com/adsense/answer/160525?hl=ja" target="_blank" rel="noreferrer">広告オークションについて</a> を参照してください。</p>
</li>
</ol>
<p>これまではサイト運営や広告サーバがこの2つのデータを保持していました。</p>
<p>TURTLEDOVE の提案はこれらのデータをサーバではなくブラウザで処理してしまうように変更することです。<br>
ブラウザでデータを処理することによって訪問者のプライバシーを保護することにつながります。<br>
広告主は訪問者の興味に基づいて広告を出すが、他の情報との結びつけができなくなります。<br>
同様にウェブサイトや広告ネットワークは訪問者の興味について学習できません。</p>
<p>TURTLEDOVE は "Two Uncorrelated Requests, Then Locally-Executed Decision On Victory" の略語です。<br>
Two Uncorrelated Requests は「コンテンツ連動広告」と「広告主が特定した興味」の2つのデータを意味しています。<br>
前者は広告を表示するページのURLが含まれているデータ、後者は興味のデータのみで行動履歴と紐付けできないようになっています。<br>
Then Locally-Executed Decision On Victory は勝利した広告をアドネットワークがブラウザに表示することを意味しています。<br>
ただしこの判定はブラウザ内でローカルに実行されてブラウザの外に情報を送ることができません。</p>
<p>サーバからブラウザに広告データの扱いを移行することでプライバシーの保護以外にもメリットがあります。<br>
広告主が "interest group" をどう作って使っているかの透明性を確保できることやグループへの所属時間を制限できることです。<br>
ここで interest group は「広告主やアドネットワークがある種の広告に興味を持っていると信じている」人々の集合のことをいいます。</p>
<p>TURTLEDOVE の目的は主に以下の3つです。</p>
<ol>
<li>
<p>広告効果を改善したい<br>
サイト訪問者が興味を持つ広告を見続けられるようにします。<br>
嫌いな種類の広告を見なくていいようにします。</p>
</li>
<li>
<p>グルーピングの透明性を確保したい<br>
訪問者の興味を広告配信者がなぜ知っているのかに答えられるようにします。<br>
広告のターゲティングを止められるようにします。</p>
</li>
<li>
<p>プライバシーを保障したい<br>
広告主が訪問者の興味について学習できないようにします。<br>
ウェブサイトが interest group について学習できないようにします。</p>
</li>
</ol>
<p>広告が表示される流れは以下のとおりです。</p>
<ol>
<li>ブラウザが interest group に加入する<br>
ブラウザが特定の interest group に一定期間参加するAPIリクエストを広告主が実行します。オリジンはサイト所有者と同じウィンドウかiframeから呼び出されます。</li>
<li>2つの無相関リクエスト<br>
contextual リクエスト<br>
interest group リクエスト</li>
<li>オンデバイスオークション<br>
レスポンスには広告、メタデータ(広告の複数回利用の制限)、ローカル入札のためのオブジェクト、入札関数が含まれます。</li>
<li>オークションに勝った広告を表示する</li>
</ol>
<h3 id="FLoC">FLoC</h3>
<p><a href="https://github.com/jkarlin/floc" target="_blank" rel="noreferrer">https://github.com/jkarlin/floc</a><br>
Federated Learning of Cohorts (FLoC) は Privacy Sandbox が提案するブラウザによる興味ベース観測の仕組みです。<br>
企業が個人の閲覧履歴を観測するのに代わって、興味が似ている人々のグループ(cohort or flock)の動きを観測します。</p>
<p>典型的なWeb広告は3つのカテゴリを元に何を出すか決めています。</p>
<ol>
<li>
<p>ファーストパーティーとコンテンツ情報<br>
どのページに広告を出すか<br>
例：「バイクのWebページにこの広告を出そう」</p>
</li>
<li>
<p>広告を見ようとしている人の興味についての一般的な情報<br>
どういう人に広告を出すか<br>
例：「クラシック音楽好きのためのこの広告を見せよう」</p>
</li>
<li>
<p>閲覧者が取った直前の特定アクション<br>
何をした人に広告を出すか<br>
例：「カートに入れた靴のクーポンを出そう」</p>
</li>
</ol>
<p>人々の興味関心はWebの閲覧履歴を観測することで推測できます。もしサーバではなくブラウザで似たような興味関心を持つ人をグループ化できれば、特定の個人の閲覧履歴を集めることなく興味ベースの広告を出すことができるようになります。<br>
この仕組みを実現するのが FLoC です。<br>
FLoC は興味が似ている人々を集めて機械学習でラベルを生成します。このラベルを元にグループ化することで個人的すぎる情報を開示せずに大きなクラスタを形成することができます。<br>
広告配信側にはラベルしか伝わらないのでプライバシーを保護できます。</p>
<p>FLoC のキー(ラベル)をflockと呼びます。flock は短い文字列で表現され数千人で共有されます。個人の閲覧履歴はブラウザで切り離されます。ブラウザはユーザの行動によって flock を更新することがあります。</p>
<p>ブラウザはサイトの訪問履歴に基づくflockを開発するために機械学習アルゴリズムを使います。</p>
<ul>
<li>訪れたサイトのURL、ページのコンテンツなど</li>
<li>Web履歴を含む入力データがブラウザ内にだけ存在して外部にアップロードされないこと</li>
<li>ブラウザは差分プライバシーのような他の匿名化手法も利用することでさらにプライバシーを保護できます</li>
<li>flock の数が十分に小さいことで詳細な情報を運べなくします</li>
</ul>
<h2 id="関連技術">関連技術</h2>
<p>TURTLEDOVE と FLoC 以外の技術を簡単に紹介します。</p>
<h3 id="Federated Learning">Federated Learning</h3>
<p>Federated Learning とはエッジコンピューティングで機械学習を行う手法のことです。<br>
一般的な機械学習では大規模な中央サーバにデータを集約してモデルの学習をしますが、Federated Learning ではスマートフォンのような末端の端末でモデルの学習をします。</p>
<p>個人の行動履歴が直接クラウドに送信されず、各端末で学習されたモデルデータのみがクラウドに送信されて共有モデルの改善に使われます。<br>
たとえば Android 向けソフトウェアキーボード GBoard で Federated Learning が使われています。<br>
<a href="https://ai.googleblog.com/2017/04/federated-learning-collaborative.html" target="_blank" rel="noreferrer">https://ai.googleblog.com/2017/04/federated-learning-collaborative.html</a></p>
<h3 id="差分プライバシー">差分プライバシー</h3>
<p>差分プライバシー (Differential Privacy) は公開された統計量に対してプライバシーの保護が十分であるかどうかを定義する指標のことです。<br>
差分プライバシーは利用者が持っている背景知識やアルゴリズムに関わらずに統計量のプライバシー安全性を保証します。</p>
<p>なぜ公開された統計量のプライバシー保護には差分プライバシーが必要なのでしょうか。<br>
公開された統計量の閲覧者においては攻撃者と一般データ利用者を区別できないので鍵の共有を使って完全秘匿性を実現することはできません。<br>
攻撃者にも見える形で完全秘匿性を達成すると公開した統計量が無意味(完全なランダムと同じ)になります。<br>
したがって弱い秘匿性の実現が必要となります。<br>
その弱い秘匿性の実現方法の1つが差分プライバシーです。</p>
<p>差分プライバシーには「ε-差分プライバシー」と「(ε, δ)-差分プライバシー」の2つの定義があります。<br>
詳しくは <a href="https://www.jstage.jst.go.jp/article/isciesci/63/2/63_58/_pdf/-char/ja" target="_blank" rel="noreferrer">差分プライバシーとは何か</a> などを参照してください。</p>
<h2 id="参考文献">参考文献</h2>
<ul>
<li><a href="https://www.chromium.org/Home/chromium-privacy/privacy-sandbox" target="_blank" rel="noreferrer">https://www.chromium.org/Home/chromium-privacy/privacy-sandbox</a></li>
<li><a href="https://web.dev/digging-into-the-privacy-sandbox/" target="_blank" rel="noreferrer">https://web.dev/digging-into-the-privacy-sandbox/</a></li>
<li><a href="https://github.com/michaelkleber/turtledove" target="_blank" rel="noreferrer">https://github.com/michaelkleber/turtledove</a></li>
<li><a href="https://github.com/jkarlin/floc" target="_blank" rel="noreferrer">https://github.com/jkarlin/floc</a></li>
<li><a href="https://security.googleblog.com/2019/06/helping-organizations-do-more-without-collecting-more-data.html" target="_blank" rel="noreferrer">https://security.googleblog.com/2019/06/helping-organizations-do-more-without-collecting-more-data.html</a></li>
<li><a href="https://blog.chromium.org/2019/08/potential-uses-for-privacy-sandbox.html" target="_blank" rel="noreferrer">https://blog.chromium.org/2019/08/potential-uses-for-privacy-sandbox.html</a></li>
<li><a href="https://blog.chromium.org/2020/01/building-more-private-web-path-towards.html" target="_blank" rel="noreferrer">https://blog.chromium.org/2020/01/building-more-private-web-path-towards.html</a></li>
<li><a href="https://blog.chromium.org/2019/11/making-new-experiences-possible-on-web.html" target="_blank" rel="noreferrer">https://blog.chromium.org/2019/11/making-new-experiences-possible-on-web.html</a></li>
<li><a href="https://blog.chromium.org/2019/05/improving-privacy-and-security-on-web.html" target="_blank" rel="noreferrer">https://blog.chromium.org/2019/05/improving-privacy-and-security-on-web.html</a></li>
<li><a href="https://www.blog.google/products/chrome/building-a-more-private-web/" target="_blank" rel="noreferrer">https://www.blog.google/products/chrome/building-a-more-private-web/</a></li>
<li><a href="https://ai.googleblog.com/2017/04/federated-learning-collaborative.html" target="_blank" rel="noreferrer">https://ai.googleblog.com/2017/04/federated-learning-collaborative.html</a></li>
<li><a href="https://federated.withgoogle.com/" target="_blank" rel="noreferrer">https://federated.withgoogle.com/</a></li>
<li><a href="https://www.jstage.jst.go.jp/article/isciesci/63/2/63_58/_pdf/-char/ja" target="_blank" rel="noreferrer">https://www.jstage.jst.go.jp/article/isciesci/63/2/63_58/_pdf/-char/ja</a></li>
<li><a href="https://www.kspub.co.jp/book/detail/1529199.html" target="_blank" rel="noreferrer">https://www.kspub.co.jp/book/detail/1529199.html</a></li>
</ul>
<h2 id="まとめ">まとめ</h2>
<p>この記事では PrivacySandbox の中からWeb広告に関する Edge Computing の技術である TURTLEDOVE と FLoC について解説しました。54また関連技術として Federated Learning と差分プライバシーを簡単に紹介しました。</p>
<p>CX（顧客体験）プラットフォーム「<a href="https://karte.io/" target="_blank" rel="noreferrer">KARTE</a>」を運営するプレイドでは、Webの未来を作りたいエンジニア（インターンも！）を募集しています。<br>
詳しくは<a href="https://meet.plaid.co.jp/" target="_blank" rel="noreferrer">弊社採用ページ</a>または<a href="https://www.wantedly.com/companies/plaid/projects" target="_blank" rel="noreferrer">Wantedly</a>をご覧ください。 もしくはお気軽に、下記の「話を聞きに行きたい」ボタンを押してください！</p>
<div class="wantedly-visit-button" data-visit-button-id="lyE_IgY4VF5ukBo_EUKZLg" data-width="300" data-height="60"></div>
<script>
  (function(d, s, id) {
    var js, fjs = d.getElementsByTagName(s)[0];
    if (d.getElementById(id)) return;
      js = d.createElement(s); js.id = id;
      js.src = "https://platform.wantedly.com/visit_buttons/script.js";
      fjs.parentNode.insertBefore(js, fjs);
    }(document, "script", "wantedly-visit-buttons-wjs"));
</script>
</body></html>

Privacy Sandbox, Ad Selection, Web Browser, Edge Computing, FLoC, TURTLEDOVE,  Federated Learning, Differential Privacy

PrivacySandboxにおけるWeb広告のEdgeComputing技術 | PLAID engineer blog

Privacy Sandbox における Web 広告の Edge Computing 技術

<p>こんにちは、エンジニアの <a href="https://twitter.com/tikson">@tik-son</a> <a href="https://twitter.com/kargo113">@kargo</a>  です。02020/06/09 - 2020/06/11 に行われた <a href="https://cloudonair.withgoogle.com/events/google-cloud-day-digital">Google Cloud Day: Digital</a> に 弊社2名で「Multi Cloud」「ML」というテーマでそれぞれ登壇してきました。</p>
<p>こちらのブログでもその内容を簡単にまとめておきます。</p>
<h1>「Google Cloud Day: Digital 基調講演」</h1>
<p>カスタマー エンジニア 技術部長の佐藤 聖規さんから、Container Based MultiCloud を実現する手段として、我々がAnthos GKE on AWS を利用し始めたことを</p>
<p><img src="https://ik.imagekit.io/newt/61b151f921640c0018173598/d66e5d06-7109-4834-980c-64e922323ff5/----------2020-06-09-11.14.15-2-------1.png" alt=""></p>
<p>また、Developer Advocate の佐藤 一憲さんからは我々のGCP のML 活用のOverview とKARTE の紹介をして頂きました。</p>
<p><img src="https://ik.imagekit.io/newt/61b151f921640c0018173598/b16b0bcb-8ddf-4431-ad58-7ca186d88b42/----------2020-06-09-11.25.17-2------2-1.png" alt=""></p>
<p>そしてKeyNote で取り上げていただいた2つのトピックについて、それぞれ発表してきました。</p>
<h1>「PLAID’s Journey with multi cloud」</h1>
<p>こちらは  <a href="https://twitter.com/tikson">@tik-son</a> よりご紹介致しました。1我々が提供するKARTEは2015年にローンチされ、2016年頃からVm Based MultiCloud になり、現在はContainer Based MultiCloud に取り組んでいるのですが、そのローンチから現在に至るまでのアーキテクチャの変遷をご紹介しました。</p>
<p>Container Based MultiCloud を実現する手段として、<a href="https://cloud.google.com/blog/ja/topics/anthos/anthos-for-aws-is-now-ga">2020 /4/23に発表されたAnthos GKE on AWS</a> の利用を開始しており、発表の中でAnthos GKE on AWS を使ってみての話もしております。</p>
<p>発表については <a href="https://cloudonair.withgoogle.com/events/google-cloud-day-digital/watch?talk=d1-appdev04">YouTube Live</a> でご覧いただけます。2また、<a href="https://speakerdeck.com/tikson/plaids-journey-with-multi-cloud-10128526-d75f-41de-98ec-27025f8d35a9">SpeakerDeck</a> に資料もアップロードしているので時間が無い方はこちらを流し読みしていただければと思います。</p>
<script async class="speakerdeck-embed" data-id="bdb90a12b7864ba4b5925e5bf7a52d1d" data-ratio="1.77777777777778" src="//speakerdeck.com/assets/embed.js"></script>
<h1>「AI Platform で実現する ML Pipeline」</h1>
<p>こちらは <a href="https://twitter.com/kargo113">@kargo</a> よりご紹介致しました。</p>
<p>私たちが実現するコンセプトは、大量のリアルタイムデータからパターンを発見するMLシステムと人にしかできない思考と発想を継続的に統合するEnd-to-EndのML Platformです。</p>
<p>これを実現するにあたり、以下の3つの課題がありました。</p>
<ul>
<li>パイプラインの実行環境の統一</li>
<li>学習環境のスケーラビリティ</li>
<li>継続的インテグレーション</li>
</ul>
<p>この課題をそれぞれ</p>
<ul>
<li>AI Platform Pipeline</li>
<li>AI Platform Training</li>
<li>Github Actions</li>
</ul>
<p>の導入によって解決しました。<br>
さらに、今後の展望として</p>
<ul>
<li>リアルタイム基盤</li>
<li>カスタマイズ性</li>
<li>強化学習基盤</li>
</ul>
<p>を構築し、ML Platform の拡充を図ってまいります。</p>
<p>全ての詳細は <a href="https://cloudonair.withgoogle.com/events/google-cloud-day-digital/watch?talk=d3-ml05">YouTube Live</a> よりご覧頂けます。3同様にこちらも <a href="https://speakerdeck.com/kargo113/googleclouddaydigital-plaid-mlpipeline-on-aiplatform">SpeakerDeck</a> に資料をアップロードしているのでお急ぎの方はこちらから是非ご覧ください。</p>
<script async class="speakerdeck-embed" data-id="e730d56572474db6832290df749de1be" data-ratio="1.77777777777778" src="//speakerdeck.com/assets/embed.js"></script>
<h1>最後に</h1>
<p>今回はcovid-19の影響もあり、オンラインでの登壇となりました。4普段と異なる環境であり、初めは少し戸惑いましたが、ふたをあけてみると、5オフラインでの登壇の時よりも効率的に発表に対する時間を使うことが出来たり、6普段よりも多い800名以上の方にリアルタイムにご覧いただいたり、様々なポジティブな点がありました。</p>
<p>そして、オンライン上の顧客体験を向上させるKARTEを提供する我々としても、この現状を前向きに捉え、さらなる価値を今回登壇の機会を頂いたGoogleさんをはじめとする様々なパートナーの方々と共に提供していきたいと強く感じました。</p>
<p>そんな弊社ではスピード感を持って一緒に開発していく仲間は常に募集しているので、興味のある方は<a href="https://meet.plaid.co.jp/">弊社採用ページ</a> または <a href="https://www.wantedly.com/companies/plaid/projects">Wantedly</a> からお気軽にご連絡ください！</p>


Google Cloud Day: Digital で「KARTEのMultiCloudアーキテクチャの変遷」と「AI Platform で実現する ML Pipeline」について話してきました