AIの連合学習は、学習元のデータを各端末や組織に置いたまま、そこで学んだモデルの更新情報を持ち寄る方法です。英語ではFederated Learningと呼ばれます。

「データを集めずに学ぶ」と説明されますが、何も外へ送らないわけではありません。手元に残すものと、共有するものを分けると、仕組みも限界もつかみやすくなります。

連合学習は、モデルの更新情報を持ち寄る

各端末に元の資料を残し、青い更新情報だけを共有モデルへ持ち寄る模式図
更新情報を持ち寄る段階の模式図です。紙の束は手元に残る学習元データ、青い小片は送信する更新情報を表します。実際のファイル形式ではありません。

典型的には、各参加者が共通のモデルを受け取り、自分のところにあるデータで学習します。その変化を更新情報として送り、取りまとめる側が複数の更新を集約します。こうしたやり取りを繰り返してモデルを学習させます。

Google Researchの2017年の導入解説は、スマートフォンがモデルを受け取り、端末内で学習し、更新を送る流れを紹介しています。これは基本を理解するための例で、すべての連合学習が同じ構成や運用条件という意味ではありません。

この方法では、各参加者の学習元データを一か所へ集めることと、共同でモデルを学習させることを切り離します。端末同士だけでなく、組織ごとにデータを持つ場面も考えられます。

「端末に残るもの」と「送るもの」は違う

種類典型的な連合学習での扱い誤解しやすい点
学習元データ各端末や組織に置いて学習する共同学習のために原本を一か所へ集めるわけではない
モデルの更新情報集約のために送る元データでなくても、情報を含まないわけではない
学習するモデル配布や更新を行う最初から最後まで端末が孤立しているわけではない

たとえば、別々の場所にある資料を使って学習する場合、資料そのものの送信を避けても、学習した変化は通信します。そのため、連合学習という名前だけで「通信不要」「外部への送信なし」とは判断できません。

実際のサービスがどの情報を送り、どのように扱うかは、そのサービスの説明で確かめます。この表は、個別アプリの設定やデータ処理を保証するものではありません。

端末でAIを使うことと、端末でAIを学習させること

端末内でAIが答えを出すことは、一般に推論と呼ばれます。学習済みのモデルを使って、入力から結果を出す段階です。

一方、ここで扱う連合学習は、モデルを学習させる方法の話です。端末で答えが出るからといって、その端末が連合学習に参加しているとは限りません。

  • 推論の場所を知りたいときは、端末とサーバーのどちらで処理するかを見る。
  • 学習の仕組みを知りたいときは、何を使って学び、何を共有するかを見る。

処理する場所の違いはエッジAIとクラウドAIで確認できます。また、目的に合わせてモデルを追加学習するファインチューニングと、データを各所に置いて共同で学ぶ連合学習は、着目している点が異なります。

元データを集めなくても、プライバシーの確認は残る

元データを一か所に集めないことには意味があります。ただし、それだけで情報が漏れる可能性をなくせるとは限りません。

NISTの連合学習の解説は、更新情報や学習済みモデルから、学習データについての情報が推測される場合があると説明しています。更新情報も、元のデータを手がかりに作られたものだからです。

利用する側は、技術名から安全性を補わず、次の説明があるかを確認します。

  1. 学習に使う元データは何で、どこに残るのか。
  2. どんな更新情報を、誰に送るのか。
  3. 送る情報や、集約した結果を守るために何をしているのか。

詳しい説明が見つからない項目は、分からないままで構いません。「元データを集めない」と「何の情報も外へ出ない」を区別できれば、サービスの案内を一段具体的に読めます。