AIに特定のデータを忘れさせる技術は研究されています。「機械忘却」と呼ばれ、学習に使ったデータの影響を、学習済みモデルから取り除くことを目指します。ただし、会話の履歴を削除する操作とは別です。 画面から会話が消えたことだけで、学習への影響まで消えたとは判断できません。
では、削除ボタンでは何が消えるのでしょう。まず「記録として残る場所」と「AIが答えを作る仕組み」を分けると、サービスの説明を読みやすくなります。
AIのデータ削除は、どこから消すかで意味が変わる
AIが情報を使う場所には、いくつかの種類があります。ここでは、会話の記録、回答時に探す資料、学習済みモデルの三つに絞って見てみましょう。
「削除する」の対象は三つに分けて考える
記録を削除する
参照元を外す・更新する
学習の影響を取り除く
一つを消しても、残りも同時に消えるとは限りません。
会話の履歴は、やり取りを記録したものです。検索する資料は、回答時に取り出して使う文書などを指します。そして学習済みモデルは、訓練を通して調整された大量の数値からなる仕組みです。この数値を「パラメータ」と呼びます。
机でたとえるなら、会話の記録は手元のメモ、検索する資料は参照する本に当たります。メモを片づけることと、本を本棚から外すことは違います。さらに、その本で学んだ内容への対処は、もう一つ別の話です。AIが人と同じ記憶の仕組みを持つという意味ではありませんが、「何を片づけたのか」を分ける手がかりになります。
もちろん、入力した内容がすべて学習に使われるとは限りません。利用条件や設定、サービスの構成によって異なります。「渡したから学習済み」「履歴を消したから学習からも削除済み」と、どちらも先回りして決めないことが大切です。
機械忘却とは、学習した影響を取り除くこと
元の学習データから一件を削除しても、そのデータを使ってすでに調整したモデルの数値が、自動的に元へ戻るわけではありません。ここに、機械忘却が必要になる理由があります。
一つの基準となる方法は、対象データを除いた学習データで、モデルを最初から学習し直すことです。ただし、大きなモデルでは計算や時間の負担が重くなります。そこで、すでに学習したものをできるだけ生かしながら、指定したデータの影響を取り除く方法が研究されています。
Bourtouleらの「Machine Unlearning」は、その一例です。学習データの影響が及ぶ範囲をあらかじめ分ける「SISA」という方法を提案し、削除要求が来たときの学習し直しを軽くすることを目指しました。特定の課題で得られた結果であり、普段使うすべてのチャットAIに同じ方法が入っている、という話ではありません。
ファイル名を指定してゴミ箱へ移すように、モデルの中から文章一つをそのまま抜き取れるとは限らない。その難しさを扱うのが、機械忘却です。
AIは本当に忘れた?答えなくなることとの違い
AIがある質問に「答えられません」と返したとします。それだけで、その情報の影響がモデルから消えたとは分かりません。答えを出さないよう制御した場合も、画面上では似た返事になり得るからです。
Microsoft Researchが公開した研究報告も、モデル内部から情報の影響を取り除くことと、特定の情報を出力させないことを分けて論じています。どちらも意味のある取り組みですが、同じ達成条件ではありません。
| 見えた変化 | そこから分かること | それだけでは分からないこと |
|---|---|---|
| 画面から会話が消えた | 表示される履歴が変わった | 保存先全体や学習済みモデルへの処理 |
| 検索結果に資料が出なくなった | その検索では資料が参照されなかった | 別のコピーや学習への影響の有無 |
| AIが回答を断った | その質問には答えを出さなかった | 内部の情報への影響が除去されたか |
消去の確認には、対象データを使わずに学習したモデルとの比較など、目的に合った評価が必要です。利用者が何度か同じ質問をして、答えが出なかったというだけでは、完全な忘却の証明にはなりません。
機械忘却の研究はどこまで進んでいる?
研究の方法があることと、あらゆるサービスで使えることは分けて考えたいところです。流れを見ると、忘れさせる方法だけでなく、その結果をどう確かめるかも課題になっています。
| 時期 | 研究で扱われたこと | 読み取れる範囲 |
|---|---|---|
| 2019年に初版公開、2021年に学会発表 | SISAによる学習手順の分割 | 削除後の学習し直しの負担を抑える方法の提案 |
| 2024年12月 | 忘却に期待する効果と技術上の限界の整理 | 内部の影響除去と出力抑制を同一視しない必要性 |
| 2026年6月 | 忘却を評価する統計的検査の研究紹介 | 方法だけでなく、比較相手や評価基準も問う必要性 |
2026年のGoogle Researchによる検査手法の紹介では、元のモデルと、対象データを除いて学習し直したモデルの両方を比較に使っています。単に二つの出力が違うだけで忘却の失敗とみなすと、学習条件の違いを誤って拾う場合があるためです。
これは「すべてのAIが完全に忘れられるようになった」という発表ではありません。これらの研究は、すべてのサービスへの普及時期を予測するものではありません。研究の成功条件と、使っているサービスの削除方針は別々に読む必要があります。機械忘却が一般の利用者向け機能としていつ、どこまで使えるかも、サービスごとの説明なしには決まりません。
履歴を削除したいとき、今日確かめること
いま自分の情報を消したいなら、まず「どの情報を、どこから消したいか」を一文にしてみてください。「先週の会話を一覧から消したい」と「送った資料を今後の回答に使わせたくない」では、見るべき説明が変わります。
- 公式の削除説明で、会話・添付資料・保存された記憶など、対象を確かめる。
- 学習への利用設定と、すでに使われたデータへの対応を分けて読む。
- 反映までの期間や残る記録が不明なら、対象と希望を具体的にして窓口へ聞く。
アプリを消したり、同じ質問で答えが出なくなったりしたことだけで、処理範囲を補わないようにしましょう。個人データの削除・持ち出し・連携解除の違いは、個人データは誰のもの?で整理しています。
機械忘却を知ると、削除ボタンを信じられなくなるのではなく、そのボタンが何をしてくれるのかを聞き分けられます。 次にAIへ情報を渡すときには、入力前に確かめたい個人情報の範囲も一度見ておくと、後から消す手間を減らす判断につながります。
