AIに特定のデータを忘れさせる技術は研究されています。「機械忘却」と呼ばれ、学習に使ったデータの影響を、学習済みモデルから取り除くことを目指します。ただし、会話の履歴を削除する操作とは別です。 画面から会話が消えたことだけで、学習への影響まで消えたとは判断できません。

では、削除ボタンでは何が消えるのでしょう。まず「記録として残る場所」と「AIが答えを作る仕組み」を分けると、サービスの説明を読みやすくなります。

AIのデータ削除は、どこから消すかで意味が変わる

AIが情報を使う場所には、いくつかの種類があります。ここでは、会話の記録、回答時に探す資料、学習済みモデルの三つに絞って見てみましょう。

「削除する」の対象は三つに分けて考える

会話の履歴やり取りの記録

記録を削除する

検索する資料回答時に探す文書

参照元を外す・更新する

学習済みモデル学習で調整された数値

学習の影響を取り除く

一つを消しても、残りも同時に消えるとは限りません。

仕組みを分けた模式図です。個別サービスの保存先や削除仕様を示す図ではありません。

会話の履歴は、やり取りを記録したものです。検索する資料は、回答時に取り出して使う文書などを指します。そして学習済みモデルは、訓練を通して調整された大量の数値からなる仕組みです。この数値を「パラメータ」と呼びます。

机でたとえるなら、会話の記録は手元のメモ、検索する資料は参照する本に当たります。メモを片づけることと、本を本棚から外すことは違います。さらに、その本で学んだ内容への対処は、もう一つ別の話です。AIが人と同じ記憶の仕組みを持つという意味ではありませんが、「何を片づけたのか」を分ける手がかりになります。

もちろん、入力した内容がすべて学習に使われるとは限りません。利用条件や設定、サービスの構成によって異なります。「渡したから学習済み」「履歴を消したから学習からも削除済み」と、どちらも先回りして決めないことが大切です。

機械忘却とは、学習した影響を取り除くこと

元の学習データから一件を削除しても、そのデータを使ってすでに調整したモデルの数値が、自動的に元へ戻るわけではありません。ここに、機械忘却が必要になる理由があります。

一つの基準となる方法は、対象データを除いた学習データで、モデルを最初から学習し直すことです。ただし、大きなモデルでは計算や時間の負担が重くなります。そこで、すでに学習したものをできるだけ生かしながら、指定したデータの影響を取り除く方法が研究されています。

Bourtouleらの「Machine Unlearning」は、その一例です。学習データの影響が及ぶ範囲をあらかじめ分ける「SISA」という方法を提案し、削除要求が来たときの学習し直しを軽くすることを目指しました。特定の課題で得られた結果であり、普段使うすべてのチャットAIに同じ方法が入っている、という話ではありません。

ファイル名を指定してゴミ箱へ移すように、モデルの中から文章一つをそのまま抜き取れるとは限らない。その難しさを扱うのが、機械忘却です。

AIは本当に忘れた?答えなくなることとの違い

AIがある質問に「答えられません」と返したとします。それだけで、その情報の影響がモデルから消えたとは分かりません。答えを出さないよう制御した場合も、画面上では似た返事になり得るからです。

Microsoft Researchが公開した研究報告も、モデル内部から情報の影響を取り除くことと、特定の情報を出力させないことを分けて論じています。どちらも意味のある取り組みですが、同じ達成条件ではありません。

見えた変化そこから分かることそれだけでは分からないこと
画面から会話が消えた表示される履歴が変わった保存先全体や学習済みモデルへの処理
検索結果に資料が出なくなったその検索では資料が参照されなかった別のコピーや学習への影響の有無
AIが回答を断ったその質問には答えを出さなかった内部の情報への影響が除去されたか

消去の確認には、対象データを使わずに学習したモデルとの比較など、目的に合った評価が必要です。利用者が何度か同じ質問をして、答えが出なかったというだけでは、完全な忘却の証明にはなりません。

機械忘却の研究はどこまで進んでいる?

研究の方法があることと、あらゆるサービスで使えることは分けて考えたいところです。流れを見ると、忘れさせる方法だけでなく、その結果をどう確かめるかも課題になっています。

時期研究で扱われたこと読み取れる範囲
2019年に初版公開、2021年に学会発表SISAによる学習手順の分割削除後の学習し直しの負担を抑える方法の提案
2024年12月忘却に期待する効果と技術上の限界の整理内部の影響除去と出力抑制を同一視しない必要性
2026年6月忘却を評価する統計的検査の研究紹介方法だけでなく、比較相手や評価基準も問う必要性

2026年のGoogle Researchによる検査手法の紹介では、元のモデルと、対象データを除いて学習し直したモデルの両方を比較に使っています。単に二つの出力が違うだけで忘却の失敗とみなすと、学習条件の違いを誤って拾う場合があるためです。

これは「すべてのAIが完全に忘れられるようになった」という発表ではありません。これらの研究は、すべてのサービスへの普及時期を予測するものではありません。研究の成功条件と、使っているサービスの削除方針は別々に読む必要があります。機械忘却が一般の利用者向け機能としていつ、どこまで使えるかも、サービスごとの説明なしには決まりません。

履歴を削除したいとき、今日確かめること

いま自分の情報を消したいなら、まず「どの情報を、どこから消したいか」を一文にしてみてください。「先週の会話を一覧から消したい」と「送った資料を今後の回答に使わせたくない」では、見るべき説明が変わります。

  1. 公式の削除説明で、会話・添付資料・保存された記憶など、対象を確かめる。
  2. 学習への利用設定と、すでに使われたデータへの対応を分けて読む。
  3. 反映までの期間や残る記録が不明なら、対象と希望を具体的にして窓口へ聞く。

アプリを消したり、同じ質問で答えが出なくなったりしたことだけで、処理範囲を補わないようにしましょう。個人データの削除・持ち出し・連携解除の違いは、個人データは誰のもの?で整理しています。

機械忘却を知ると、削除ボタンを信じられなくなるのではなく、そのボタンが何をしてくれるのかを聞き分けられます。 次にAIへ情報を渡すときには、入力前に確かめたい個人情報の範囲も一度見ておくと、後から消す手間を減らす判断につながります。