親の検査で、病院から「AIが画像を見て、印をつけます」と説明された。帰りの電車でスマホをひらく。それを信じていいのか。先生に、何を聞けばいいのか。
病院のAIと、自分で使う生成AIを先に分けます。そのあとに、医師に聞くことばと、「承認」「精度90%」の読み方。終わりに、生成AIに相談する時の注意です。
病院のAI診断は信頼できる?自分で使う生成AIとのちがい

病院で使うAIの医療機器は、決めた使い道の中で、医師が使う道具です。自分で使う生成AIとは、べつのものです。
| 病院で使うAIの医療機器 | 自分で使う生成AI・健康アプリ | |
|---|---|---|
| 国のチェック | 使い道を決めて、承認や認証を受けている | 受けたものと、受けていないものがある |
| 結果を見る人 | 医師や看護師 | 自分だけ |
| 使ってよい中身 | 決められた人、検査、使い方の中 | その答えだけで、病名、薬、「受診しなくてよい」を決めない |
病院のAIが出すものは、製品ごとにちがいます。異常の候補に印をつけるもの。数値を測るもの。病気のおそれの大きさを見積もるもの。医師に見せるためのものか、患者本人が使うものかも、製品ごとに決まっています。
AI診断は、医師の代わりになる?
今の決まりでは、なりません。
国(厚生労働省)の2018年12月の通知に、こうあります。AIで診断や治療を手助けするプログラムを使う時も、診断や治療をするのは医師です。さいごに決める責任も、医師にあります。
AIが印をつけた画像も、さいごに見て説明するのは医師です。「AIか、先生か」のどちらを信じるかを、家族が決めなくてだいじょうぶです。
病院で「AIが画像を見ます」と言われたら、医師に何を聞く?

聞くことは、3つで足ります。1つ目だけでもかまいません。
| 知りたいこと | 聞き方の例 |
|---|---|
| 何をするAIか | 「このAIは、何を入力して、何をしめすものですか」 |
| 自分にあてはまるか | 「父の年齢や体のようすは、このAIが使える人に入りますか」 |
| 承認されたものか | 「このAIは、承認や認証を受けた医療機器ですか」 |
3つ目は、自分で調べることもできます。承認された製品は、PMDA(医薬品医療機器総合機構)の一覧にのっています。PMDAは、薬や医療機器を調べて決める、国の組織です。
でも、この一覧には注意が書かれています。承認からのせるまでに、決まった期間がかかる。AIを使う医療機器を、ぜんぶのせたものではない。だから、まずは病院に聞いてみてください。
AIの表示と、医師の説明がちがった時は?

どちらかを選ぶ話ではありません。両方が何を見たのかを、そろえて聞きます。
医師の説明は、AIの表示のほかの材料もふまえていることがあります。診察、べつの検査、これまでの経過、薬、持病です。見ているものがちがえば、説明もちがってきます。診察室では、こう聞けます。
- 「AIの表示と、先生の診断がちがう理由を教えてください」
- 「さらに検査をしたり、べつの診療科を考えたりするのは、どんな時ですか」
- 「どんな変化があれば、いつ、どこに連絡すればよいですか」
説明を聞いても材料が足りないと感じたら、べつの医師に相談する道もあります。検査結果や記録を受け取り、相談する方法を確かめられます。
急な重い症状がある時は、この確かめより119番が先です。
承認された医療AIなら、誤診はしない?

まちがうことはあります。誤診とは、まちがった診断のことです。承認は、製品ごとに決めた中身で認められるものです。一人ひとりの診断の結果を保証するものではありません。
PMDAは、プログラム医療機器をこう説明しています。病気の診断や治療を目的とするプログラムです。思ったとおりに動かないと、命や健康に危ないことが起きるおそれがあるものです。健康に関わるはたらきがあっても、医療機器にならないソフトもあります。
承認や認証は、「AIぜんたい」ではなく、製品ごとに次のことを決めて行われます。
- 製品の名前と、作って売る会社
- 使う目的と、使える患者・検査・画像
- 使う人と、使う場所
- 出力の意味、使えない場合、警告と注意、製品の版
広告の「AIを使っています」「医師が見ています」は、この中身の代わりになりません。
承認されたことと、AIだけで診断が決まることも、べつの話です。承認された出力は、たとえば次のものです。異常の候補をしめす。測る。画像を読む手助けをする。病気のおそれを見積もる。その出力が診療のどこで使われているかは、病院で聞けます。
「精度90%」は、100人中90人を正しく診断する意味?

そうとは言い切れません。「精度」と呼ばれる数字には種類があり、何を数えたかで意味が変わります。
火災報知器にたとえます。火事を見のがさないようによく反応するほど、料理のゆげでも鳴りやすくなります。AIの診断も同じです。見のがしをへらすことと、まちがって鳴らさないことは、べつの数字で測ります。
| 数字の名前 | ひとことで | 気をつける所 |
|---|---|---|
| 感度 | 病気がある人を、どれだけひろえたか | 上げると、病気でない人まで「要チェック」になることがある |
| 特異度 | 病気がない人を、どれだけ「ちがう」と言えたか | 見のがしと両立するかは、製品と線の引き方しだい |
| 的中率 | その判定が出た人のうち、じっさいと合っていた割合 | その集団に、病気の人がどのくらいいるかで変わる |
| AUC | 線の引き方をいくつも変えて見た、見分ける力 | 100人中の正解の数を、直接はしめさない |
「線の引き方」は、どこからを「要チェック」にするかの決まりのことです。しきい値と呼ばれます。
FDA(食品医薬品局)は、薬や医療機器を調べて決めるアメリカの役所です。FDAも、AIの目的がちがえば、合う数字もちがうと説明しています。分類する。画像の中の場所を区切る。異常の場所を見つける。先の病気のおそれを見積もる。目的ごとに、見る数字が変わります。
数字を見たら、3つをいっしょに見ます。
- だれを調べた数字か(子ども、大人、お年寄り。症状のあるなし、重さ)
- 一つの病院か、地域や機械がちがういくつもの病院か
- AIだけの成績か、医師だけか、医師がAIを使った時の成績か
くわしく確かめたい人へ。成績を左右するものは、ほかにもあります。何を正解としたか。判定した人は、AIの結果を知らずに判定したか。先に決めた見方か、結果を見たあとにくわしく調べ直したものか。線の引き方と、数字のはば(信頼区間)。評価できなかった例や、外した例のあつかい。こうしたことも見ます。
同じ製品でも、結果は変わりえます。画像の質、とる機械、調べる人たち、病気の多さがちがう時です。一つの研究の平均の数字を、目の前の一人の確率に置きかえることはできません。
医療AIの限界は?AIの成績と、患者が良くなることのちがい

AIの成績が良いことと、患者の体が良くなることは、べつに確かめる話です。ここに、今の医療AIの限界があります。限界とは、できることの終わりの線です。
AIが異常の候補を多く見つけた。画像を読む時間が短くなった。感度が上がった。どれも大事な結果です。でも、確かめや治療につながらなければ、患者の体は変わらないことがあります。見つける数がふえて、さらに検査や、行きすぎた処置がふえることもあります。
| 結果の種類 | 例 |
|---|---|
| AIや機械の成績 | 感度、特異度、AUC、見つけた場所の一致、測る時の誤差 |
| 診療の流れ | 確かめる時間、再検査、紹介、治療を始めるまでの時間、医師や看護師の負担 |
| 患者にとっての結果 | 症状、あとから起きる病気、入院、くらしの中でできること、生活の質、死亡など |
| 害と負担 | 見のがしによるおくれ、まちがった「要チェック」での検査、いらない処置、不安、格差 |
成績そのものにも、確かめる段があります。開発に使っていないデータで確かめたか。べつの病院、べつの機械、べつの時期、使う人たちでも確かめたか。使い始めたあとに、成績の低下や不具合を追っているか。
IMDRFは、各国の医療機器の決まりを作る役所の集まりです。IMDRFも、確かめ方を3つに分けています。出力が、病気と結びついているか。入力から、ねらった出力を正しく作れるか。使う場面で、診療に意味のある結果になるか。
WHO(世界保健機関)が重く見ているのは、2つです。使う目的をはっきりさせること。じっさいに使う人や場所を代表するデータで、開発した所の外でも確かめること。
アメリカのFDA、カナダ保健省、イギリスのMHRA。この3つの役所も、いっしょに考え方を出しています。求めているのは、AIだけの成績ではなく、人とAIを組み合わせたチームの成績です。使う人、場所、使える人たち、限界も、分かるようにしめすよう求めています。
論文の成績が良くても、診療の場では事情が変わります。出力を見る時点、警告の伝わり方、確かめの作業、追加の検査、担当の人の負担です。
新しいAI診断のニュースは、どこを見る?
見る所は、3つで足ります。
- だれを、何人、どこで調べたか
- 何とくらべたか(AIだけ、医師だけ、医師とAI、今までのやり方)
- 患者にとっての結果まで、調べたか
記事から分からない所は、「成績が低い」という意味ではありません。まだ確かめられていないこと、としてのこします。
論文がある。成績の数字が高い。承認された。病院で使い始めた。患者の結果が良くなった。この5つは、同じ意味ではありません。
生成AIに医療の相談をする時の注意は?症状を聞いてしまったら

生成AIの答えは、診断の代わりになりません。もう聞いてしまった時は、その画面を、そのまま医師に見せればだいじょうぶです。
生成AIや健康アプリが、病名の候補や受診の案内を返すことがあります。それだけでは、国内で承認・認証を受けた医療機器とは限りません。WHO(世界保健機関)は、生成AIが健康の分野で出すリスクをあげています。リスクは、起きるかもしれない困ることです。まちがった、正しくない、かたよった、足りない中身を出すおそれです。
その答えだけで、次のことを決めないでください。
- 受診しなくてよい、ようすを見てよい
- 病名を決める、べつの病気ではないと決める
- 薬を始める、やめる、ふやす、へらす、飲み合わせ
- 検査や治療を受ける、ことわる
- 救急車を呼ぶかどうか
もう相談したあとなら、4つを見られるようにしておきます。サービスの名前、日時、入力した中身、出てきた答えのぜんぶです。伝える時は、診断の結果としてではありません。「こう表示されて不安になった」と言えば足ります。
健康の情報を入力する前には、4つを確かめます。運営する会社がしめす、使う目的。保存の期間。ほかへわたすか。消す方法。
急な症状では、AIの答えを待たない
あてはまる症状がある時や、急ぎだと感じた時は、119番へ連絡してください。AIへの入力や、次の答えを待ちません。
国(厚生労働省)の「こんな時は迷わず119へ」というページがあります。大人、子ども、お年寄りごとに、急ぎの症状を案内しています。
救急車を呼ぶか、今すぐ病院へ行くか、迷う時があります。その時は、救急安心センター(#7119)に電話できます。行っている地域で使えます。医師、看護師、救急救命士などの助言を受けられます。AIが出した病名の候補ではなく、今の症状と、その変化を伝えます。
分かれ道:成績の示し方が進んだら、進まなかったら
これは予測ではありません。上で見た考え方どおりに進んだ時と、進まなかった時をならべた筋書きです。
こうなったら
示し方が進んだら
- 製品ごとに、だれを調べた成績か、べつの病院でも確かめたかが分かりやすくなる
- 病院で「このAIは何で確かめられていますか」と聞いた時の答えが、具体的になる
- それでも、結果を見て診断するのは医師、という今の決まりはべつの話としてのこる
ならなかったら
進まなかったら
- 「精度◯%」の数字だけが、見出しに出つづける
- だれに使えるかや、使う決まりは、自分から聞かないと分からないまま
- 医師に聞く3つのことばが、今と同じように役に立つ
どちらに寄っているかを確かめる目印新しいAI診断のニュースに、だれを調べたかと、医師が使った時の成績かが書かれているか。書かれている記事がふえたら、しめし方が進むほうの道に寄っています。
どちらの道でも、聞く相手は変わりません。検査をした病院の医師です。
今できること

3つです。1つ目は、帰りの電車の中でできます。
1. 今日、5分。次の診察で聞くひと言を、スマホのメモに書く。
「このAIは、何を入力して、何をしめすものですか」。つきそいの時は、診察の終わりに聞けます。
2. もし生成AIに症状を聞いたあとなら、その画面をのこしておく。
消さずに、次の診察で見せます。「こう表示されて不安になりました」と言えば足ります。
3. 「精度◯%」の見出しを見たら、1つだけ見る。
だれを調べた数字か、です。書かれていなければ、「まだ分からない」としておきます。
未来分岐点:自分の生活で選ぶこと
AIが検査に入るほど、自分で決めておくことがふえます。「何が分かれば、まかせてよいと思えるか」です。
AIの印と、医師の説明。
自分は、何が分かれば「まかせてよい」と思えるだろう。
書き方の例:「父の肺の検査。AIが何を見たかと、先生がどう確かめたかを聞けたら、まかせられる。」
それを信じていいのか。病院のAIは、決めた使い道の中で、医師が使う道具です。印をつけるのはAIでも、見て説明するのは医師です。聞きたいことは、聞いてかまいません。
