親の検査で、病院から「AIが画像を見て、印をつけます」と説明された。帰りの電車でスマホをひらく。それを信じていいのか。先生に、何を聞けばいいのか。

病院のAIと、自分で使う生成AIを先に分けます。そのあとに、医師に聞くことばと、「承認」「精度90%」の読み方。終わりに、生成AIに相談する時の注意です。

病院のAI診断は信頼できる?自分で使う生成AIとのちがい

机に並んだ青いカードを、病院のAIと自分で使うAIに分けて見比べるノア、カイ、レン

病院で使うAIの医療機器は、決めた使い道の中で、医師が使う道具です。自分で使う生成AIとは、べつのものです。

病院で使うAIの医療機器自分で使う生成AI・健康アプリ
国のチェック使い道を決めて、承認や認証を受けている受けたものと、受けていないものがある
結果を見る人医師や看護師自分だけ
使ってよい中身決められた人、検査、使い方の中その答えだけで、病名、薬、「受診しなくてよい」を決めない

病院のAIが出すものは、製品ごとにちがいます。異常の候補に印をつけるもの。数値を測るもの。病気のおそれの大きさを見積もるもの。医師に見せるためのものか、患者本人が使うものかも、製品ごとに決まっています。

AI診断は、医師の代わりになる?

今の決まりでは、なりません。

国(厚生労働省)の2018年12月の通知に、こうあります。AIで診断や治療を手助けするプログラムを使う時も、診断や治療をするのは医師です。さいごに決める責任も、医師にあります。

AIが印をつけた画像も、さいごに見て説明するのは医師です。「AIか、先生か」のどちらを信じるかを、家族が決めなくてだいじょうぶです。

病院で「AIが画像を見ます」と言われたら、医師に何を聞く?

人の横顔のカードと医療者のカードを見比べ、聞くことを考えるノア、カイ、レン

聞くことは、3つで足ります。1つ目だけでもかまいません。

知りたいこと聞き方の例
何をするAIか「このAIは、何を入力して、何をしめすものですか」
自分にあてはまるか「父の年齢や体のようすは、このAIが使える人に入りますか」
承認されたものか「このAIは、承認や認証を受けた医療機器ですか」

3つ目は、自分で調べることもできます。承認された製品は、PMDA(医薬品医療機器総合機構)の一覧にのっています。PMDAは、薬や医療機器を調べて決める、国の組織です。

でも、この一覧には注意が書かれています。承認からのせるまでに、決まった期間がかかる。AIを使う医療機器を、ぜんぶのせたものではない。だから、まずは病院に聞いてみてください。

AIの表示と、医師の説明がちがった時は?

点と線でつながったカードをたどり、AIと医師が見た物をそろえるノア、カイ、レン

どちらかを選ぶ話ではありません。両方が何を見たのかを、そろえて聞きます。

医師の説明は、AIの表示のほかの材料もふまえていることがあります。診察、べつの検査、これまでの経過、薬、持病です。見ているものがちがえば、説明もちがってきます。診察室では、こう聞けます。

  • 「AIの表示と、先生の診断がちがう理由を教えてください」
  • 「さらに検査をしたり、べつの診療科を考えたりするのは、どんな時ですか」
  • 「どんな変化があれば、いつ、どこに連絡すればよいですか」

説明を聞いても材料が足りないと感じたら、べつの医師に相談する道もあります。検査結果や記録を受け取り、相談する方法を確かめられます。

急な重い症状がある時は、この確かめより119番が先です。

承認された医療AIなら、誤診はしない?

検査・診療・記録を表す三つのカードを見て、承認の範囲を確かめるノアとカイ

まちがうことはあります。誤診とは、まちがった診断のことです。承認は、製品ごとに決めた中身で認められるものです。一人ひとりの診断の結果を保証するものではありません。

PMDAは、プログラム医療機器をこう説明しています。病気の診断や治療を目的とするプログラムです。思ったとおりに動かないと、命や健康に危ないことが起きるおそれがあるものです。健康に関わるはたらきがあっても、医療機器にならないソフトもあります。

承認や認証は、「AIぜんたい」ではなく、製品ごとに次のことを決めて行われます。

  • 製品の名前と、作って売る会社
  • 使う目的と、使える患者・検査・画像
  • 使う人と、使う場所
  • 出力の意味、使えない場合、警告と注意、製品の版

広告の「AIを使っています」「医師が見ています」は、この中身の代わりになりません。

承認されたことと、AIだけで診断が決まることも、べつの話です。承認された出力は、たとえば次のものです。異常の候補をしめす。測る。画像を読む手助けをする。病気のおそれを見積もる。その出力が診療のどこで使われているかは、病院で聞けます。

「精度90%」は、100人中90人を正しく診断する意味?

医療の画像と検証の記録を表すパネルを前に、数字の読み方を確かめるノアとカイ

そうとは言い切れません。「精度」と呼ばれる数字には種類があり、何を数えたかで意味が変わります。

火災報知器にたとえます。火事を見のがさないようによく反応するほど、料理のゆげでも鳴りやすくなります。AIの診断も同じです。見のがしをへらすことと、まちがって鳴らさないことは、べつの数字で測ります。

数字の名前ひとことで気をつける所
感度病気がある人を、どれだけひろえたか上げると、病気でない人まで「要チェック」になることがある
特異度病気がない人を、どれだけ「ちがう」と言えたか見のがしと両立するかは、製品と線の引き方しだい
的中率その判定が出た人のうち、じっさいと合っていた割合その集団に、病気の人がどのくらいいるかで変わる
AUC線の引き方をいくつも変えて見た、見分ける力100人中の正解の数を、直接はしめさない

「線の引き方」は、どこからを「要チェック」にするかの決まりのことです。しきい値と呼ばれます。

FDA(食品医薬品局)は、薬や医療機器を調べて決めるアメリカの役所です。FDAも、AIの目的がちがえば、合う数字もちがうと説明しています。分類する。画像の中の場所を区切る。異常の場所を見つける。先の病気のおそれを見積もる。目的ごとに、見る数字が変わります。

数字を見たら、3つをいっしょに見ます。

  1. だれを調べた数字か(子ども、大人、お年寄り。症状のあるなし、重さ)
  2. 一つの病院か、地域や機械がちがういくつもの病院か
  3. AIだけの成績か、医師だけか、医師がAIを使った時の成績か

くわしく確かめたい人へ。成績を左右するものは、ほかにもあります。何を正解としたか。判定した人は、AIの結果を知らずに判定したか。先に決めた見方か、結果を見たあとにくわしく調べ直したものか。線の引き方と、数字のはば(信頼区間)。評価できなかった例や、外した例のあつかい。こうしたことも見ます。

同じ製品でも、結果は変わりえます。画像の質、とる機械、調べる人たち、病気の多さがちがう時です。一つの研究の平均の数字を、目の前の一人の確率に置きかえることはできません。

医療AIの限界は?AIの成績と、患者が良くなることのちがい

さまざまな人を表すカードの前に立ち、別の人たちでも確かめたかを考えるノア、カイ、レン

AIの成績が良いことと、患者の体が良くなることは、べつに確かめる話です。ここに、今の医療AIの限界があります。限界とは、できることの終わりの線です。

AIが異常の候補を多く見つけた。画像を読む時間が短くなった。感度が上がった。どれも大事な結果です。でも、確かめや治療につながらなければ、患者の体は変わらないことがあります。見つける数がふえて、さらに検査や、行きすぎた処置がふえることもあります。

結果の種類例
AIや機械の成績感度、特異度、AUC、見つけた場所の一致、測る時の誤差
診療の流れ確かめる時間、再検査、紹介、治療を始めるまでの時間、医師や看護師の負担
患者にとっての結果症状、あとから起きる病気、入院、くらしの中でできること、生活の質、死亡など
害と負担見のがしによるおくれ、まちがった「要チェック」での検査、いらない処置、不安、格差

成績そのものにも、確かめる段があります。開発に使っていないデータで確かめたか。べつの病院、べつの機械、べつの時期、使う人たちでも確かめたか。使い始めたあとに、成績の低下や不具合を追っているか。

IMDRFは、各国の医療機器の決まりを作る役所の集まりです。IMDRFも、確かめ方を3つに分けています。出力が、病気と結びついているか。入力から、ねらった出力を正しく作れるか。使う場面で、診療に意味のある結果になるか。

WHO(世界保健機関)が重く見ているのは、2つです。使う目的をはっきりさせること。じっさいに使う人や場所を代表するデータで、開発した所の外でも確かめること。

アメリカのFDA、カナダ保健省、イギリスのMHRA。この3つの役所も、いっしょに考え方を出しています。求めているのは、AIだけの成績ではなく、人とAIを組み合わせたチームの成績です。使う人、場所、使える人たち、限界も、分かるようにしめすよう求めています。

論文の成績が良くても、診療の場では事情が変わります。出力を見る時点、警告の伝わり方、確かめの作業、追加の検査、担当の人の負担です。

新しいAI診断のニュースは、どこを見る?

見る所は、3つで足ります。

  • だれを、何人、どこで調べたか
  • 何とくらべたか(AIだけ、医師だけ、医師とAI、今までのやり方)
  • 患者にとっての結果まで、調べたか

記事から分からない所は、「成績が低い」という意味ではありません。まだ確かめられていないこと、としてのこします。

論文がある。成績の数字が高い。承認された。病院で使い始めた。患者の結果が良くなった。この5つは、同じ意味ではありません。

生成AIに医療の相談をする時の注意は?症状を聞いてしまったら

端末から人の相談先へ分かれていく光の道を見るノア、カイ、レン

生成AIの答えは、診断の代わりになりません。もう聞いてしまった時は、その画面を、そのまま医師に見せればだいじょうぶです。

生成AIや健康アプリが、病名の候補や受診の案内を返すことがあります。それだけでは、国内で承認・認証を受けた医療機器とは限りません。WHO(世界保健機関)は、生成AIが健康の分野で出すリスクをあげています。リスクは、起きるかもしれない困ることです。まちがった、正しくない、かたよった、足りない中身を出すおそれです。

その答えだけで、次のことを決めないでください。

  • 受診しなくてよい、ようすを見てよい
  • 病名を決める、べつの病気ではないと決める
  • 薬を始める、やめる、ふやす、へらす、飲み合わせ
  • 検査や治療を受ける、ことわる
  • 救急車を呼ぶかどうか

もう相談したあとなら、4つを見られるようにしておきます。サービスの名前、日時、入力した中身、出てきた答えのぜんぶです。伝える時は、診断の結果としてではありません。「こう表示されて不安になった」と言えば足ります。

健康の情報を入力する前には、4つを確かめます。運営する会社がしめす、使う目的。保存の期間。ほかへわたすか。消す方法。

急な症状では、AIの答えを待たない

あてはまる症状がある時や、急ぎだと感じた時は、119番へ連絡してください。AIへの入力や、次の答えを待ちません。

国(厚生労働省)の「こんな時は迷わず119へ」というページがあります。大人、子ども、お年寄りごとに、急ぎの症状を案内しています。

救急車を呼ぶか、今すぐ病院へ行くか、迷う時があります。その時は、救急安心センター(#7119)に電話できます。行っている地域で使えます。医師、看護師、救急救命士などの助言を受けられます。AIが出した病名の候補ではなく、今の症状と、その変化を伝えます。

分かれ道:成績の示し方が進んだら、進まなかったら

これは予測ではありません。上で見た考え方どおりに進んだ時と、進まなかった時をならべた筋書きです。

こうなったら

示し方が進んだら

  • 製品ごとに、だれを調べた成績か、べつの病院でも確かめたかが分かりやすくなる
  • 病院で「このAIは何で確かめられていますか」と聞いた時の答えが、具体的になる
  • それでも、結果を見て診断するのは医師、という今の決まりはべつの話としてのこる

ならなかったら

進まなかったら

  • 「精度◯%」の数字だけが、見出しに出つづける
  • だれに使えるかや、使う決まりは、自分から聞かないと分からないまま
  • 医師に聞く3つのことばが、今と同じように役に立つ

どちらに寄っているかを確かめる目印新しいAI診断のニュースに、だれを調べたかと、医師が使った時の成績かが書かれているか。書かれている記事がふえたら、しめし方が進むほうの道に寄っています。

どちらの道でも、聞く相手は変わりません。検査をした病院の医師です。

今できること

人のカードから相談先へ伸びる光の道を、順にたどるノア、カイ、レン

3つです。1つ目は、帰りの電車の中でできます。

1. 今日、5分。次の診察で聞くひと言を、スマホのメモに書く。

「このAIは、何を入力して、何をしめすものですか」。つきそいの時は、診察の終わりに聞けます。

2. もし生成AIに症状を聞いたあとなら、その画面をのこしておく。

消さずに、次の診察で見せます。「こう表示されて不安になりました」と言えば足ります。

3. 「精度◯%」の見出しを見たら、1つだけ見る。

だれを調べた数字か、です。書かれていなければ、「まだ分からない」としておきます。

未来分岐点:自分の生活で選ぶこと

AIが検査に入るほど、自分で決めておくことがふえます。「何が分かれば、まかせてよいと思えるか」です。

AIの印と、医師の説明。
自分は、何が分かれば「まかせてよい」と思えるだろう。

書き方の例:「父の肺の検査。AIが何を見たかと、先生がどう確かめたかを聞けたら、まかせられる。」

それを信じていいのか。病院のAIは、決めた使い道の中で、医師が使う道具です。印をつけるのはAIでも、見て説明するのは医師です。聞きたいことは、聞いてかまいません。