入口 04|AIへの不安
AIは怖い? 危ない? だまされない?

AIは暴走するのか。個人情報を入れて大丈夫なのか。偽の動画や詐欺を見分けられるのか。もう起きていること、起きるかもしれないこと、まだ誰にも分からないことを分けて案内します。
よく調べられている悩み
AIへの不安の年表
決まっていること、目指されていること、予測されていることを分けて並べています。誰が、いつ言ったかを添えています。
いまに近い12件を載せています。
2026年
2026年7月14日
決まっている起きたこと
国の人工知能基本計画(第2期)が閣議決定された
内閣府(2026年7月14日)公的機関人工知能基本計画
2026年8月2日
決まっている起きたこと
EUのAI法の大部分が適用され、取り締まりが始まった
AIが作ったものだと分かるようにする透明性の規則などが対象。リスクの高いAIへの規則は、直前の2026年7月に発効した改正で先へ延ばされた。
欧州委員会(2024年8月1日)公的機関Timeline for the Implementation of the EU AI Act
2026年8月7日
決まっている起きたこと
顔や声を無断で使われたときの民事上の責任について、法務省の検討会が報告書を公表した
新しい法律ではない。今の法律と裁判例の考え方を整理したもの。
法務省(2026年8月7日)公的機関肖像、声等の無断利用による民事責任の在り方に関する検討会 取りまとめ報告書の公表について
- いま
2026年10月26日
決まっている
生成AIの事業者が、知的財産の保護と透明性の原則を受け入れたことを届け出る仕組みが始まる
内閣府 知的財産戦略推進事務局公的機関生成AIの適切な利活用等に向けた知的財産の保護及び透明性に関するプリンシプル・コード
2026年12月2日
決まっている
EUで、同意のない性的な偽画像や、児童の性的虐待の画像を作るAIが禁止される
AIオムニバスで加わった禁止。同じ日に、2026年8月2日より前から出回っている生成AIにも、合成だと分かる印を付ける義務の猶予が終わる。
欧州委員会(2026年7月27日)公的機関Timeline for the Implementation of the EU AI Act
早ければ2026年
予測されている
「強力なAI」が来るかもしれない。もっと長くかかる道筋もある
本人はAGIという語を使わず、「強力なAI」と呼んでいる。2026年1月の文章でも「早ければ1〜2年先、かなり先になる可能性もある」と書いた。
ダリオ・アモデイ氏(Anthropic CEO)(2024年10月)本人・当事者の発表Machines of Loving Grace
2026年まで
予測されている
ネット上のコンテンツの最大90%が、2026年までに合成されたものになるかもしれない
2022年の報告書が、ある著者の本を出どころに「専門家の見積もり」として載せた一文。2024年1月の改訂版では、この文がなくなっている。Europol自身の予測ではない。
Europol Innovation Lab の報告書(ニナ・シック氏の著書を引用)(2022年4月)公的機関Facing reality? Law enforcement and the challenge of deepfakes
2027年
2027年1月1日
決まっている
米カリフォルニア州で、OSの提供者に、利用者の年齢の区分をアプリへ知らせる仕組みが義務になる
2025年10月13日に成立した州法(AB 1043)。端末の設定のときに生年月日か年齢を入力させ、アプリの開発者は年齢の区分の信号を求めて受け取る。
米カリフォルニア州(州法 AB 1043)(2025年10月13日)公的機関AB-1043 Age verification signals: software applications and online services.
2027年1月1日
決まっている延びた
米コロラド州で、採用や融資などの判断に使う自動判定の技術を規制する法律が施行される
2024年の法律は2026年2月1日に始まる予定だったが、6月30日へ延び、2026年5月に作り直された。州の司法長官が細かな規則を作っている。
米コロラド州 司法長官事務所(2026年5月14日)公的機関Colorado Anti-Discrimination in AI Law (ADAI) Rulemaking
2027年3月1日
決まっている
選挙に関してネットに載せるAI生成の画像や映像に、表示の義務が始まる
公職選挙法などの改正(令和8年法律第58号)。
総務省(2026年7月17日)公的機関公職選挙法及び情報流通プラットフォーム対処法の一部を改正する法律について
2027年7月1日
決まっている
米カリフォルニア州で、話し相手になるAIの事業者に、自殺予防の取り組みの年次報告が義務になる
2025年10月13日に成立した州法(SB 243)。自殺や自傷の話が出たときの手順を持つこと、相手がAIだと知らせること、未成年に休憩を促すことなども求める。
米カリフォルニア州(州法 SB 243)(2025年10月13日)公的機関SB-243 Companion chatbots.
2027年12月2日
決まっている延びた
EUのAI法のうち、採用・教育・生体認証などリスクの高い使い方への規則が適用される
もとは2026年8月2日の予定。2026年7月27日に発効した改正(AIオムニバス)で延びた。技術の標準などの支えが整ってから適用するため、と説明している。
欧州委員会(2026年7月27日)公的機関AI Omnibus enters into force
- 決まっている
- 法律・政令・公的な計画などで、日付や内容が決まっているもの
- 予測されている
- 研究機関・企業のトップ・研究者などの見通し。外れることがある
解説を読む
14本の解説があります。題名の問いから選んでください。
未来社会の倫理・法律読む順番つきで見る
AGIはいつ実現する?誰が何年と言っているかを並べた
AGI(汎用人工知能)はいつ実現するのか。早ければ数年と言う経営者、少なくとも10年や数十年と言う研究者、研究者2,778人への調査を、誰が・いつ・どこで言ったかとあわせて並べます。シンギュラリティの2045年の出どころ、外れた予測、今できることも整理します。
AIが嘘をつく理由|ハルシネーションと間違いを防ぐ確認手順
AIが嘘をつく理由を、ハルシネーションの仕組み、学習データや推測、古い情報、質問の曖昧さから整理します。人間の嘘との違い、間違いが起きやすい質問、生成AIの回答を安全に確認する手順やプロンプトの工夫まで解説します。
AIフェイクニュースの見分け方|ディープフェイクと偽情報にだまされないために
AIフェイクニュースとディープフェイクの見分け方を、拡散前に一拍置くこと、発信元や日付、一次情報を確かめる手順、災害や選挙、投資話で特に注意したい点、検出ツールに頼りきらない考え方や送る前のチェックまで整理します。
AIと個人情報|生成AIに入力してはいけない情報と注意点
AIと個人情報の注意点を、生成AIにそのまま入れない原則から整理します。入力してはいけない情報の例、学習でどう使われるか、家族や子どもの情報、画像や音声に潜む情報、学校や会社で使う前のチェックリストまで解説します。
ディープフェイクの危険性|AI動画の偽物から身を守る確認ポイント
ディープフェイクの危険性を、なりすまし、送金・認証要求、災害や選挙の偽情報、同意のない性的画像に分け、見た目や検出器だけに頼らない確認と被害時の記録・通報・相談手順で整理します。
AIに任せていいこと・人間が決めるべきこと|未来の意思決定の分け方
AIに任せていいことと人間が決めるべきことを、命や権利、尊厳、責任に関わる線引きから整理します。仕事や医療、教育、お金、生活での具体的な分け方と、最終判断者を消さないための任せる前の確認リストまで解説します。
AIと著作権|生成AI時代に知っておきたい基本と注意点
AIと著作権を、学習・入力・公開利用の三段階に分けて整理します。既存の漫画や画像をAIに入れる注意、生成物やAIイラストを仕事やSNSで使う前の確認、クリエイター側の守り方や似ていると感じたときの考え方まで解説します。
AIバイアスの例|AIが不公平になる理由と見抜き方
AIバイアスの例を、採用、与信、医療、教育、広告、顔認証などの身近な場面から整理します。なぜ偏りが生まれるのか、差別項目を消せば公平になるという誤解、不公平を見抜く確認ポイントや利用者としての向き合い方まで解説します。
AI規制は日本でどう進む?AI法・ガイドライン・海外ルールを整理
日本のAI規制を、AI法、AI法13条指針、AI事業者ガイドライン、個別法に分け、EU AI Actの改正後の日程と日本企業が確認する順序まで整理します。使いどころと判断の境界も示します。
AI倫理と法律はどう違う?個人情報・著作権・AI判断を分けて確認
AI倫理と法律を、AI法、政府指針、個別法、利用規約、組織ルール、倫理原則に分け、個人情報・著作権・AI判断・バイアス・偽情報を確認する順序を整理します。使いどころと判断の境界も示します。
AI格差はなぜ起きる?使える人・使えない人の未来をやさしく整理
AI格差が広がる理由を、スキルや環境だけでなく、職場、学校や家庭、地域、年齢、アクセシビリティの差から整理します。AIを使える人だけが得をする未来にしないために、格差を小さくするため今日からできることまで解説します。
AI監視社会とは?顔認証・データ活用とプライバシーの境界線
AI監視社会では何が起きるのか。見守りと監視が分かれる境目、顔認証の便利さと注意点、職場や学校、家庭で起きる小さな監視まで、便利さとプライバシーの境界線を確認リストとあわせて整理し、守りたい自由を考えます。
AI透明性と説明責任|AI判断をブラックボックスにしない考え方
AIの透明性・説明可能性・アカウンタビリティを、日本のAI法13条指針・事業者ガイドラインとEU AI Actの条文に分け、個別結果の説明や実務記録の確認順まで整理します。
AI判断の理由を説明できる?説明可能AIと確認ポイント
AIの判断理由を、モデルの出力説明、組織での利用、最終決定の理由、再確認の手続きに分け、説明可能AIの限界と実務の確認項目を整理します。確認の順序と注意点も具体的に示します。使いどころと判断の境界も示します。
言葉を確かめる
記事に出てくる言葉を、短く確かめられます。