AIは、文章を書く、画像を作る、データを分析するといった仕事を手早くこなす一方で、事実と違う答えを出したり、偽の画像や動画に使われたりする問題も抱えています。
この記事では、総務省と経済産業省の「AI事業者ガイドライン(第1.2版)」の分類に沿って、AIの問題点を12個にまとめ、それぞれの対策を説明します。
検索されることの多いハルシネーションとディープフェイクは、言葉の意味、起きる理由、見分け方まで節を分けて説明します。
AIの問題点12個の一覧
AI事業者ガイドライン(第1.2版)の別添は、AIのリスクを「技術的リスク」と「社会的リスク」に分けて整理しています。
技術的リスクはAIの仕組みそのものから生じるもので、社会的リスクは、もとからある問題がAIによって起きたり大きくなったりするものです。
この分類に沿って、AIを使う人が知っておきたい問題点を12個にまとめると、次のとおりです。
AIの問題点と主な対策
| 問題点 | 起きること | 主な対策 |
|---|
| 誤った答え(ハルシネーション) | 事実と違う内容を、もっともらしく答える | 数字や出典を元の資料で確かめる |
|---|
| 偏りと差別 | 学習データの偏りが、答えや判定に出る | 人に関わる判定をAIだけに任せない |
|---|
| 判断の理由が分からない | なぜその答えになったかを説明できない | AIの結果をどう使ったかを記録する |
|---|
| AIへの攻撃 | 不正なデータや指示で、AIが操られる | 読み込ませる文書と与える権限を絞る |
|---|
| 個人情報と機密情報の流出 | 入力した情報が、学習や出力を通じて外に出る | 入力してよい情報を決め、設定を確かめる |
|---|
| 著作権などの侵害 | 作ったものが既存の作品に似て、権利を侵す | 公開の前に、似た作品がないかを確かめる |
|---|
| ディープフェイクと偽情報 | 本物そっくりの偽の画像や動画が広まる | 出どころを確かめてから共有する |
|---|
| 犯罪への悪用 | 声をまねた詐欺や、攻撃用のプログラムに使われる | 声や映像だけで本人と決めず、別の手段で確かめる |
|---|
| 事故と責任の所在 | AIが関わる事故で、誰が責任を負うかが分かりにくい | 人が最後に判断する場面を決める |
|---|
| 頼りすぎ | AIの判断をそのまま信じ、自分で確かめなくなる | 大事な判断は、AIの答えを材料に人が決める |
|---|
| 仕事と富の偏り | 仕事の中身が変わり、データや利益が一部に集まる | AIを使う力を身につけ、仕事の進め方を見直す |
|---|
| 環境への負荷 | データセンターの電力と水の使用が増える | 省エネを進め、AIで電力を効率よく使う |
|---|
ガイドラインは、生成AIの普及によって、偽情報や誤情報のリスクが多様化して増えていることと、知的財産権の尊重を求める声が高まっていることを挙げています。
一方で、こうしたリスクがあることを理由に、ただちにAIの利用を妨げるものではないとも書いています。
リスクを知ったうえで、便利さとのバランスを考えて使うことが求められています。
12個のうち、検索されることの多いハルシネーションとディープフェイクを先に詳しく説明し、残りの10個は「そのほかの10の問題点」で説明します。
ハルシネーション:AIがもっともらしい誤りを答える
ハルシネーションとは
ハルシネーションは、生成AIが事実に基づかない誤った情報を、もっともらしく作ってしまうことです。
総務省の令和6年版情報通信白書は、これを「ハルシネーション(幻覚)」と呼んでいます。
英語では hallucination と書き、もとは、実際にはないものが見えたり聞こえたりする「幻覚」を意味する言葉です。
語源は、ラテン語の alucinari(心がさまよう、夢を見る、とりとめなく話す)です。
英語の語源辞典 Etymonline は、hallucination が英語で使われ始めたのを1640年代としています。
ケンブリッジ大学出版局のケンブリッジ辞典は、2023年の「今年の言葉」に hallucinate を選び、「AIが hallucinate するとき、AIは誤った情報を作り出す」という意味を辞書に足しました。
AIの分野では、2000年に発表された、顔の画像を高い解像度にする論文の題に「Hallucinating Faces」が使われています。
このときは、画像の欠けた部分を補うという前向きな意味でした。
いまは、文章を作るAIがもっともらしい誤りを出すことを指す言葉として広く使われています。
ハルシネーションが起きる理由
生成AIの文章は、次に来る言葉を予測してつなぐ仕組みで作られます。
仕組みの全体は、生成AIとは?仕組みと種類、メリット、使い方、歴史の年表で説明しています。
OpenAIは2025年9月に、ハルシネーションが起きる理由の説明を公開しました。
学習と評価の手順が、「分からない」と認めるよりも、当て推量で答えるほうに報酬を与えてしまうことが理由だとしています。
テストで空欄にするより、当てずっぽうでも答えを書くほうが点を取れることがあるのと同じ構図です。
また、つづりや括弧のように一定のパターンがあるものは学習で誤りがほとんどなくなる一方、ペットの誕生日のように頻度の低い事実は、パターンからは予測できないため誤りにつながると説明しています。
めったに書かれない事実や、新しい出来事ほど、確かめる必要性が高いということです。
ハルシネーションの例
誤りが出やすいのは、次のような答えです。
ハルシネーションが出やすい答えと確かめる先
| 誤りの型 | 例 | 確かめる先 |
|---|
| 存在しない出典 | 実在しない論文、判例、記事を挙げる | 出典のページや資料そのもの |
|---|
| 数字と日付 | 統計の値、発表日、価格を取り違える | 発表した機関の資料 |
|---|
| 人や会社の情報 | 経歴、役職、所在地を作ってしまう | 本人や会社の公式の情報 |
|---|
| 制度と手続き | 法律、補助金、申請の条件を誤る | 所管の省庁や自治体のページ |
|---|
AI事業者ガイドラインの別添は、米国の弁護士が裁判の資料を生成AIで作り、存在しない判例を引用して問題になった例を挙げています。
生成AIが、ある人について「横領で訴えられている」という偽の情報を広めたとして、その人がAIの開発企業を名誉毀損で訴えた例もあります。
ハルシネーションの対策
個人ですぐにできる対策は、次のとおりです。
- 数字、固有名詞、日付、出典は、発表した機関や元の資料で確かめる。
- 出典を示すように頼み、示されたページを開いて、本当にそう書かれているかを確かめる。
- 「分からないときは、分からないと答えてください」と頼む。
- 検索を使う機能では、答えと一緒に示された情報源を開いて読む。
- AIに作らせた表やグラフの数値は、元のデータと1つずつ突き合わせる。
- 社外に出す文章や資料は、AIの答えのまま出さず、人が確かめてから出す。
総務省の白書も、検索を併用するなどして、生成AIの答えが正しいかを確かめることが望ましいとしています。
仕組みで減らす方法には、RAG(検索拡張生成)があります。
RAGは、AIが答える前に、社内の資料など指定した情報源を検索して、その内容をもとに答えを作る仕組みです。
AI事業者ガイドラインは、RAGによってハルシネーションを抑えることや、参照元を示して根拠を分かりやすくすることが期待されているとしています。
仕組みと作り方は、RAGとは?仕組みの3段階とベクトル検索、作り方の5手順で説明しています。
AIで作った動画の台本を確かめる例
AIで作った文章を、動画やスライドにして公開するときも、確かめ方は同じです。
下の画面は、AIで動画を作るNoLangで作った「9月分消費者物価指数の解説」の動画を、NoLangのエディターで開いたところです。
中央の「読み上げ台本」に、場面ごとのナレーションの文が並びます。
数値のある場面(赤枠)を、総務省統計局が2026年10月23日に公表した2026年9月分の全国消費者物価指数と照らしました。
総合指数102.2と前年同月比2.1%の上昇、生鮮食品を除く総合102.3と2.1%の上昇、生鮮食品とエネルギーを除く総合102.8と2.4%の上昇は、どれも公表された値と一致しました。
値が違っていたら、その場面の台本をその場で書き換えます。
書き換えた内容は、右上の「この内容で確定する」を押して動画を作り直すまで、視聴やダウンロード用の動画には反映されません。
ディープフェイク:本物そっくりの偽の画像や動画
ディープフェイクとは
ディープフェイクは、「ディープラーニング(深層学習)」と「フェイク(偽物)」を組み合わせた造語です。
総務省の令和6年版情報通信白書は、AIの技術で合成した音声、画像、動画のうち、本物や真実であるかのように見せ、人が実際にはしていない発言や行動を、しているかのように描くものと説明しています。
ディープラーニングは、AIが大量のデータから特徴を学ぶ技術の一つです。
2017年12月には、米国のメディアVICEが、掲示板Redditで「deepfakes」と名乗る投稿者が、AIで有名人の顔を合成した動画を公開していると報じました。
何が問題になるのか
AI事業者ガイドラインの別添は、ディープフェイクの悪用が各国で相次いでいるとして、次のような例を挙げています。
- 生成AIで作った「国防総省の近くで爆発が起きた」という偽の画像がSNSで広まり、米国の平均株価が一時100ドル以上下がった。
- 娘の声で助けを求め、身代金を要求する電話があったが、声はAIで作られたもので、誘拐を装った詐欺だった。
- 各国の選挙で、候補者の偽の情報やディープフェイクが作られ、広められた。
日本でも、警察庁のまとめでは、児童の画像を生成AIなどで性的に加工して悪用した事案が、2025年に114件ありました。
ディープフェイクの見分け方
内閣官房の「偽情報にだまされないために」は、AIで作った画像や動画は人の目で真偽を見極めるのが難しくなっているとして、次の点を確かめるように呼びかけています。
- 情報源を確かめる(誰が最初に発信したか)。
- ほかの人やメディアの発信を確かめる。
- 画像や動画が本物かどうかを疑ってみる。画像検索で、過去に別の場面で投稿された画像の使い回しに気づけることがある。
- 背後にある意図を考える。
- ファクトチェックの結果を確かめる。
AIで作った画像や動画には不自然な点が見られることもありますが、本物そっくりに作れるようになっているため、見た目だけで本物だと判断しないことが大切です。
画像や動画の来歴を確かめる仕組みも広がっています。
C2PAという団体は、デジタルのコンテンツがどこで作られ、どう編集されたかを記録する技術の標準を、Content Credentials(コンテンツ認証情報)として公開しています。
日本では、発信した人や組織の情報をコンテンツと一緒に届けるOriginator Profile(OP)の技術の研究開発が進んでいます。
来歴の情報の確かめ方と、AIで作ったかを判定するツールの結果の読み方は、AIチェッカーの仕組みと使い方|3ツールで試した判定結果で説明しています。
ディープフェイクの対策
見る側は、次のことを心がけます。
- 驚く内容や怒りを誘う内容ほど、広める前に出どころを確かめる。
- 家族や知人の声や映像でお金を求められたら、いったん電話や通話を切って、本人に別の連絡手段で確かめる。
作る側は、実在の人の顔や声を使うときに本人の同意を得て、AIで作ったものだと分かるように示します。
EUのAI法は、ディープフェイクにAIで作ったことをはっきり表示するように求めています。
自分の偽の画像や動画が投稿されたら、投稿されたサービスに削除を求めます。
2025年4月に施行された情報流通プラットフォーム対処法は、大規模なプラットフォーム事業者に、削除の申し出への対応を早めることなどを義務づけています。
脅しや詐欺の被害は警察に相談します。
警察庁は、事件や事故の緊急の通報は110番、緊急でない相談は最寄りの警察署か「#9110」を使うように案内しています。
そのほかの10の問題点
偏りと差別
AIは、学習したデータに偏りがあると、答えや判定にも偏りが出ます。
AI事業者ガイドラインの別添は、ある企業が作った人材採用のAIで、女性を不利に扱う欠陥が見つかった例を挙げています。
学習に使った過去10年の履歴書の多くが男性のもので、AIが男性を採るのが好ましいと捉えたためといわれ、企業は運用をやめました。
生成AIの答えをそのまま信じる人が増えると、もとのデータにある偏見が広がって固定されるおそれもあり、これを「バイアスの再生成」と呼びます。
採用や評価のように人に関わる判定は、AIの結果だけで決めず、人が理由を確かめます。
判断の理由が分からない
AIは、なぜその答えを出したのかを人が理解しにくいことがあり、これを「ブラックボックス化」と呼びます。
別添は、あるクレジットカードで、同じ年収の男女でも女性の利用限度額のほうが低いという報告がSNSで広がり、当局がアルゴリズムの正当性の証明を求めたのに、企業が説明できなかった例を挙げています。
説明が求められる判断にAIを使うときは、AIの結果をどう使い、人がどう判断したかを記録に残します。
AIへの攻撃
AIそのものも、攻撃の的になります。
学習に使うデータに不正なデータを混ぜる攻撃や、AIへの指示(プロンプト)を通じた攻撃があります。
別添は、悪意のある集団に差別的な質問を組織的に学習させられたチャットボットが、ヘイトスピーチを繰り返すようになった例を挙げています。
AIに読み込ませた文書やWebページに指示を隠しておく「間接プロンプトインジェクション」で、AIに設けた制御を無視した出力をさせるリスクもあります。
指示を受けて自分で作業を進めるAIエージェントでは、人が意図しない商品の注文やファイルの削除が起きる可能性も指摘されています。
AIに読み込ませる外部の文書と、AIに与える権限(メールの送信、ファイルの削除など)は、必要な範囲に絞ります。
個人情報と機密情報の流出
生成AIに入力した情報は、外に出てしまうことがあります。
別添は、社員が業務で機密のソースコードを、個人向けの対話型の生成AIに入力してしまった例を挙げています。
そのうえで、会社のルールが整っていないと、従業員が会社の管理の外で生成AIを使うおそれがあるとし、機密情報を扱うときは、業務での利用を想定したセキュリティの機能を持つサービスを使うよう勧めています。
個人情報や社外秘は入力せず、使うサービスの利用規約と、入力を学習に使わない設定を確かめます。
著作権などの侵害
文化審議会著作権分科会法制度小委員会が2024年3月にまとめた「AIと著作権に関する考え方について」は、AIの開発と学習の段階と、生成と利用の段階を分けて考えるとしています。
生成と利用の段階では、通常の著作権侵害と同じく、既存の著作物との類似性(創作的な表現が共通していること)と依拠性(既存の著作物をもとに作ったこと)で判断されます。
作風が共通しているだけなら、それ自体は著作権侵害にならないとも整理しています。
特定の作品名や作家名を指示に入れて似せることは避け、公開や販売の前に、似た作品がないかを確かめます。
動画で使う素材とAIで作った動画の著作権は、YouTubeと動画の著作権で説明しています。
犯罪への悪用
AIは、詐欺やサイバー攻撃にも使われます。
ディープフェイクの節で挙げた、声をまねた詐欺の電話はその一つです。
別添は、プログラムを作るAIやAIエージェントの進歩で、システムの脆弱性を狙うマルウェアや、ネットワークに入り込むためのプログラムが作りやすくなっていることも挙げています。
AIで作った文章や声は自然になっているので、急がせる連絡やお金を求める連絡は、別の手段で相手に確かめます。
事故と責任の所在
AIが不適切な出力をして、命や財産に深刻な損害を与えるおそれもあります。
AIが関わった事故で誰がどんな責任を負うかは、AIの判断の過程が見えにくく、裁判例も少ないため、考え方が定まっていないと指摘されてきました。
経済産業省は2026年4月、「AI利活用における民事責任の解釈適用に関する手引き」を公表しました。
配送ルートを最適化するAI、画像生成AI、自律走行ロボットなどの想定事例をもとに、いまの法律がどう当てはまるかを整理し、AIの使われ方を「補助/支援型AI」と「依拠/代替型AI」の2つに分けています。
AIの判断をどこまで使い、どこで人が判断するかを、前もって決めておきます。
頼りすぎ
AIの判断を過度に信じて、自分の判断や確認を怠ってしまうことを「自動化バイアス」と呼びます。
別添は、採用のような大事な判断をAIに任せることや、学生が生成AIで作った答案やレポートをそのまま使い、自分で考える機会が減ることを懸念として挙げています。
AIの答えは下書きや判断の材料として使い、結論は自分で確かめてから出します。
仕事と富の偏り
IMF(国際通貨基金)は2024年1月、世界の雇用の約40%がAIの影響を受けるという分析を公表しました。
先進国では約60%の仕事が影響を受けうるとし、AIに置き換わる仕事も、AIに補われる仕事もあるとしています。
別添は、失業や格差の広がりへの懸念と、一部のAIの開発者にデータや利益が集まること、使う人の少ない言語では高性能なAIがないことを課題に挙げています。
自分の仕事のどの作業にAIが使えるかを試し、AIを使いこなす力を身につけておくと、仕事の中身が変わったときに対応しやすくなります。
生成AIの知識を体系的に学ぶ方法には、生成AIパスポートのような資格の試験もあります。
環境への負荷
AIの計算はデータセンターで行われ、多くの電力を使います。
国際エネルギー機関(IEA)の報告書「Energy and AI」(2025年)によると、世界のデータセンターの電力消費は2024年に約415テラワット時で、世界の電力消費の約1.5%でした。
2030年には約945テラワット時と2倍を超える見込みで、いまの日本全体の電力消費を少し上回る量です。
IEAは、AIがこの増加の最も大きな要因だとしています。
日本でも、2025年2月に閣議決定された第7次エネルギー基本計画が、生成AIの普及によるデータセンターなどの増加で、将来の電力需要は増える可能性が高いとしています。
データセンターでは、冷却などに水も使われます。
Googleは2025年8月の論文で、Geminiのアプリへの文章の質問1回あたり(中央値)の消費を、電力0.24ワット時、水0.26ミリリットルと推定しています。
一方で別添は、エネルギーの管理にAIを使って電力を効率よく使えるようにするなど、AIが環境に役立つ面もあるとしています。
AI倫理とは
AI倫理は、AIを作る人と使う人が、人の権利と尊厳を守り、社会に害を与えないために持つべき考え方です。
ここまでの12個の問題点の多くは、AI倫理で扱う問題でもあります。
AIが人の知能を超える「シンギュラリティ」も、AIの問題として語られることがありますが、いま起きている問題とは別の、将来についての議論です。
意味と主な見方は、シンギュラリティとは?AGI・ASIとの違いといつ来るかの予測で説明しています。
AI倫理の原則
国や国際機関は、AI倫理の原則を次のようにまとめています。
AI倫理の主な原則
| 原則 | 策定した機関と年 | 主な中身 |
|---|
| 人間中心のAI社会原則 | 日本政府、2019年 | 人間中心、教育・リテラシー、プライバシー確保、セキュリティ確保、公正競争確保、公平性・説明責任・透明性、イノベーションの7つ |
|---|
| AI事業者ガイドラインの共通の指針 | 総務省と経済産業省、第1.2版は2026年 | 人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性、アカウンタビリティ、教育・リテラシー、公正競争確保、イノベーションの10項目 |
|---|
| AI倫理に関する勧告 | UNESCO、2021年 | 人権と人間の尊厳の尊重を核に、害を与えないこと、プライバシー、透明性、人による監督、公平性など10の原則 |
|---|
| OECD AI原則 | OECD、2019年に採択、2024年に改訂 | 包摂的な成長、人権と民主的な価値、透明性と説明可能性、頑健性と安全性、説明責任の5つ |
|---|
UNESCOの勧告は、2021年11月に加盟193か国が採択した、AI倫理の初めての世界的な基準です。
AI事業者ガイドラインの原則は、人間中心のAI社会原則を土台に、OECDのAI原則など海外の原則を踏まえて整理し直したものです。
トロッコ問題とAI
トロッコ問題は、暴走するトロッコの先に5人がいて、進路を切り替えると別の1人が犠牲になるとき、切り替えるべきかを問う思考実験です。
AIでは、事故が避けられない場面で、自動運転車がどう動くべきかという問いとして議論されています。
マサチューセッツ工科大学(MIT)などの研究チームは、こうした場面での判断をオンラインで集める「Moral Machine」という実験を行いました。
233の国と地域から約4,000万件の判断が集まり、結果は2018年に科学誌Natureに載りました。
MITの発表によると、世界全体で強く見られたのは、動物より人間を、少数より多数の人を、年長の人より若い人を助ける判断でした。
論文は、判断の傾向が国や地域で違い、その違いが社会の制度や文化と関係していることも報告しています。
AIの問題点への対策
個人で使うときに確かめること
12個の問題点のうち、使う人が自分で防げるものは多くあります。
使う場面ごとに、次のことを確かめます。
AIを使う場面ごとに確かめること
| 場面 | 確かめること |
|---|
| 入力する前 | 個人情報、社外秘、他人の作品を入れていないか。入力が学習に使われる設定になっていないか |
|---|
| 答えを使う前 | 数字、固有名詞、日付、出典が、元の資料と合っているか |
|---|
| 公開する前 | 既存の作品に似ていないか。実在の人の顔や声を、本人の同意なく使っていないか |
|---|
| 共有する前 | 画像や動画の出どころを確かめたか。ほかの人やメディアの発信と合っているか |
|---|
| 大事な判断をするとき | AIの答えを材料にして、自分で決めているか |
|---|
会社で使うときに決めること
会社でAIを使うときは、一人ひとりの注意に任せず、次のことをルールとして決めておきます。
- 業務で使ってよいサービス
- 入力してよい情報と、入力してはいけない情報
- 社外に出す前に、AIの出力を確かめる人と手順
- 問題が起きたときの相談窓口
- 社員への研修と、ルールの見直しの時期
社内の生成AIのルールの作り方と、書き換えて使えるサンプルは、AI事業者ガイドラインとは?10の指針と社内ルールの作り方で説明しています。
NoLangは、PDFやPowerPointの資料から動画を作れるので、AIの利用ルールや注意点をまとめた社内の資料を、社員向けの研修動画にできます。
研修動画での使い方は法人向けの研修動画のページで紹介しており、導入の相談はお問い合わせから受け付けています。
資料をダウンロード
まとめ
AIの問題点は、AI事業者ガイドラインの分類に沿うと、AIが出す答えの問題と、使う人や社会に及ぶ問題を合わせて12個にまとめられます。
特に出会いやすいハルシネーションは、数字、固有名詞、日付、出典を元の資料で確かめることで、誤りをそのまま使うのを防げます。
ディープフェイクは見た目だけでは見分けにくいので、出どころを確かめてから共有します。
入力、答えの利用、公開、共有の前に確かめることを習慣にし、会社ではルールと確かめる人を決めて使います。