生成AIのフェイクが引き起こす問題・・生き物のニセ動画・ニセ画像をどう見分け対策するか？

今、生成AIが急速に普及していることは、恐らくほとんどの方が実感していると思います。ひょっとしたらもう日常で生成AIを使いこなしているという人もいるかもしれません。

しかしその一方で、機密情報の漏洩、著作権や肖像権の侵害、フェイクコンテンツの生成など、生成AIには様々な問題やリスクがあるとして懸念および批判している人も多くいます。

そしてこれは生き物に興味関心がある人にとっても他人事ではありません。あたかも本物であるかのように作られた生成AIによる生き物のフェイク画像やフェイク動画が、本物の生き物を撮影したコンテンツと一緒くたになってネット上に無数にアップされています。

このように生成AIによる生き物のフェイクが本物であるかのようにアップされている状況は、生き物について正しい知識を得たい、適切な理解を広めたいと思っている人々にとって極めて迷惑です。

• 生成AIによるフェイクの生き物コンテンツにはどんな問題点があるのか？
• よく言われているAIを擁護するような意見は妥当なのか？
• 生成AIとどう向き合っていけばいいのか？

今回は生成AIによる生き物のフェイク画像・フェイク動画の問題点というテーマで、これらの疑問に回答していきます。

本記事の主張・論点・注意点

本記事での主張は、「生成AIで作成した生き物の写真や動画を、本物であると誤解されるような方法で拡散することは迷惑なのでやめろ」です。

そのうえで何がどう迷惑なのか、この問題とどう向き合えばいいのかというのをお話ししていきます。

なお、話が広がり過ぎて分かりづらくなることを防止するため、以下の論点については極力触れません。

• 生成AIそのものを否定すべきかどうかという問題
• 生成AIがネット上のデータを無断で学習しているという著作権の問題
• 有名人や故人を生成したコンテンツなど人間の名誉や尊厳にかかわる問題

また、本記事では生成AIで作られた画像を掲載しますが、これらは全て写真ACというサイトからダウンロードしたものか、ネット上で話題になったものの引用です。本記事のために僕が生成したものではありません。

生成AIの生き物フェイクが起こす問題

生成AIで作成した生き物の写真や動画を、本物であるかのようにアップすることの主な問題点は以下の三つです。

• 情報汚染
• 市民科学の妨げ
• パニックや事故の誘発

順番に説明します。

情報汚染

画像生成に関わらず、生成AIが情報を出力する際にハルシネーションという現象が起こることがあります。

ハルシネーションとは元々「幻覚」を意味する言葉で、生成AIの文脈で言えばもっともらしい嘘を出力することを指します。

例えば実験としてサメについてChatGPTに質問した時に「世界最大のサメはホホジロザメ」という風に学習したデータの組み合わせが誤っている回答や、「フロントネコザメ」など実在しないサメの名前を回答することが起きました。

生成AIはこうした誤情報を断定的に、まさに幻覚が見えている人にその自覚がないように出力することがあるんです。

このハルシネーションが生き物の画像や動画を生成AIで作る際に起きることで、誤った形態、本来あり得ない体勢や行動をしている生き物の姿が、素人にはリアルに思える形で出力されてしまいます。

せっかくなのでサメを例にして紹介します。

こちらの画像、写真ACでは「メガマウス」としてアップされていましたが、恐らくウバザメがモデルだと思います。

色々とおかしな部分があるので、以下に簡単にまとめてみました。

• 舌の形状が明らかにサメ類のそれと違っている（実際には口内でこんな風に浮いていない）。
• ウバザメにしてもメガマウスにしても歯の形状が異なる。
• ウバザメにしてもメガマウスにしても第二背ビレが大きすぎる。
• メガマウスであれば顔つきが全く異なる。
• ウバザメであれば吻先がもう少し長いか、幼魚であれば細長く伸びている。

次はもう少し難しいです。

顔つきなどからホホジロザメがモデルなのは明らかです。

かなりリアルに作られていますが、見分けのポイントは口の中です。歯の再現がだいぶ粗いことが分かります。

もちろん実際のサメの歯がボロボロになっていることがありますが、この画像は歯なのか何なのかよく分からない白い部分があったり、この角度であれば見えるであろう控えの歯が全くなかったりします。

これらの写真がアップされていた写真ACというサイトはAI生成だった場合はその旨を表示することになっていますが、ネット上には生成AIによるものだと分かりづらい状態でアップロードされている例も多くあります。

その中で特に批判を集めたのがナゾロジーというサイトです。

2025年8月21日にナゾロジーは、中米コスタリカ沖でオレンジ色のサメが見つかったという記事を投稿しました。

このサメ自体はフェイクではなく本物で『Marine Biodiversity』に論文も掲載されたのですが、ナゾロジーの記事はタイトルに「画像あり」と表記した上で、サムネイルにAI生成したサメの画像を使用しました。

これに対しXユーザーからは批判が殺到して投稿にはコミュニティノートが付く事態になりましたが、ナゾロジーはこれに懲りず、白いキーウィが発見されたニュースの紹介でもAI生成画像をサムネイルに使用しています。

一応これらの画像は記事を開ければAIで生成されたものだと分かるようにはなっていましたが、グーグルで「オレンジ　サメ」というワードで画像検索すると、結果のトップにこのフェイク画像がでてきてしまいます（2025年11月28日の検索結果）。

こうした画像や動画が、生成AIによるフェイクだと分からない状態で、本物を撮影したコンテンツと一緒に並べられることで、生き物に関する適切な理解が妨げられてしまいます。これが情報汚染です。

市民科学の妨げ

生成AIによるフェイクが市民科学の発展において大きな弊害になったり、科学における取り返しのつかない不祥事につながるリスクがあります。

市民科学とは、職業的な科学者ではない一般市民が情報提供などで科学研究に貢献することを指します。

例えば釣り人やバードウォッチャー、あるいは研究対象の生き物が生息する地域の住民など、世の中には研究者以外にも生き物に関わる人が沢山います。

そうした人々は独自の知識や経験を蓄積していたり、研究者よりも長期的かつ頻繁に生き物の観察ができたりするので、それらをデータとして活用して生き物の研究が発展させられる可能性があります。サメ類の研究でも、釣り人や観光客が撮影した写真や動画を元にした論文がすでに発表されています。

これが生成AIとどう関係するかと言えば、市民科学では非研究者が撮影した写真や動画を活用することもあるので、生成AIによるフェイクが紛れ込んでしまうリスクがあるんです。

もし誰も気づかないままその研究が論文になってしまった場合、以下のような問題が発生します。

• 捏造された嘘に基づいた生き物の情報が、いわゆる”科学的な事実”として世間に広まってしまう。
• 後にフェイクだと発覚した際に、その研究結果に基づいた資料や教材が全て価値を失う。
• フェイクに騙された研究者の評判やキャリアに傷がつく。

ここまで読んで「専門家が騙されてそんな大ごとになることがあるの？」と疑問に思う方に知って欲しいのが、旧石器捏造事件です。

藤村というアマチュアの考古学研究家が次々に石器を発見したので「神の手」「ゴッドハンド」と一時期もてはやされていましたが、後に自分で埋め込んだ石器を新発見のように発表するというヤラセをしていたことが発覚しました。考古学界の大スキャンダルです。

これにより日本における石器時代の研究が大きく信用を失い、当時藤村の捏造に基づいた内容を掲載していた教科書が後に記述を削除するなど、様々な影響が及びました。

今後生成AIの精度が上がってくれば、こうしたスキャンダルが発生するリスクも高まってきます。

また、仮にAIによるフェイクに気付けるとしても、それを精査する手間やコストがかかってしまう、市民科学という取り組み自体がリスクを孕んだものとして嫌煙されるなどの問題に繋がる恐れがあります。

パニックや事故の誘発

生成AIによるフェイクによって、事故や災害時のパニックに発展しかねない悪質なデマ動画が作られた事例もあります。

2025年11月16日に読売新聞は、人がクマに餌付けをしたり追い払ったりする様子のフェイク動画がTikTokで拡散されていると報じました。

動画の中には生成AIで作成されたことを示す「Sora」のマーク表示があったり、プロフィール欄にAI生成であることが明記されているケースもありましたが、本物と区別しにくい動画やニュース映像のような構成のものも確認されています。

こうした動画を本物だと信じ込んだ人が動画を真似てクマに餌付けしたり攻撃した場合、命に関わる獣害事故に発展する恐れがあります。

また、2025年10月に大規模なハリケーン・メリッサがカリブ海諸国を襲った際、被災地であるジャマイカで洪水に沈んだ街中やプールをサメが泳いでいるように見せかけた、生成AIによるフェイク動画がTikTokで拡散されました。

こちらも「Sora」のマークが入っているものもありましたが、調べてみるとそうした透かしが入っていないコンテンツが確認できました。

これらの動画はサメの動きや形状が不自然なので、サメ愛好家であれば容易にフェイクだと気付けるレベルでしたが、分からない人も当然いるでしょう。

こうした動画で余計なパニックが広がれば、救助活動に支障が出る恐れもあります。

生成AIによる生き物のフェイク画像を拡散する行為を野放しにすれば、いずれ取り返しのつかない事態に発展するリスクもあり、極めて迷惑だと言わざるを得ません。

生成AIを擁護する声とその反論

こうした問題点を挙げて「生成AIで作ったコンテンツはそうであると分かるようにしろ」という発信をすると、AIを擁護したい人たちから「反AI」というレッテルを貼られて文句を言われることがあります。

AIそのものを否定したわけではないのに反AIというレッテルを張る時点でだいぶ残念な気がするのですが、せっかくの機会なのでよく言われる反論を処理しておきましょう。

反論1：違法じゃないから別にいいだろ

違法ではないけど迷惑な行為があることを理解しましょう。そして、今は違法ではないだけで規制されるリスクがあります

この記事の原案を作っていた2025年11月時点で、生成AIで作った生き物のフェイク動画を禁止・制限するような法律は僕が知る限りありません。というより生成AIに関する規制自体が全然まだ整備されていないと思います。

しかし、「違法ではない」はいかなる批判も封じる魔法の言葉ではありません。違法ではないけれども迷惑だからやるべきではない行為、愚かだからするべきではない行為というのが世の中にはたくさんあります。

例えば反ワクチン思想を広める行為は、ワクチン接種会場の襲撃や医師への誹謗中傷などをしない限り刑事罰に問えません。しかし、科学的に検証された結果を無視して公衆衛生を脅かすデマを広めているという点で、犯罪に匹敵する迷惑行為と言えます。

また、世の中には違法薬物と同じような症状を起こすけれども成分の違いなどの理由から規制できていない脱法ドラッグと呼ばれるものが存在します。もしあなたの大切な人が「違法じゃないから別にいいだろ」と言って脱法ドラッグを使おうとしたら、違法ではなくても何故ダメなのかを伝えるのではないでしょうか。

法律に違反していない行為でも、具体的な問題点やリスクがあるのであれば批判されるのは当然のことですし、社会に迷惑をかけるのであれば慎むべきです。

また、こうした問題は大抵法律が追い付いていないだけで、後から規制されていくことが多いです。

生き物関連で言えば、日本国内でコツメカワウソがペットとして流通した際に、そもそも一般人が適正飼育できる動物ではなく、日本でのペット需要が絶滅危惧種であるカワウソの乱獲や密輸につながり、それが国内で規制できていないという問題を専門家や環境保護団体が取り上げました（詳しくはコチラ）。

この時も「違法じゃないから別にいいだろ」という反発があったのですが、その後ワシントン条約でコツメカワウソなどが附属書Ⅰに掲載され商業目的での国際取引は禁止、国内も種の保存法により取引が制限されることになりました。

生成AIも普及や発展が急速だから法整備が追い付いていないというだけで、全面禁止にならないとしても、何らかの規制が今後始まる可能性があります。

反論2：そこまで生き物を適切に学びたいなら現物を見るべき

一理ありますが、万人にそれを求めるのは無理です。また、情報汚染をしている側にはそれを言う資格はありません。

これはAIを擁護する意見とは必ずしも言えませんが、今回の問題に大きくかかわることなので取り上げます。

生成AIによる情報汚染が起こる前から、ホホジロザメとしてシロワニの写真が使われているサイトなど、インターネットは生き物にまつわる誤った情報で溢れていました。

そのため、その生き物のことをよく知るにしても、それをモデルに絵を描くにしても、ネットの情報に頼り過ぎなのが良くない、生成AI以前の問題であるというわけです。

これは確かに正論だと思います。僕自身も実際のサメを観察したりサメの標本を作製する中で得られた気付きは多いので、生き物を探求するならネットだけに頼るべきではないという理屈はよく分かります。

しかし、生き物に関心を持つ人全員にその熱量とコストを求めるのは無茶です。ライト層はまずネットの情報から入ります。そして、ネットで知った誤情報をライト層が鵜呑みにして、それがもとで起こる議論や問題に専門家や愛好家が振り回されたり、不快な思いをするという事態が起きます。

先ほどのカワウソペット問題もまさにその例です。飼育の難しい絶滅危惧種であるということを無視した飼い方解説のブログ記事などが一時期量産されました。また、僕がYouTubeに投稿したサメ解説の動画には定期的に、シャチに関する薄っぺらい知識をネットで得たと思しき人からサメを蔑む不愉快なコメントが書き込まれます（サメ・シャチ関連の解説はコチラ）。

こうした事例を考えると、本物と向き合う俗に”ガチ勢”と呼ばれる層にとっても、ネットの誤情報は他人事ではありません。ライト層を誤解させるようなコンテンツは、全部潰すのは無理だとしても極力ない方が理想で、今後そうしたコンテンツを量産していくであろう生成AIには警戒すべきです。

ちなみに、ネットと実物の間として図鑑を思い浮かべる人も多いと思いますが、図鑑でも誤同定はありますし、素材サイトの写真が使われていることも多いです。そのため、今後生成AIのフェイクが図鑑に紛れ込むリスクも十分にあると思います。

付け加えると、この「生き物を学びたいなら実物を観ろ」という正論は、あくまで生き物との向き合い方や自衛手段の話です。

普段から実物に向き合って生き物を学んだり発信している人が「生成AIに関わらずネットの情報に頼り切っちゃダメだよ」と主張するのは筋が通っていますが、ネットに誤情報をまき散らして汚染している人が「そもそもネットに頼り切るやつが悪い」などと言う資格はありません。

生成AIユーザーの方は、どうか思い上がらないように注意して頂きたいです。

反論3：Photoshopでの加工やコラ画像は良いのに何故AIはダメなのか？

生成AI以外のツールでも、先に挙げたような問題を引き起こすならダメです。また、CO2排出量という生成AI特有の問題を指摘する声もあります。

重要なのは生成AIであるかどうかではなく、生き物の適切な理解を妨げたり、生き物関連の事故を誘発するようなコンテンツを作り、本物であるかのように発信することです。

生成AI以外のツールで同じことをするのも、もちろん批判対象になります。

2016年4月に熊本県で地震が起きた際「おいふざけんな、地震のせいで　うちの近くの動物園からライオン放たれたんだが　熊本」という文章と共に、街中を歩くライオンの画像がX（当時Twitter）に投稿されたことがありました。

こちらの投稿は熊本とは全く関係のない画像を使った完全なデマだったのですが、この投稿のせいで熊本市動植物園に問い合わせが殺到し、デマを投稿した男は偽計業務妨害罪で逮捕されました。

時は流れ2025年11月26日に宮城県女川町がクマの出没を呼び掛ける際に使用した画像が、後に生成AIによるフェイクだったと判明するという事態が起きました。

これは女川町がフェイクを作ったわけではなく、通報者から提供された画像をそのまま使ってXなどで呼びかけを行ったところ、実はフェイクだったというケースです。

上記二つの事件は使われたツールが違うだけで、人命に関わるデマを流して他人に迷惑をかける下劣かつ不愉快な行為という点では全く同質です。

「AIだからダメ、そうではないなら良い」というのではなく、フェイクを使って迷惑な行為をするのがダメだという根本の部分を理解して欲しいです。

ただ、もし既存のツールよりも生成AIを問題視すべき理由があるとすれば、CO2排出量が挙げられるかもしれません。

生成AIは、大量のデータを高速に処理して学習や推論を行うため、サーバーを運用するデータセンターでは沢山の電力が必要となります。そのため、一部の研究者や環境保護団体は、生成AIを使うことがCO2排出量の増加に繋がってしまうのではないかと懸念しているのです。

もっともこのCO2排出量については使うツールなどによって異なるなど議論があるようですが、生成AIは生き物の適切な理解というだけでなく、サステナビリティの観点からも生き物に関わる問題かもしれません。

反論4：恐竜などの古生物であれば生成AIでも問題ないのではないか。

厳密に正しい姿の分からない古生物も、いい加減に再現していいわけではありません。

インターネット上には古生物のイラストや復元イメージのデータも多く存在するので、そうしたデータを学習した生成AIを使えば、古生物のイラストを描くのも容易です。

そして、古生物の再現イメージは「絶滅しているから実物の写真や動画がない」という点で、現生種よりもAI生成の需要があります。さらに「本当の正しい姿なんて誰も分からない」という言い訳がしやすいという点で、情報汚染が広がりやすいです。

確かに古生物研究の世界では、過去の復元図が誤りとされたり、研究者の間で復元図について意見が分かれることはよくあります。ヘリコプリオンの螺旋状に並んだ歯はどうなっていたのか、ティラノサウルス・レックスに羽毛があったのかどうかの議論など、今も話題に事欠きません。

正直僕自身も、生成AIの様々な問題を理解する前は「これで素材の手に入りにくい古生物の紹介がしやすくなるかも」と肯定的に考えたことがありました。

しかし、実際の古生物の再現というのは、発見されている化石、近い仲間と思われる現生種との比較、地層から分かる当時の環境などの様々な情報を元に行われるべきです。

それぞれの復元図に賛否があるとしても、その時点で得られる科学的な根拠に基づいています。古生物を描くイラストレーターの方々も、そうした根拠を勉強した上で再現をしています（そうではない人もいるのかもしれませんが、本来はそうすべきです）。

いくら正解が誰にも分らないからといって、それっぽいデータの寄せ集めからいい加減に再現していいものではありません。

生成AIによるフェイクへの対策

生成AIによる問題とどう向き合えばいいのでしょうか。

• 騙されないための自衛手段
• 発信者側が気を付けるべきこと
• 今後導入されるべき規制

この三つに分けて僕なりの対策をお話ししていきます。

生成AIを見破るには細部や環境に注目せよ

生成AIに騙されないためには、実物の細部に着目して騙されない目を養う必要があります。

今まで観察してきた現時点での持論ですが、生成AIの”粗”は細部に宿ります。

例えばサメであれば本来あり得ないところからヒレが生えていたり、歯の形状や向きがおかしいことが多いです。他にも昆虫であれば羽や脚の数、哺乳動物なら指の数など、細かい部分に着目すると見破りやすいと思います。

人間やアニメキャラをAI生成した画像もいくつか確認してみましたが、やはり指の形状や本数が心霊写真のようになっていたり、顔にかかる髪の毛が不自然であるなど、細かい部分で粗が目立ちました。

また絵画や写真に詳しい方は生き物そのものよりも、水滴や波の形状、光の当たり方、背景との関係性などから違和感を感じることも多いようです。

こうした分野の知識を蓄えておくと、生き物自体がものすごくリアルに見えても見破れるかもしれません。

発信者側は意図しない情報汚染に気を付ける

まず大前提として、生成AIで作った生き物の画像や動画を発信で使わない方が良いでしょう。ハルシネーションのリスクが高すぎるので、適切な生き物の理解を促進したいなら使う価値はありません。

何らかの事情で使う場合も、当記事内でそうしているように、生成AIであると分かりやすく明記するのが無難です。

ただし、生成AIだと分からずに使ってしまうリスクもあるので、なるべく自分が撮影した素材を使う、素材サイトを使う場合は生成AIが普及する前にアップされた古い写真を優先して選ぶなどの方法で対策する必要があります。

また自分で撮影した素材でも、画像を加工する際に勝手にAIが改変してしまうケースがあるので要注意です。

画像を加工するアプリの中にはAIによる画質改善の機能がついているものがあります。画質改善とだけ聞くと素晴らしい機能に思えますが、実態は取り込んだ画像を元にしたAIによる画像の再構築だったりします。

これにより、自分で実物を撮った写真なのに、生成AIで作ったような変な見た目の画像に改変されてしまうことがあるんです。

知らぬ間にフェイクの拡散に加担しないよう、自分が使うツールには慎重になった方が良いですね。

発信者は信用を積み重ねることも重要

さらに、自分は生成AIで人を騙さない人間だとアピールするのも大事です。

全てのフェイクを瞬時に見抜くのは無理ですし、今後その難易度はさらに上がっていきます。そしてフェイクで人を騙す人たちは恐らく今後も湧いてくるでしょう。

そのため、生成AIかどうかの見分けはいずれどこかで「この人はフェイクで人を騙すような人間かどうか？」という信用の問題になるはずです。

騙されないための自衛手段としては「この人は信用できるかどうか」という基準だけに頼るのはおすすめできませんが、現実にはそういう風に判断するしかない人も世の中には多くいます。

そうした状況でファンや取引先から信用してもらうために「自分は生成AIで作られた生き物素材は一切使いません」と公言したり、フェイクで人を騙す行為に定期的に批判の声を上げるなどの方法でアピールして、信用を積み上げていくのが今後大事になってくると思います。

AI生成であるという表記を義務付けるべき

政府やプラットフォームの運営者に求めるべきは、生成されたものがAI生成であるという表記の義務です。

画像や動画内にできるだけ大きく生成AIで作られたものだと記載するのを義務づけるか、出力する時点でそういう透かしが強制的に入る仕様をAI側に義務付けるというのも手だと思います。

もちろん、表記を義務付けたところで表記を怠る人、意図的に表記を消す人は現れると思います。

しかし、「生成AIで作ったものには表記するのが常識だよね」「表記しないのは犯罪だよね」「生成AIのフェイクを本物と偽るのは人として終わっているよね」というような考えが社会で定着していけば、悪人は制御できなくても、無知や善意によって情報汚染などの問題を引き起こす人を減らせるので、決して意味がないわけではありません。

生成AIによる問題をゼロにすることはできなくても、少しでも減らすために、コンテンツ内の表記義務化を推していきたいと考えています。

まとめ

今回は生成AIによる生き物フェイクの問題点や対策を紹介しました。

以下、今回の記事のまとめです。

こうした問題を考慮し、当サイトでも生成AIに関するポリシーを定めました。詳しくはコチラをご参照ください。

引き続きよろしくお願いいたします。

参考文献

• ITmedia（松浦立樹）『希少生物発見の記事なのに“AIイメージ画像”──科学メディア「ナゾロジー」が物議　運営企業に見解を聞いた』2025年（2025年12月27日閲覧）
• MIT Technology Review『予想以上に多かった、生成AIの二酸化炭素排出量』2023年（2025年12月27日閲覧）
• 朝日新聞（大山稜, 三村悠）『道路にクマ出没、フェイク画像だった　注意喚起の宮城県女川町が訂正』2025年（2025年12月27日閲覧）
• 一般社団法人グリーンピース・ジャパン『あなたの使うAIが、環境問題を悪化させているかもしれない理由』2025年（2025年12月27日閲覧）
• 毎日新聞『旧石器発掘ねつ造：教育現場も混乱　新説反映、裏目に』2000年（2025年12月27日閲覧）
• 読売新聞（野口英彦, 増田尚浩）『クマを「素手で撃退」「おばあちゃんが餌付け」…生成ＡＩで偽動画・ＳＮＳ拡散、専門家「危険を助長」』2025年（2025年12月27日閲覧）
• Togetter『AIの画像補正技術が高すぎて、そこに存在しない生物を作り出して起きてしまった悲劇』2025年（2025年12月27日閲覧）