フェラクレス
ディープフェイクとは？ 皆さんのなかには、ディープフェイクという言葉を初めて聞いた方も多いのではないでしょうか。 ディープフェイクは、AIのディープラーニング（深層学習）とフェイク（偽物）をあわせた造語です。 AI技術を悪用した高品質な合成画像や映像・音声の偽物を表し、素人には判別できないほど精巧であることが特徴です。 AI技術は非常に進化しており、今や本物との違いがわからないほど精巧な偽物を作り出すことができるようになっています。 こうしたディープフェイクによる画像や映像・音声などは、主にインターネット上のコンテンツとして悪用目的で利用されることが多いです。 ディープフェイクで作られた偽物の動画や音声は、ディープフェイクビデオやディープフェイクボイスと表現されることもあり、従来の技術では偽物を作ることが難しかった動画・音声の分野で利用されることが多いのです。 ディープフェイクの問題点・事例 精巧な偽物を作り出すディープフェイクには、次に挙げるような危険性・問題点が存在します。 それぞれの問題点や事例について、一つずつ見ていきましょう。 政治上の印象操作｜オバマ元大統領がトランプ大統領を批判した偽の演説動画 ディープフェイクを用いることで、政治家が言ってもいないことをでっち上げることができてしまいます。 たとえば、ディープフェイクの演説動画を使って、政治上の印象操作を行うなどのことが可能です。 後ほど紹介しますが、実際にこのような事例は存在しており、場合によっては国際問題に発展する可能性もあります。 アメリカでは、オバマ元大統領がトランプ大統領に対して「うんざりだ」という旨の発言をしている動画がYouTubeで公開されています。 こちらは、ディープフェイクの驚異を世界に知らしめるために制作されたものですが、非常に精巧であり、本物との違いがほとんどわかりません。 海外の女優エマ・ワトソンさんや、メイジー・ウィリアムズさんのフェイクポルノが有名であるほか、日本人の女優やアイドルも標的とされており、ディープフェイクに特化したポルノサイトも存在しているほどです。 また、被害の対象は著名人だけではなく私たち一般人にも危険性があります。 リベンジポルノとして脅迫などに利用されることも考えられ、女性だけでなく男性にとっても人権侵害・信用失墜の危険性があります。 さらに、顔写真が250枚ほどあればディープフェイクが作成できるサービスが存在しています。 フェイクポルノによる被害は、誰にでも起こり得る可能性があることを覚えておきましょう。 フェイクボイス｜CEOになりすまし約2,600万円の詐欺被害 音声合成技術は、従来の機械的な音声合成ではなく、実在する人物が話しているような音声が作れるまでに進化しています。 すでに電話では判別できないほどのレベルに達しており、電話を利用したオレオレ詐欺等の事例が増える危険性があるのです。 イギリスでは、ディープフェイクボイスを利用した詐欺事例が報告されています。 イギリスを拠点とするエネルギー企業のCEOによって、至急22万ユーロ（約2,600万円）を送金するように指示されたところ、実際はディープフェイクボイスだった、という事例です。 大きな企業のCEOともなれば、メディアの露出が増えます。 そのため、ディープフェイクボイスの元となるデータを集めやすいといえるでしょう。 先ほどのディープフェイクの動画を見ればわかるとおり、電話越しの音声だけでは本人と判別がつかなくなっており、注意が必要であることがわかる事例です。 参照元： ディープフェイクに騙されないために 私たちは非常に精巧なディープフェイクに対して、どのような対策を取ればよいでしょうか。 ディープフェイクに騙されないために心得ておくべきことを紹介します。 情報をすべて鵜呑みにしない インターネット上にはさまざまな情報が溢れていますが、すべてが真実とは限りません。 私たちが得る情報は本物なのか、と疑う習慣を身につけるべきでしょう。 特に著名人のポルノ動画などは冷静に考えると「あり得ない」という判断ができるはずです。 ディープフェイクは今まで以上に情報の真偽の見極めが難しいものです。 しかし、まずはこのような嘘の情報があることを知り、情報をすべて鵜呑みにしないことを意識することからはじめましょう。 事実確認、検証をする ディープフェイクは非常に精巧な作りであるとはいえ、完璧なものではありません。 少しでも違和感があるのであれば、まずは情報源を確認しましょう。 たとえば、政府の動画に見せかけたディープフェイクであったとしても、情報源が政府とは関係のないWebサイトであれば偽物だと判断することが可能です。 情報を公開している人物を確認することでも判断可能でしょう。 例えば、前述したザッカーバーグ氏の演説動画には「CBSN」のロゴが入っているため、同社のWEBサイトからこのニュースが本物かどうか、確認をすることができます。 ディープフェイクに関わらず、情報源となる一次情報の確認は、インターネット上から情報収集をする上では非常に大切なことです。 安易に拡散しない SNSが非常に発達しており、多くの人が気軽に情報を発信できる世の中ですが、面白がって安易に情報を拡散しないように気をつけましょう。 嘘の情報を拡散してしまうと、多くの被害者が発生することになります。 情報を拡散する場合は与えられた情報を鵜呑みにせず、事実確認や検証をした上で拡散する習慣を身につけるとよいでしょう。 もし、何も考えずに拡散してしまった場合、拡散した情報が特定の人を傷つけるものであれば、あなたも加害者の一人になってしまうかもしれません。 嘘の情報に騙されない！ディープフェイクに気をつけよう ディープフェイクは、AI技術を悪用した、高品質な合成画像や映像・音声で、偽物です。 ディープフェイクビデオやディープフェイクボイスなどは、非常に精巧な作りであるため、素人目には本物との区別がつきづらいという特徴があります。 ディープフェイクに騙されないように、すべての情報を鵜呑みにせず、情報の事実確認や検証を行う習慣を身につけるとよいでしょう。 また、安易に拡散して被害者を増やすことのないように、情報を拡散する際には注意することを意識してみてください。 このように、私たちの日常生活には皆さんが気づきにくいネットトラブルがたくさん潜んでいます。 被害に遭った、不安があり悩んでいる、といった際はドコモの「」をぜひご活用ください。 にお電話いただければ専門スタッフが悩みをお聞きして、ネットトラブルの解決を全面的にサポートします。 ぜひ一度ご相談ください。 新規事業室 チーフコンサルタント 池田 啓宏 東京大学経済学部卒業後、コンサルティングファーム、ベンチャーキャピタルを経てエルテスへ入社。 経営コンサルティング業務に長年携わっており、経営視点での課題抽出を得意とする。 エルテスでは、ディープフェイク等の新たなテクノロジー・メディア普及の反動として生じるニューリスクに対する研究等を行っている ログアウト.
次の
日本でも被害拡大するディープフェイクとは？その問題点や事例・対策について｜【NTTドコモ】ネットトラブルあんしんサポート
ディープフェイクとは？ 皆さんのなかには、ディープフェイクという言葉を初めて聞いた方も多いのではないでしょうか。 ディープフェイクは、AIのディープラーニング（深層学習）とフェイク（偽物）をあわせた造語です。 AI技術を悪用した高品質な合成画像や映像・音声の偽物を表し、素人には判別できないほど精巧であることが特徴です。 AI技術は非常に進化しており、今や本物との違いがわからないほど精巧な偽物を作り出すことができるようになっています。 こうしたディープフェイクによる画像や映像・音声などは、主にインターネット上のコンテンツとして悪用目的で利用されることが多いです。 ディープフェイクで作られた偽物の動画や音声は、ディープフェイクビデオやディープフェイクボイスと表現されることもあり、従来の技術では偽物を作ることが難しかった動画・音声の分野で利用されることが多いのです。 ディープフェイクの問題点・事例 精巧な偽物を作り出すディープフェイクには、次に挙げるような危険性・問題点が存在します。 それぞれの問題点や事例について、一つずつ見ていきましょう。 政治上の印象操作｜オバマ元大統領がトランプ大統領を批判した偽の演説動画 ディープフェイクを用いることで、政治家が言ってもいないことをでっち上げることができてしまいます。 たとえば、ディープフェイクの演説動画を使って、政治上の印象操作を行うなどのことが可能です。 後ほど紹介しますが、実際にこのような事例は存在しており、場合によっては国際問題に発展する可能性もあります。 アメリカでは、オバマ元大統領がトランプ大統領に対して「うんざりだ」という旨の発言をしている動画がYouTubeで公開されています。 こちらは、ディープフェイクの驚異を世界に知らしめるために制作されたものですが、非常に精巧であり、本物との違いがほとんどわかりません。 海外の女優エマ・ワトソンさんや、メイジー・ウィリアムズさんのフェイクポルノが有名であるほか、日本人の女優やアイドルも標的とされており、ディープフェイクに特化したポルノサイトも存在しているほどです。 また、被害の対象は著名人だけではなく私たち一般人にも危険性があります。 リベンジポルノとして脅迫などに利用されることも考えられ、女性だけでなく男性にとっても人権侵害・信用失墜の危険性があります。 さらに、顔写真が250枚ほどあればディープフェイクが作成できるサービスが存在しています。 フェイクポルノによる被害は、誰にでも起こり得る可能性があることを覚えておきましょう。 フェイクボイス｜CEOになりすまし約2,600万円の詐欺被害 音声合成技術は、従来の機械的な音声合成ではなく、実在する人物が話しているような音声が作れるまでに進化しています。 すでに電話では判別できないほどのレベルに達しており、電話を利用したオレオレ詐欺等の事例が増える危険性があるのです。 イギリスでは、ディープフェイクボイスを利用した詐欺事例が報告されています。 イギリスを拠点とするエネルギー企業のCEOによって、至急22万ユーロ（約2,600万円）を送金するように指示されたところ、実際はディープフェイクボイスだった、という事例です。 大きな企業のCEOともなれば、メディアの露出が増えます。 そのため、ディープフェイクボイスの元となるデータを集めやすいといえるでしょう。 先ほどのディープフェイクの動画を見ればわかるとおり、電話越しの音声だけでは本人と判別がつかなくなっており、注意が必要であることがわかる事例です。 参照元： ディープフェイクに騙されないために 私たちは非常に精巧なディープフェイクに対して、どのような対策を取ればよいでしょうか。 ディープフェイクに騙されないために心得ておくべきことを紹介します。 情報をすべて鵜呑みにしない インターネット上にはさまざまな情報が溢れていますが、すべてが真実とは限りません。 私たちが得る情報は本物なのか、と疑う習慣を身につけるべきでしょう。 特に著名人のポルノ動画などは冷静に考えると「あり得ない」という判断ができるはずです。 ディープフェイクは今まで以上に情報の真偽の見極めが難しいものです。 しかし、まずはこのような嘘の情報があることを知り、情報をすべて鵜呑みにしないことを意識することからはじめましょう。 事実確認、検証をする ディープフェイクは非常に精巧な作りであるとはいえ、完璧なものではありません。 少しでも違和感があるのであれば、まずは情報源を確認しましょう。 たとえば、政府の動画に見せかけたディープフェイクであったとしても、情報源が政府とは関係のないWebサイトであれば偽物だと判断することが可能です。 情報を公開している人物を確認することでも判断可能でしょう。 例えば、前述したザッカーバーグ氏の演説動画には「CBSN」のロゴが入っているため、同社のWEBサイトからこのニュースが本物かどうか、確認をすることができます。 ディープフェイクに関わらず、情報源となる一次情報の確認は、インターネット上から情報収集をする上では非常に大切なことです。 安易に拡散しない SNSが非常に発達しており、多くの人が気軽に情報を発信できる世の中ですが、面白がって安易に情報を拡散しないように気をつけましょう。 嘘の情報を拡散してしまうと、多くの被害者が発生することになります。 情報を拡散する場合は与えられた情報を鵜呑みにせず、事実確認や検証をした上で拡散する習慣を身につけるとよいでしょう。 もし、何も考えずに拡散してしまった場合、拡散した情報が特定の人を傷つけるものであれば、あなたも加害者の一人になってしまうかもしれません。 嘘の情報に騙されない！ディープフェイクに気をつけよう ディープフェイクは、AI技術を悪用した、高品質な合成画像や映像・音声で、偽物です。 ディープフェイクビデオやディープフェイクボイスなどは、非常に精巧な作りであるため、素人目には本物との区別がつきづらいという特徴があります。 ディープフェイクに騙されないように、すべての情報を鵜呑みにせず、情報の事実確認や検証を行う習慣を身につけるとよいでしょう。 また、安易に拡散して被害者を増やすことのないように、情報を拡散する際には注意することを意識してみてください。 このように、私たちの日常生活には皆さんが気づきにくいネットトラブルがたくさん潜んでいます。 被害に遭った、不安があり悩んでいる、といった際はドコモの「」をぜひご活用ください。 にお電話いただければ専門スタッフが悩みをお聞きして、ネットトラブルの解決を全面的にサポートします。 ぜひ一度ご相談ください。 新規事業室 チーフコンサルタント 池田 啓宏 東京大学経済学部卒業後、コンサルティングファーム、ベンチャーキャピタルを経てエルテスへ入社。 経営コンサルティング業務に長年携わっており、経営視点での課題抽出を得意とする。 エルテスでは、ディープフェイク等の新たなテクノロジー・メディア普及の反動として生じるニューリスクに対する研究等を行っている ログアウト.
次の
