まだこれならニセモノって分かるな。
日本テレビのニュース番組の画面に見せかけた上で岸田首相の声を悪用した動画がSNSで拡散されています。日本テレビは「放送を悪用されたことは到底許すことはできない」とコメントしています。
一応、YouTubeのURLも貼っておく。これ消さないよね。
こっちはちょっと見分けが難しい。動画部分は本物を使っていて、音声を入れ替えているだけなので内容で判別するしかない。
この偽動画は実在の女性のアナウンサーなどが投資情報サイトへの登録を促し投資を呼びかける内容で、まるでニュース番組のように出演者の声や動きが再現されています。
実際に放送された日本テレビのニュース番組をもとに、生成AIを使って音声や動画の一部を加工したものとみられ、10月下旬からYouTubeやフェイスブックに投稿されていました。
NHKのほうは自前の動画サーバらしく、動画単独のURLは貼れない。
もう数年前から問題視されているディープフェイク。
AI技術の進化に伴い、高度なディープフェイク動画の制作が可能になったことから、ディープフェイクを巧妙な騙しの手口として悪用する犯罪が増えています。企業が被害に遇うケースも増えており、なりすましによる金銭的被害や、情報セキュリティへの攻撃が行われるケースが欧米を中心に報告されています。ディープフェイクは映像だけでなく音声も偽装可能です。企業の経営者などになりすまし、実際には言っていないことを言わせることも可能。2019年には、ある海外企業のCEOの声があまりにも似ていたため、部下が騙され、約2600万円を詐取される被害が起きました。被害金額の大きさも相まって、ディープフェイクの脅威が広く報道されました。
news\/html\/20231101\/movie\/k10014243501_202311011139_202311011142
岸田首相のフェイク動画の話に戻るが、ツールもあるから案外簡単にできてしまう。
男性によると、ネット上で公開されている首相の記者会見や自民党大会の演説などの動画から、首相の音声をＡＩに学習させて、偽音声を用意した。首相のオンライン記者会見を伝えた日本テレビのニュース番組を利用し、自身の声を首相の偽音声に変換させる機能を使って、わいせつな発言を吹き込んだ。
そして、セリフに合うように、首相の口の動きを加工したり、テロップを作ったりして、１時間足らずで作り上げたという。
今回は番組のロゴなども使われているし番組を使ったので著作権法に引っ掛かる。岸田首相に偽の不名誉な発言をさせているので、名誉棄損にあたる可能性がある。
個人で遊んでいる分には構わないけど、身内にも公開しちゃまずいだろ。その身内が大々的に公開しないっていう確証を持てないでしょ。公開されてしまえばこのように罪に問われたり賠償請求される可能性もある。
まだバレるレベルの動画が多いからいいけど、そのうち本当に見分けがつかないものが出てきそう。ネットの動画なら見分けるツールを使うという手もあるけど、TVとかで流されたらお手上げだな。
