RSSおすすめ記事です

スポンサーリンク

【悲報】海外でAIボイスの“振り込め詐欺”が成功してしまう

ニュースAI

人工知能が仕事

スポンサーリンク

【悲報】海外でAIボイスの“振り込め詐欺”が成功してしまう

1 : 名無しのシステムエンジニアさん 2019/09/10(火) 14:30:20.93 ID:CAP_USER.net

 AIが電話をして美容院やレストランの予約をする――。そんなテクノロジーが実現すると、犯罪に悪用する者が現れても不思議ではない。電話でボスから送金の指示を受け、実行したところ、その声はAI合成だったという詐欺事件が発生した。この企業は22万ユーロ(24万3000ドル)をまんまと奪われてしまったという。

□Deepfakeでボスの音声を合成して送金指示
 ある日、英国エネルギー企業のCEOはドイツにいるボス(親会社のCEO)から電話で「ハンガリーに22万ユーロを送金するように」と命じられた。「至急、それも一時間以内に」という指示だった。声は抑揚も、ドイツ訛りの英語も、いつも聞いているボスの声だった。

 電話は同じ日に計3回あり、2回目の電話では、22万ユーロを払い戻すという連絡を受ける。そして3回目。再びボスは送金を指示してきた。だが払い戻したはずの22万ユーロはまだ届いていない。そこで不審に思った子会社のCEOは、電話の発信元がオーストリアの番号であることに気づき、3回目の指示には従わなかった。

 あとで、ボスは電話をしておらず、「Deepfake」で音声を合成した詐欺であることが分かった。最初にハンガリーの銀行に振り込まれた22万ユーロは、その後メキシコに移動し、さらに複数の場所に分散されたという。犯人は、いまだ特定されていない。

 この事件は今年3月に発生したものだ。Wall Street Journalが8月末、被害企業が契約する信用保険会社Euler Hermes Group(Allianz子会社)の証言を元に伝えた。AIを使った音声のなりすまし攻撃として欧州初だろうとしている。被害企業の名前は伏せられている。

□データが多い有名人はターゲットになりやすい
 Deepfakeはディープラーニングで本物そっくりの動画などを偽造することだ。画像、動画が次々に現れ、フェイクニュースなどへの悪用が危惧されている。今回の事件は、画像だけでなく、音声も十分に悪用されることを実証した。

 Euler Hermesの詐欺問題専門家Rudiger Kirsch氏は「AIを使った詐欺は企業にとって新しい課題だ」とWall Street Journalに述べている。なぜなら、これまでのサイバーセキュリティツールでは、なりすましの音声を検出できないからだという。

 サイバーセキュリティ企業Endgameのデータサイエンス担当ディレクターBobby Filar氏は、簡単に音声偽装のできるサービスが複数あり、「数学の博士号を持ってなくとも使える」と解説している。

 ZDNetは、CEOが偽音声のターゲットになりやすいと指摘する。CEOは人前で話す機会が多く、メディアの露出が多いのはもとより、スピーチ動画がYouTubeなどに掲載されている。データはふんだんにあり、簡単にAIをトレーニングできるのだ。

 BBCによると、Symantecが3件の声のDeepfake事件を確認しているが、いずれもCEOの声を使ったものだった。被害者の経済的損失は数百万ドルに上るという。SymantecのCTO、Hugh Thompson博士は、詐欺師が、データを利用して音声のモデルを構築していることに触れ、「モデルはほぼ完璧」と述べている。

 The Next Webは「AIベースのツールは探求や創造性に利用できるが、同時に、犯罪、騙し、ほぼ(残念ながら)完璧な詐欺も可能にする」と述べている。

https://cloud.watch.impress.co.jp/docs/column/infostand/1206050.html


スポンサーリンク

ネットの反応

3 : 名無しのシステムエンジニアさん 2019/09/10(火) 14:31:30.08 ID:OWZM2SC1.net
Left Caption

AI「わてや わてやで ほなさいなら!」

5 : 名無しのシステムエンジニアさん 2019/09/10(火) 14:37:12.64 ID:9KfiqSTT.net
Left Caption

もう何も信用できなくなった。

6 : 名無しのシステムエンジニアさん 2019/09/10(火) 14:46:11.86 ID:DM/2twKU.net
Left Caption

いいこと考えた!

8 : 名無しのシステムエンジニアさん 2019/09/10(火) 14:55:26.03 ID:nuyf56S+.net
Left Caption

露出の多いボスだとやばいんだなw

9 : 名無しのシステムエンジニアさん 2019/09/10(火) 14:57:03.82 ID:h0sK5b2l.net
Left Caption

元データ切り貼りすればAI扶養では?

10 : 名無しのシステムエンジニアさん 2019/09/10(火) 15:00:43.53 ID:lqSmBqNM.net
Left Caption

音声だけでなく動画まで作れるんだな

11 : 名無しのシステムエンジニアさん 2019/09/10(火) 15:30:25.33 ID:BbK25CUq.net
Left Caption

秘密の合言葉は‥‥‥だ!

14 : 名無しのシステムエンジニアさん 2019/09/10(火) 16:04:43.89 ID:74fNkCeB.net
Left Caption

AI化で俺俺詐欺も省力化かよ、詐欺師も失業やな

15 : 名無しのシステムエンジニアさん 2019/09/10(火) 16:11:43.08 ID:meH9XDNH.net
Left Caption

動画も音声も信頼できない時代が来たな…

16 : 名無しのシステムエンジニアさん 2019/09/10(火) 16:37:56.81 ID:NC1nHx4Z.net
Left Caption

AI「電話は原始的過ぎ

17 : 名無しのシステムエンジニアさん 2019/09/10(火) 16:44:33.40 ID:hW0wNIzP.net
Left Caption

電話はもうセキュリティ的に限界なんだろうな
Slackの株でも買っとくか

Posted by flac