有名人の顔を借りた詐欺広告、Metaの対応をどう見るか
AI偽動画
AIで顔や声をまねて作った、にせの動画。
内部文書
会社の中で作られた、外向けではない資料。
高リスク広告
お金をだます可能性が高い広告。
何が起きたか
マーク・キューバン(投資家)は、糖尿病が治るとうたう294ドルの商品を買った人から、毎週のように連絡が来ると話した。彼によると、その広告には本人の顔と声をAIでまねた偽動画が使われていた。キューバンは、Meta(Facebook、Instagram、WhatsAppを運営する会社)が、だまされる人がいると知りながら広告を流していると批判した。ただし、これはキューバンの主張であり、Metaがその個別広告を意図的に流した事実まで確認されたわけではない。
背景にある数字
Yahoo Financeの記事は、この発言とReutersが2025年11月に報じたMetaの内部文書を紹介している。記事の内容によると、文書には、2024年の売上の約10%、約160億ドルが、詐欺や禁止商品を売る広告から来るという社内推計があった。別の文書は、利用者が1日に約150億件の高リスク広告を見たと推計し、その広告の年間価値を約70億ドルとした。広告主を止めるには、広告が詐欺である可能性を自動システムが95%以上と判定する必要がある、とする説明もあった。それより低い場合は、広告が残り、料金が上がることもあるという。
なぜ重要か
AIは、顔や声を本物らしくまねる広告を作りやすくする。大きな広告サービスなら、その動画を短時間で多くの人に見せられる。ここには、利用者を守るために審査を厳しくすると、広告収入も減るという衝突がある。高齢者への被害も大きい。FBIの2025年報告では、60歳以上の申告は20万1266件、損失は77億ドルだった。AIが関係した申告も約3100件あり、損失は3億5200万ドルを超えた。いずれも申告された被害だけだ。
確認できたこと
Metaは、内部文書が一部を切り取ったもので、詐欺対策をゆがめていると反論した。同社は2025年に1億3400万件以上の詐欺広告を削除し、利用者からの報告は18か月で58%減ったと説明した。文書には、米証券取引委員会が金融詐欺に結びつく広告を調べているとも記されていた。Hacker Newsではこの記事が191 points、95 commentsを集めた。ただし、これはコミュニティの注目度であり、元記事の正しさを証明する数字ではない。
まだ分からないこと
約160億ドルの推計が、どの広告を含み、実際にどれほどの利益に対応するのかは分からない。キューバンが見た広告をMetaがいつ把握したのかも確認できない。AI偽動画が詐欺被害全体をどれだけ増やしたのか、削除された広告と残った広告の割合がどうなっているのかも、この材料だけでは判断できない。
次に見る点
今後は、規制当局が内部文書の数字をどう評価するか、Metaが高リスク広告の判定と停止基準を変えるかが焦点になる。利用者は、著名人の顔だけを信用せず、広告の外にある公式サイトで商品を確かめる必要がある。問題はAI偽動画だけではない。疑わしい広告を収益化し続ける仕組みを、誰がどう監督するかが問われている。
有名人の顔を使うAI広告、どう確かめる?
📰 しっかり版: 有名人の顔を借りた詐欺広告、Metaの対応をどう見るか
AIで作った偽動画の広告が、人をだます道具になっています。
偽動画
本物の人が話したように見せる、にせの動画。
内部文書
会社の中で作られた、外向けではない資料。
高リスク広告
お金をだます可能性が高い広告。
💡 ようするに
- マーク・キューバンは、顔と声をまねた広告を批判しました。
- Metaの内部文書には、危ない広告の大きな金額が書かれていました。
- Hacker Newsで話題でしたが、人気は本当の証明ではありません。
顔と声をまねる広告
マーク・キューバン(投資家)は、自分の顔と声をAIでまねた広告について話しました。広告は、糖尿病が治るとうたう商品を売っていました。キューバンは、その商品を売っていません。これはキューバンの説明です。Meta(Facebook、Instagram、WhatsAppを運営する会社)が、個別の広告をわざと通したと確認されたわけではありません。
資料が示したこと
Yahoo Financeの報道は、Reutersが見たMetaの内部文書を紹介しました。そこには、2024年の売上の約10%にあたる約160億ドルが、詐欺や禁止商品を売る広告から来るという見積もりがありました。別の資料は、1日に約150億件の高リスク広告が表示されたとしました。
広告を止める目安も書かれていました。機械が詐欺の可能性を95%以上と判断した時です。それより低いと、広告が残る場合があります。広告主がより高い料金を払う場合もありました。
なぜ問題が大きいのか
AIは、顔や声を本物らしく見せる動画を作ります。広告会社は、それを多くの人へすぐに見せられます。だから、うその広告でも広がりやすくなります。高齢者への被害も深刻です。FBIの報告では、60歳以上の被害申告は20万1266件でした。損失は77億ドルです。AIが関係した申告は約3100件で、損失は3億5200万ドルを超えました。これは申告された分だけです。
Metaの説明とこれから
Metaは、資料は一部だけを示していると反論しました。2025年に1億3400万件以上の詐欺広告を消したとも説明しました。Hacker Newsでは191 points、95 commentsが集まりました。これは注目の大きさです。内容が本当だという意味ではありません。
これからは、Metaの判定方法が変わるかを見ます。広告を見たら、有名人の顔だけで信じないことが大切です。支払う前に、公式サイトで商品を調べましょう。
💬 AI詐欺広告について、コメント欄で出た話
多くの投稿者は、AIが悪いというより、広告会社がもうけを優先して、あやしい広告を止めにくい仕組みが問題だと考えている。ただし、責任を広げすぎると危険だという意見もある。
- 投稿者が紹介したReuters報道では、Metaが詐欺や禁止品の広告から年約160億ドル、全収入の約10%を得る可能性を内部で見積もっていたとされる。また、詐欺の可能性が95%以上になるまで広告を止めず、それ未満なら広告を続けさせて高い料金を取ることがあるという。これは報道を紹介したコメントの情報である。
- 利用者の自己申告では、Instagramで詐欺広告を報告しても問題なしと判断されたり、広告と違う商品が届いた後も広告が残ったりしたという。YouTubeにも、著名人の偽動画や、大学の推薦を装う商品の広告があるという報告がある。
- 広告業界経験者の自己申告では、少額の広告主には厳しく、大口の広告主には甘い対応があったという。これは個人の経験談である。
- 対策として、広告を出す人の身元確認、新聞と同じような規制、返金や重い罰、広告を自分で探す商品一覧に限る案が出た。AI広告だけを止めても、詐欺広告はAI以前からあり、普通の広告に変えられるという意見もある。罰がなければ会社は変わりにくいという指摘もある。
- 別の投稿者は、Section 230をなくしたり、プラットフォームにすべての広告の責任を負わせたりしても、責任が広すぎると反論している。
コメント95件時点の初期(改訂1)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。
にせの顔が出る広告、ほんとうかな?
📰 しっかり版: 有名人の顔を借りた詐欺広告、Metaの対応をどう見るか
AIで作ったにせ動画の広告が、人を困らせています。
AI
顔や声をまねるコンピューターのしくみ。
内部文書
会社の中で作る、みんなに見せる前の紙。
詐欺広告
人のお金をだまし取ろうとする広告。
Meta(Facebookなどを運営する会社)で、困った広告の話が出ました。
マーク・キューバン(投資家)は、顔と声をAIでまねた動画を見たと話しました。その動画は、病気が治るという商品を売っていました。キューバンは、その商品を売っていません。これは、キューバンの話です。Metaがわざと広告を出したと、決まったわけではありません。
Metaの内部文書には、危ない広告で大きなお金が動く見積もりがありました。2024年の売上の約10%です。金額は約160億ドルです。
Metaは、文書は一部だけだと話しました。2025年に1億3400万件以上の詐欺広告を消したとも説明しました。
この話はHacker Newsでも話題になりました。191 pointsと95 commentsが集まりました。これは、たくさんの人が見た数字です。本当だと証明する数字ではありません。
広告を見たら、顔だけを信じません。大人と一緒に公式サイトで確かめます。
💬 詐欺広告をどう止める?
コメント欄では、広告会社がもうけのために、あやしい広告を止めないのではないかと心配している。
- 投稿者が紹介した報道では、Metaが詐欺広告から年約160億ドル、全収入の約10%を得る可能性があるとされた。95%以上あやしいと判断するまで止めず、それ未満なら広告を続けさせることもあるという。
- 利用者の自己申告では、InstagramやYouTubeで詐欺広告を報告しても、消えないことがあった。広告業界経験者からは、小さな広告主に厳しく、大きな広告主に甘い対応だったという自己申告もある。
- 広告を出す人の身元を確かめ、会社に返金や重い罰を求める案がある。一方で、詐欺広告はAIより前からあり、AI広告だけを止めても別の作り方に変えられるし、会社にすべての広告の責任を負わせるのは広すぎるという意見もある。
コメント95件時点の初期(改訂1)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。
💬 HNコメントの整理:AI詐欺広告とプラットフォーム責任
コメント欄では、中心問題をAIそのものではなく、広告収入を優先し得る審査と、広告を選んで表示するプラットフォームの責任の弱さと見る声が多い。ただし、全面禁止や一律責任には有力な反論もある。
コメント95件時点の初期(改訂1)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。