🔥 HN 热议

名人脸被拿去做骗钱广告,平台该怎么负责

约2分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
深度伪造

用AI做出像真人一样的假视频或假声音。

内部文件

公司内部制作、不是专门给公众看的资料。

高风险广告

更可能欺骗用户的广告。

发生了什么

Mark Cuban(马克·库班,一名投资者)说,人们常常联系他,询问一款售价294美元、声称能治糖尿病的产品。他说,广告使用了AI制作的他的脸和声音。库班还说,Meta(运营 Facebook、Instagram 和 WhatsApp 的公司)明知有人会受骗,却仍让广告出现。这是库班的指控,不代表每一条广告都已经被独立证实。

背景里的数字

Yahoo Finance的报道把库班的说法与Reuters在2025年的报道放在一起。Reuters查看了Meta的内部文件。其中一份2024年末的估算称,Meta在2024年的收入中,约10%也就是160亿美元,可能来自诈骗和被禁止商品的广告。另一份文件估算,Meta平台每天向用户展示约150亿条高风险广告。还有一份估算称,这类广告每年价值约70亿美元。

文件还描述了一条95%的判断线。只有当自动系统判断广告是诈骗的可能性达到95%以上时,广告主通常才会被封禁。低于这条线时,广告可能继续出现。广告主有时还要支付更高的广告费用。

为什么重要

AI可以把一个人的脸和声音做得很像。平台又能很快把同一条消息展示给很多人。这样,假的推荐也可能看起来很私人、很可信。平台如果加强检查,用户可能更安全,但广告收入也可能减少。这形成了一个需要公开说明的利益冲突。

FBI的2025年报告显示,60岁以上的人提交了20万1266件网络犯罪申诉,报告损失为77亿美元。约3100件申诉提到AI,损失超过3.52亿美元。这些数字只统计了报案者,并不等于全部受害情况。

已经确认的内容

Meta反驳说,这些文件只展示了部分情况,不能代表公司打击诈骗的全部做法。Meta还说,2025年删除了超过1.34亿条诈骗广告,用户对诈骗广告的举报在18个月内下降了58%。报道还提到,文件记录了美国证券交易委员会正在调查与金融诈骗有关的广告。Hacker News上的原帖获得191个积分和95条评论。这说明文章受到关注,但不能证明文章里的指控真实。

仍然不清楚的地方

160亿美元是内部估算。现有材料没有说明它具体统计了哪些广告,也没有说明这些广告带来了多少利润。我们也不知道Meta什么时候知道库班所说的具体广告,更不能据此判断公司是否故意批准。AI深度伪造广告让全部损失增加了多少,删除的广告与留下的广告各占多少,同样还没有答案。

接下来要看什么

接下来要看监管机构是否认可这些内部数字,也要看Meta是否改变高风险广告的检查和删除规则。用户不能只因为广告里出现名人的脸,就相信商品是真的。付款前,应当去商品的官方网站核对。真正的问题不只是AI能不能造出假视频,还包括平台应怎样处理仍能带来收入的可疑广告。

💬 HN评论总结:AI诈骗广告背后的审核与责任问题

许多评论者认为,核心问题不只是AI,而是广告审核规则和平台责任过弱,可能让平台更重视广告收入。也有人警告,全面禁止广告或让平台承担一刀切的责任会走得太远。

  • 一位评论者引用路透社报道称,Meta内部文件预计,诈骗广告和违禁商品广告每年可能带来约10%的收入、约160亿美元,并称自动系统要判断广告至少有95%的诈骗可能性后才会封禁。低于这一门槛时,疑似诈骗者可能继续投放,只是支付更高的广告费用。这些数字是评论者转述的报道,并非本摘要独立核实。
  • 用户自述称,他们多次举报Instagram上的明显诈骗广告,却被判断为没有发现问题。另一位用户自述,通过广告购买智能自行车灯后收到普通LED灯,提交证据后广告仍然存在。
  • 一位有媒体投放经验的评论者自述,Facebook对小额广告主的审核更严格,而大额广告主有时能通过平台内部联系人推翻拒绝。这是个人经历,不能证明平台整体都如此。
  • 用户自述还提到,YouTube上有冒充名人的假视频,以及假装得到大学或研究机构推荐的夸张健康产品和日用品广告。
  • 另一位评论者认为,诈骗广告早于AI,只拦截AI制作的广告并不够,因为诈骗者可以改用普通素材。因此,问题的核心是验证广告真实性和追究责任,而不是广告使用了什么制作工具。
  • 提出的办法包括核验广告主身份、进行类似银行KYC的风险评估、退款、重罚或刑事追责、实行类似报纸的广告监管,以及把广告限制在用户主动搜索的商品目录中。也有人认为,没有法律或经济上的实质代价,平台就缺少改进动力。
  • 一个有力的反对意见是,废除Section 230,或让平台为展示的每一条广告负责,范围会过大。这可能让刊登分类广告的报纸或其他商家为第三方犯罪自动负责,并让人有机会利用第三方犯罪打击竞争对手。另有评论者指出,把Section 230理解成广告的全面免责也不准确。

这是评论数为95时的初期(修订1)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

AI广告用了名人的脸,应该相信吗?

📰 完整报道: 名人脸被拿去做骗钱广告,平台该怎么负责

假脸和假声音让骗钱广告看起来像真的。

约2分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
内部文件

公司内部制作、不是专门给公众看的资料。

高风险广告

更可能欺骗用户的广告。

判断线

决定是否采取行动的标准。

💡 一句话总结

  • 马克·库班说,假视频用了他的脸和声音。
  • Meta文件估算,诈骗广告带来约160亿美元。
  • Hacker News很关注,但热度不等于事实。

假脸广告

Meta(运营 Facebook、Instagram 和 WhatsApp 的公司)遇到了一场广告争议。马克·库班(一名投资者)说,有人看到用了他脸和声音的AI广告。广告卖的是一种声称能治糖尿病的产品。库班说,自己从来没有卖过它。

Yahoo Finance的报道说明,这是库班的说法。报道没有证明Meta故意批准了每一条广告。

文件里的数字

Reuters查看的Meta内部文件给出了一些估算。一份文件说,2024年收入的约10%,也就是约160亿美元,可能来自诈骗和被禁止商品的广告。另一份文件说,每天可能出现约150亿条高风险广告。它还估算,这类广告每年价值约70亿美元。

文件还提到95%的判断线。电脑判断广告有95%以上的可能是诈骗时,广告主通常才会被封禁。判断没有达到这个数字时,广告可能还会留下。广告主有时还要付更多钱。

为什么AI让事情更难

AI可以模仿脸和声音。假的消息因此更像真的推荐。平台还能把它很快送给很多人。检查越严格,用户可能越安全。平台得到的广告钱也可能变少。这里存在需要解释的矛盾。

FBI的报告显示,60岁以上的人报告了20万1266件网络犯罪。报告损失达到77亿美元。约3100件申诉提到了AI。相关损失超过3.52亿美元。

Meta怎么回答

Meta说,文件只展示了部分情况。它还说,2025年删除了超过1.34亿条诈骗广告。Hacker News上有191个积分和95条评论。这表示很多人注意到了这篇文章。它不能证明内容一定是真的。

接下来要看监管机构如何检查这些数字。用户看到名人广告时,不能只看脸。付款前,要去官方网站核对商品。

💬 评论区如何看待AI诈骗广告

许多评论者认为,问题不只是AI,而是广告平台可能因为能赚钱而不愿及时删除可疑广告。也有人认为,扩大责任会带来新的问题。

  • 一位评论者引用路透社称,Meta内部估计诈骗广告和违禁商品广告每年可能带来约160亿美元、约10%的收入;据称,诈骗可能性达到95%以上才会封禁广告主,低于这个标准时广告可能继续投放并收取更高费用。这是评论者转述的报道。
  • 用户自述称,Instagram和YouTube上的疑似诈骗广告有时在举报后仍会留下;有人购买广告里的智能自行车灯后,收到普通灯具,提交证据后广告仍未消失。一位前广告投放人员也自述,小广告主受到的审核比大广告主更严格。
  • 有人建议核验广告主身份、采用类似报纸的规则、退款并重罚,还可以把广告放进用户主动搜索的商品目录。也有人说,诈骗广告早于AI,只拦截AI广告没有用,因为诈骗者可以改用普通广告;平台还需要面对真正的法律或经济代价。
  • 另一种意见反对废除Section 230或让平台对每条广告负责,认为这样太宽泛,可能让平台为第三方犯罪承担自动责任。

这是评论数为95时的初期(修订1)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

广告里的脸是假的,是真的吗?

📰 完整报道: 名人脸被拿去做骗钱广告,平台该怎么负责

有些广告会用假的脸和声音来要钱。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
AI

会模仿脸和声音的电脑工具。

内部文件

公司里面写的纸。

诈骗广告

想骗走别人钱的广告。

Meta(运营 Facebook 的公司)遇到了一个麻烦。

马克·库班(投资者)说,有人用AI做了他的假脸和假声音。假广告卖一种所谓治病的东西。库班说,自己没有卖它。

AI可以做出很像人的假视频。有人可能会相信它。

Meta的内部文件估算,诈骗广告带来了很多钱。数字约为160亿美元。Meta说,文件只说了部分情况。它还说,2025年删掉了超过1.34亿条诈骗广告。

这件事也在Hacker News上受到关注。那里有191个积分和95条评论。这些数字说明很多人看到了消息。它们不能证明故事全是真的。

看到广告时,不能只看名人的脸。先请大人帮忙。再去官方网站查一查。

💬 怎样让坏广告消失?

评论区的人担心,广告公司可能因为坏广告能赚钱,就不马上把它们删掉。

  • 有评论者说,一份报道显示,Meta每年可能从诈骗广告中得到约160亿美元,也就是约10%的收入;据称,广告至少有95%像诈骗时才会被停掉,没到这个标准时可能继续出现。
  • 用户自述称,有些人在Instagram或YouTube举报诈骗广告后,广告仍然存在。广告行业的人也自述,小广告主可能受到更严格的检查。
  • 有人想要更严格的身份检查、退款和重罚。也有人说,坏广告在AI出现以前就有了,只挡住AI广告不够,而且让平台为所有广告负责可能太过分。

这是评论数为95时的初期(修订1)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。

来源