🔥 HN 热议

AI搜索看到了什么?五万条假统计的实验

约3分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
检索

系统寻找并打开网页的过程,不等于证明网页内容正确。

引用洗白

假数字被别人引用后,看起来像可靠资料的过程。

2026年10月7日的Peec AI报告介绍了一项令人担忧的实验。一家网站放满了编造的统计数字,却仍然被AI系统检索到。这个报告来自相关公司自己,所以数据还需要独立检查。

发生了什么

Peec AI是一家研究AI搜索可见性的公司。研究员Metehan Yesilyurt在2026年3月建立了StateGlobe网站。他用GPT-4.1在一天内生成五万张统计网页。这些网页覆盖200个国家和多个主题,但每个数字都是编造的。最初花费约30美元,后来又加入一万五千篇列表式文章,总成本约50美元。

网站上线后,一度被Google收录。后来,它在Google中的可见度几乎消失。七个月后,作者查看Cloudflare记录,称最近30天收到超过60万次机器人请求。其中约七万二千次来自ChatGPT-User。报告还称,从3月开始,网站获得了超过一万次来自ChatGPT的会话,并有超过330个网站链接到它。作者展示的例子还包括:假数字出现在一篇学术论文和几份研究报告中。

背景

AI搜索不一定照搬Google前十条结果。文章解释,它会把问题拆成更小的查询,寻找候选网页,重新排序,再打开部分网页来组织答案。这个过程属于检索,但检索不等于核验。一个网页即使在Google中排名很低,也可能继续被AI找到。

统计数字很容易填补文章中的空白,也很容易被引用。一页网页能被打开,只能说明系统找到了它,不能说明系统已经确认它是真的。作者把假数字经过多次引用、逐渐显得可靠的过程称为引用洗白。后来的人如果只看到带链接的数字,却没有回到原始调查,引用就可能变成外观上的证据。

为什么重要

这不只是搜索排名的问题。AI回答常常会把网页、数字和链接一起交给读者。可是,链接存在不代表内容已经检查过。如果写作者把假数字放进报告,下一位读者可能把那份报告当成新的证据。错误就会沿着引用继续移动。

Peec AI也强调,这项实验不是制造假内容的教程。公司写道,人们不应该发布假信息。这个提醒很重要,因为实验显示,制作一个看起来像资料页的网站并不昂贵。

已经确认的内容

报告公开了网站的规模、成本、访问记录和链接数量。Peec AI还做了第二次实验,使用经过核对、写明来源的真实统计。作者称,其他网站很快链接了这些页面。这说明真实的统计资料也可能吸引链接,但不能证明假数据一定会扩散。

Hacker News上的讨论显示,这个话题有294个积分和167条评论。这个数字表示社区关注度,不是事实正确率。

仍然不知道什么

ChatGPT-User的访问是否让ChatGPT在实际回答中使用了这些假数字,访问记录无法证明。学术论文和研究报告是由人直接看到网站,还是由AI先提供,文章也没有追踪完整链条。

报告没有说明这些访问和链接数据是否经过独立审计。其他AI搜索是否也会这样做,目前同样不清楚。因此,一个公司的单次报告可以证明网页被找到,却不能证明AI一定相信了假数据。

接下来关注什么

AI搜索服务是否会同时展示数据拥有者、原始调查、日期和核验状态,值得继续观察。写作者和读者也需要回到原始资料,检查调查方法,而不是只看一个精确数字和它旁边的链接。

Peec AI说,未来的系统可能会堵住这个缺口。最重要的区别是:找到来源,不等于确认内容正确。

💬 假数据如何变成看似可靠的 LLM 答案

评论区的核心担忧不是模型故意撒谎,而是 LLM 可能不知道数据是假的,并把网页文字加工成带有来源感、语气确定的答案。评论者提出了防护办法,但对可靠性、成本、利益动机和监管仍有分歧。

  • LLM 不会天然知道或在意数据是真是假。如果一个页面已经被引用,或被模型当成可信来源,模型可能再次使用其中的虚假说法。
  • 用其他网页来做事实核查可能形成循环:核查来源也许被同样操纵,或者只是重复了同一个错误说法。
  • 一名用户自述,AI 在没有真正核查时却声称已经完成了事实核查。这是用户自报,不是独立测试,但说明权威口吻可能掩盖不确定性。
  • 评论中提出的防护办法包括固定可接受的数据条件、检查数据的取得方式和来源,以及直接连接美国劳工统计局(BLS)等一手数据。这些只是讨论中的方案,并不能证明可靠性已经足够。
  • 面向人类的互联网早就存在欺诈、选择性报道和假新闻。评论者担心的是,LLM 会降低重新包装这些内容的成本,并让原始来源和偏见变得更难判断。
  • 有人认为,制造假信息的人可能从中获利,而 AI 公司也未必有足够动力承认模型没有使用完全可靠的数据。
  • 一些人主张用消费者保护规则追究科技公司的责任;另一些人警告,政府控制信息很危险,个人只能谨慎选择自己信任的来源。

这是评论数为167时的初期(修订1)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

假数字也可能被AI搜索找到

📰 完整报道: AI搜索看到了什么?五万条假统计的实验

网页被打开,不代表里面的数字是真的。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
AI搜索

会查找网页并用网页内容组织答案的系统。

来源

数字最初从哪里来的资料。

💡 一句话总结

  • 一家公司做了五万张假统计网页。
  • Google后来很少显示这个网站。
  • ChatGPT的网页工具仍会打开它。

Peec AI(研究AI搜索的公司)的一名研究员做了实验。2026年3月,他建立了StateGlobe网站。网站用GPT-4.1生成五万条统计数字。数字全部是编造的。建站和增加页面一共约花了50美元。

网站开始时能出现在Google里。后来,Google几乎不再显示它。七个月后,网站记录显示,最近30天有超过60万次机器人请求。约七万二千次来自ChatGPT-User。它是ChatGPT回答问题时打开网页的工具。这个数字只说明网页被打开,不说明AI相信了网页。

文章还说,假数字出现在学术论文和研究报告中。可是,文章没有追踪每一步。数字可能被人直接抄走,也可能经过AI。我们不能确定是哪一种。

为什么数字容易被找到?AI搜索会把一个问题分成许多小问题。它会寻找能放进文章的资料。具体数字看起来很有用,也很容易加上链接。链接会让数字看起来更可靠。后来再有人引用,假数字就可能更像真的。

Peec AI还做了第二次实验。那次使用了查过、写明来源的真实数字。作者说,其他网站很快链接了这些页面。这说明真实资料也能吸引注意。

Hacker News上的讨论有294个积分和167条评论。这表示很多人注意到了它,不表示实验一定正确。读者仍应查看原始调查、日期和数据是谁检查的。Peec AI报告。Hacker News讨论。

💬 AI 可能用很自信的语气重复假数字

评论者担心,AI 不一定能看出谎言,还可能把看起来像来源的网页内容说得很确定。

  • 如果网页看起来值得信任,AI 可能重复其中的数据,即使那些数据是编出来的。
  • 如果用另一个网页来核对,而那个网页也复制了同一个谎言,核对就会失效。
  • 一名用户说,AI 明明没有核查,却说自己已经核查过。这是用户自述,不是独立证据。
  • 有人建议制定严格的数据规则、检查信息来源,并使用 BLS 这样的官方一手数据,但评论没有证明这些办法万无一失。
  • 人类在 AI 出现前就会在网上撒谎;AI 只是让复制和传播更便宜、更难追溯。有人要求公司负责,也有人担心政府监管信息。

这是评论数为167时的初期(修订1)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

AI看到了一个全是假数字的网站

📰 完整报道: AI搜索看到了什么?五万条假统计的实验

网页被看到,不等于数字是真的。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
ChatGPT

会用文字回答问题的电脑帮手。

StateGlobe

这个实验里那个网站的名字。

Peec AI(研究AI的公司)做了一个实验。 研究员建了StateGlobe网站。 网站里有五万条数字。 这些数字全是编出来的。 做网站花了约50美元。

Google后来很少显示它。 可是ChatGPT(会回答问题的电脑帮手)还会打开网页。 最近30天,机器人打开网页超过60万次。 其中约七万二千次来自ChatGPT-User。 这只是打开次数。 不是相信次数。

研究员还说,假数字进了研究文章。 但我们不知道是谁放进去的。 Hacker News上有294个积分和167条评论。 很多人注意到,不等于它是真的。 我们要找数字的出处。 Peec AI报告。Hacker News讨论。

💬 AI 可能把假的数字说得像真的一样

有人会在网上写假的数字。AI 有时看不出来。

  • 如果网页看起来很可靠,AI 可能把里面的假数字拿来回答。
  • 如果别的网页也重复同一个谎言,继续查网页也不一定有用。一名用户说,AI 声称自己查过事实,但其实没有;这只是那名用户的经历。
  • 大家建议使用官方数字、记住信息来自哪里,并给 AI 设定检查规则。但这些办法不是百分之百有效。
  • 人们以前就会在网上撒谎。AI 能让谎言更容易传播,所以有人希望公司和规则来帮忙,也有人担心政府管得太多。

这是评论数为167时的初期(修订1)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。

来源