🔥 HN 热议

高盛收紧Claude Code使用权:AI写出的代码由谁负责?

约2分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
Claude Code(克劳德代码)

一种能读取文件、编写并运行程序的人工智能工具。

信息隔离规则(xìnxī gélí guīzé)

把不同团队能看到的资料分开的银行规则。

strats(strats)

同时做交易、研究和软件工作的员工。

人工智能新闻网站State of AI于11月2日报道,高盛(Goldman Sachs,美国大型投资银行)正在收紧一些人工智能编码工具的使用范围。报道转述彭博新闻,并提到高盛十月更新的内部指引。指引把Anthropic(制作Claude的人工智能公司)的Claude Code,以及微软(Microsoft,一家软件公司)的GitHub编码工具主要留给工程师。多数银行家和交易员不再能在工作中使用它们。把交易、量化研究和软件工程结合起来的员工,即strats,据报道不在这项限制内。

发生了什么

Claude Code可以读取文件、编写程序并运行程序,通常使用操作者本人的权限。高盛这次限制的是能自行写代码、运行代码的外部工具。高盛自己的内部人工智能助手仍在全公司使用,因为它能调用多家公司的模型。因此,这不是全面停用人工智能,也不是把Claude全部赶出高盛。高盛发言人表示,公司会让员工使用一些人工智能工具,以寻找合适的用法。

背景

今年七月,高盛首席信息官Marco Argenti曾介绍一种做法:交易员和银行家先用人工智能做出工具,再交给工程师改进。高盛当时称,开发人员超过一万二千人,全公司约四万七千人。十月的新指引把能直接使用编码代理的范围收回到工程团队。四月,高盛还曾从香港银行家的内部平台中移除Claude。那次主要涉及地点和合同条款;这一次主要按照员工职位来划分。

为什么重要

人工智能写出的程序不一定只是文字。它可能读取同一名员工能读取的文件,也可能执行真正的计算。交易员用它监看客户交易流、建立市场模型或计算持仓时,工具可能接触敏感资料。银行有信息隔离规则,要把不同团队能看到的内容分开。没有经过工程师检查、测试和上线控制的程序,可能在特殊情况中出错,也可能越过原本的资料边界。报道还提到生产率和按用量计费的成本,但没有说明每个因素各占多大比重。

已确认的事实

彭博新闻表示,它看到了十月的内部指引。State of AI还报道,高盛与Anthropic的工程师曾花六个月,为交易会计和客户办理流程建立Claude代理;这些代理由高盛工程团队运行。Hacker News(技术新闻社区)上,这条新闻得到616个积分和361条评论。这两个数字只说明社区关注度很高,不能证明原报道一定正确。

仍不清楚

公开报道没有说明有多少人受影响,也没有公布每种工具的详细权限。限制会持续多久、评估用了哪些生产率和风险数据,也还不知道。报道没有证明高盛发生了资料泄露或交易损失。

接下来要看什么

关键问题是,非工程员工是否会得到一条受控制的使用途径。高盛可能说明谁来检查人工智能写出的程序、谁对它负责。其他银行是否采取相同限制,也值得观察。更大的问题不是要不要用人工智能,而是代码和客户资料由谁管理,以及出了问题谁能及时发现。

💬 HN 如何看待高盛限制 Claude Code

评论既质疑文章的来源,也讨论这项限制本身。核心分歧是:金融从业者的电脑运行编码代理是否风险太高,还是可以先做出受控平台,让非工程人员安全地制作有用工具。

  • 一些评论者认为,这篇文章可能改写自 Bloomberg 的报道,或像一个用 AI 写成、为公司做宣传的网站。这是评论者的判断,不是评论区独立证实的事实。
  • 多位评论者强调,银行家和交易员的电脑可能同时接触客户资料、交易资料、电子邮件、内部网络和互联网。半自动代理只要遇到一次误操作或提示注入,就可能造成严重泄密。
  • 有接收金融部门自制工具经历的评论者自述,界面能运行往往只是最容易的部分;架构、数据库模式、安全、边界情况、版本控制、部署和维护可能都没有解决,最后要由工程师重写,或者被放进待办列表。
  • 一种有力的反方案是建立受控的编程环境:最小权限 API、沙箱、确定性测试、代码检查器、分析器和审计日志。工程师负责铺设安全轨道,银行员工只能在规定范围内使用。
  • 反对者指出,安全轨道堆得足够多,最后就会重新变成一组固定的、经过批准的应用程序。如果用户既不理解也不检查生成的代码,那么所谓的灵活性可能只是错觉,组织仍然依赖平台维护者。
  • 评论还把数据治理和沙箱区分开来。托管式代理或许能列出允许读取的数据源,阻止客户投诉、交易信息等敏感内容进入无关流程;但供应商保留数据、企业内部权限配置错误以及越过信息隔离墙的风险仍然存在。
  • 评论者举出的具体风险包括:应用建立未受监控的跨部门沟通渠道,或把有权限查看的邮件摘要写入交易桌可以访问的数据库。这些被视为合规和责任问题,而不只是非技术人员不该用 AI 的问题。
  • 也有人反驳让工程师审核就够了这一假设:如果工程师同样无法阅读大量 AI 生成代码,人工审核也会失效。因此,支持更广泛代理化工作的人主张统一架构和机器可验证的证据;批评者则认为这种做法目前更像愿望,而非已被证明可靠的方法。

这是评论数为455时的增长中(修订2)。获取300条,并从整体抽取120条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

高盛为什么限制AI写代码的工具?

📰 完整报道: 高盛收紧Claude Code使用权:AI写出的代码由谁负责?

高盛让较少员工使用能写程序的人工智能工具。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
Claude Code(克劳德代码)

能读取文件并编写程序的人工智能工具。

信息隔离(xìnxī gélí)

把不同部门的重要资料分开的做法。

strats(strats)

同时做交易、研究和软件工作的员工。

💡 一句话总结

  • 高盛缩小了人工智能写代码工具的使用范围。
  • 多数交易员和银行家不能用,工程师还能用。
  • 因为代码会碰到文件,所以银行想加强检查。

高盛(Goldman Sachs,美国的大银行)改变了工作规定。Anthropic(制作Claude的公司)制作了Claude Code。它是一种能写程序的工具。它能读文件,也能让程序跑起来。微软(Microsoft,一家软件公司)的GitHub相关编码工具,也被放进了限制范围。

据人工智能新闻网站State of AI转述彭博新闻的报道,十月更新的指引把这些工具主要留给工程师。做交易、数量研究和软件工作的人,有一类叫strats,据报道仍可使用。高盛自己的内部人工智能助手没有一起消失。它会使用几家公司的模型,所以这不是停止所有人工智能。

为什么要这样做?程序会按使用者的权限读文件。交易员做工具时,工具可能看到客户交易流或持仓信息。银行还要把不同部门的重要资料分开。这叫信息隔离。工程师可以先检查和测试程序,再让它进入日常工作。这样能减少看不见的小错误,也更容易找到负责的人。报道还提到生产率和费用,但没有给出各自的数字。

四月,高盛曾限制香港银行家使用Claude。那次和地点、合同有关。现在这次主要和职位有关。Hacker News(技术新闻社区)上,这条新闻有616个积分和361条评论。这说明很多人注意它,不代表报道一定是真的。接下来要看,高盛会不会给非工程员工一条更安全的使用办法,也要看其他银行会不会跟进。

💬 为什么高盛可能限制 Claude Code

HN 评论既怀疑文章的来源,也争论银行里谁应该使用编码 AI。有人认为只能给工程师,另一些人认为应该先做一个安全的平台,让更多人使用。

  • 一些评论者怀疑文章是从别的报道改写来的,或者来自一个用 AI 写文章、顺便宣传公司的站点。这个怀疑没有在评论区被独立证实。
  • 银行员工的电脑里可能有客户资料、交易资料、邮件和公司系统权限。AI 可能犯错,也可能被恶意指令骗到,所以小错误也可能变成大泄密。
  • 有使用过这类工具的人自述,金融部门做的小工具最难的部分通常是安全、数据库、测试、上线和维护,而不是做出一个看起来能用的页面。
  • 有人建议做一个权限很小的安全平台,配上沙箱、批准过的积木、自动测试和审计记录。也有人说,限制越来越多后,平台就会变成公司提供的固定应用。
  • 托管式 AI 可能帮助限制它能读取的数据,但仍不能自动解决供应商数据处理、权限配置错误和内部信息隔离的问题。
  • 即使是工程师,也不一定能检查大量 AI 生成的代码。因此评论者认为需要人工检查、自动测试和统一的设计。

这是评论数为455时的增长中(修订2)。获取300条,并从整体抽取120条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

大银行为什么少让人用会写指令的电脑助手?

📰 完整报道: 高盛收紧Claude Code使用权:AI写出的代码由谁负责?

高盛让较少员工使用Claude Code,因为它会碰到工作文件。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
Claude Code(克劳德代码)

会写和运行电脑指令的助手。

工程师(gōngchéngshī)

会制作和检查电脑工具的人。

高盛(Goldman Sachs)是一家大银行。 Anthropic(制作Claude的公司)有一个电脑助手,叫Claude Code。 它会读文件。 它会写电脑指令。 它还会让指令跑起来。 银行里的文件很重要。 所以,高盛让较少的人使用它。 多数银行家和交易员不能用。 工程师还能用。 他们会先检查指令。 这样比较不容易出错。 高盛没有把所有人工智能都关掉。 Hacker News是人们谈电脑的地方。 那里有616个积分和361条评论。 这表示很多人看了这条消息。 这不表示消息一定是真的。 接下来,要看谁来检查这些指令。

💬 银行为什么不让所有人都用写代码的 AI

有人担心新闻故事本身不够可靠,也有人担心电脑助手会碰到银行的秘密。

  • 助手可能看到客户或交易的秘密,弄错了就会让别人看到。评论者自述说,一个小工具也可能很难修。
  • 有人想把助手关在一个小盒子里,只让它做安全的事情。可是规则太多时,它可能就像普通的固定应用。
  • 无论谁使用,都还需要人和机器一起检查助手的工作。

这是评论数为455时的增长中(修订2)。获取300条,并从整体抽取120条总结。内容属于HN用户自述,并非编辑部核实的事实。

来源