高盛收紧Claude Code使用权:AI写出的代码由谁负责?
Claude Code(克劳德代码)
一种能读取文件、编写并运行程序的人工智能工具。
信息隔离规则(xìnxī gélí guīzé)
把不同团队能看到的资料分开的银行规则。
strats(strats)
同时做交易、研究和软件工作的员工。
人工智能新闻网站State of AI于11月2日报道,高盛(Goldman Sachs,美国大型投资银行)正在收紧一些人工智能编码工具的使用范围。报道转述彭博新闻,并提到高盛十月更新的内部指引。指引把Anthropic(制作Claude的人工智能公司)的Claude Code,以及微软(Microsoft,一家软件公司)的GitHub编码工具主要留给工程师。多数银行家和交易员不再能在工作中使用它们。把交易、量化研究和软件工程结合起来的员工,即strats,据报道不在这项限制内。
发生了什么
Claude Code可以读取文件、编写程序并运行程序,通常使用操作者本人的权限。高盛这次限制的是能自行写代码、运行代码的外部工具。高盛自己的内部人工智能助手仍在全公司使用,因为它能调用多家公司的模型。因此,这不是全面停用人工智能,也不是把Claude全部赶出高盛。高盛发言人表示,公司会让员工使用一些人工智能工具,以寻找合适的用法。
背景
今年七月,高盛首席信息官Marco Argenti曾介绍一种做法:交易员和银行家先用人工智能做出工具,再交给工程师改进。高盛当时称,开发人员超过一万二千人,全公司约四万七千人。十月的新指引把能直接使用编码代理的范围收回到工程团队。四月,高盛还曾从香港银行家的内部平台中移除Claude。那次主要涉及地点和合同条款;这一次主要按照员工职位来划分。
为什么重要
人工智能写出的程序不一定只是文字。它可能读取同一名员工能读取的文件,也可能执行真正的计算。交易员用它监看客户交易流、建立市场模型或计算持仓时,工具可能接触敏感资料。银行有信息隔离规则,要把不同团队能看到的内容分开。没有经过工程师检查、测试和上线控制的程序,可能在特殊情况中出错,也可能越过原本的资料边界。报道还提到生产率和按用量计费的成本,但没有说明每个因素各占多大比重。
已确认的事实
彭博新闻表示,它看到了十月的内部指引。State of AI还报道,高盛与Anthropic的工程师曾花六个月,为交易会计和客户办理流程建立Claude代理;这些代理由高盛工程团队运行。Hacker News(技术新闻社区)上,这条新闻得到616个积分和361条评论。这两个数字只说明社区关注度很高,不能证明原报道一定正确。
仍不清楚
公开报道没有说明有多少人受影响,也没有公布每种工具的详细权限。限制会持续多久、评估用了哪些生产率和风险数据,也还不知道。报道没有证明高盛发生了资料泄露或交易损失。
接下来要看什么
关键问题是,非工程员工是否会得到一条受控制的使用途径。高盛可能说明谁来检查人工智能写出的程序、谁对它负责。其他银行是否采取相同限制,也值得观察。更大的问题不是要不要用人工智能,而是代码和客户资料由谁管理,以及出了问题谁能及时发现。
高盛为什么限制AI写代码的工具?
📰 完整报道: 高盛收紧Claude Code使用权:AI写出的代码由谁负责?
高盛让较少员工使用能写程序的人工智能工具。
Claude Code(克劳德代码)
能读取文件并编写程序的人工智能工具。
信息隔离(xìnxī gélí)
把不同部门的重要资料分开的做法。
strats(strats)
同时做交易、研究和软件工作的员工。
💡 一句话总结
- 高盛缩小了人工智能写代码工具的使用范围。
- 多数交易员和银行家不能用,工程师还能用。
- 因为代码会碰到文件,所以银行想加强检查。
高盛(Goldman Sachs,美国的大银行)改变了工作规定。Anthropic(制作Claude的公司)制作了Claude Code。它是一种能写程序的工具。它能读文件,也能让程序跑起来。微软(Microsoft,一家软件公司)的GitHub相关编码工具,也被放进了限制范围。
据人工智能新闻网站State of AI转述彭博新闻的报道,十月更新的指引把这些工具主要留给工程师。做交易、数量研究和软件工作的人,有一类叫strats,据报道仍可使用。高盛自己的内部人工智能助手没有一起消失。它会使用几家公司的模型,所以这不是停止所有人工智能。
为什么要这样做?程序会按使用者的权限读文件。交易员做工具时,工具可能看到客户交易流或持仓信息。银行还要把不同部门的重要资料分开。这叫信息隔离。工程师可以先检查和测试程序,再让它进入日常工作。这样能减少看不见的小错误,也更容易找到负责的人。报道还提到生产率和费用,但没有给出各自的数字。
四月,高盛曾限制香港银行家使用Claude。那次和地点、合同有关。现在这次主要和职位有关。Hacker News(技术新闻社区)上,这条新闻有616个积分和361条评论。这说明很多人注意它,不代表报道一定是真的。接下来要看,高盛会不会给非工程员工一条更安全的使用办法,也要看其他银行会不会跟进。
💬 为什么高盛可能限制 Claude Code
HN 评论既怀疑文章的来源,也争论银行里谁应该使用编码 AI。有人认为只能给工程师,另一些人认为应该先做一个安全的平台,让更多人使用。
- 一些评论者怀疑文章是从别的报道改写来的,或者来自一个用 AI 写文章、顺便宣传公司的站点。这个怀疑没有在评论区被独立证实。
- 银行员工的电脑里可能有客户资料、交易资料、邮件和公司系统权限。AI 可能犯错,也可能被恶意指令骗到,所以小错误也可能变成大泄密。
- 有使用过这类工具的人自述,金融部门做的小工具最难的部分通常是安全、数据库、测试、上线和维护,而不是做出一个看起来能用的页面。
- 有人建议做一个权限很小的安全平台,配上沙箱、批准过的积木、自动测试和审计记录。也有人说,限制越来越多后,平台就会变成公司提供的固定应用。
- 托管式 AI 可能帮助限制它能读取的数据,但仍不能自动解决供应商数据处理、权限配置错误和内部信息隔离的问题。
- 即使是工程师,也不一定能检查大量 AI 生成的代码。因此评论者认为需要人工检查、自动测试和统一的设计。
这是评论数为455时的增长中(修订2)。获取300条,并从整体抽取120条总结。内容属于HN用户自述,并非编辑部核实的事实。
大银行为什么少让人用会写指令的电脑助手?
📰 完整报道: 高盛收紧Claude Code使用权:AI写出的代码由谁负责?
高盛让较少员工使用Claude Code,因为它会碰到工作文件。
Claude Code(克劳德代码)
会写和运行电脑指令的助手。
工程师(gōngchéngshī)
会制作和检查电脑工具的人。
高盛(Goldman Sachs)是一家大银行。 Anthropic(制作Claude的公司)有一个电脑助手,叫Claude Code。 它会读文件。 它会写电脑指令。 它还会让指令跑起来。 银行里的文件很重要。 所以,高盛让较少的人使用它。 多数银行家和交易员不能用。 工程师还能用。 他们会先检查指令。 这样比较不容易出错。 高盛没有把所有人工智能都关掉。 Hacker News是人们谈电脑的地方。 那里有616个积分和361条评论。 这表示很多人看了这条消息。 这不表示消息一定是真的。 接下来,要看谁来检查这些指令。
💬 银行为什么不让所有人都用写代码的 AI
有人担心新闻故事本身不够可靠,也有人担心电脑助手会碰到银行的秘密。
- 助手可能看到客户或交易的秘密,弄错了就会让别人看到。评论者自述说,一个小工具也可能很难修。
- 有人想把助手关在一个小盒子里,只让它做安全的事情。可是规则太多时,它可能就像普通的固定应用。
- 无论谁使用,都还需要人和机器一起检查助手的工作。
这是评论数为455时的增长中(修订2)。获取300条,并从整体抽取120条总结。内容属于HN用户自述,并非编辑部核实的事实。
💬 HN 如何看待高盛限制 Claude Code
评论既质疑文章的来源,也讨论这项限制本身。核心分歧是:金融从业者的电脑运行编码代理是否风险太高,还是可以先做出受控平台,让非工程人员安全地制作有用工具。
这是评论数为455时的增长中(修订2)。获取300条,并从整体抽取120条总结。内容属于HN用户自述,并非编辑部核实的事实。