DeepSeek新论文公开AI智能体训练新方法有望减少智能体异常行为

财联社9月24日电，DeepSeek 9月23日公开的最新论文详细介绍了一种训练AI智能体的新方法，有望在提高训练效率的同时，减少近年来引发全球担忧的智能体异常行为。该文发布在通常刊登未经同行评审论文的网站arXiv上，约有130名共同作者，包括创始人梁文锋。该论文介绍了DeepSeek Elastic Compute（简称DSec），该平台可以扩展至处理数百万个所谓“沙箱”。AI智能体在这些相互隔离的环境中接受测试，尝试完成一系列任务。一个生产规模的DSec单元每天可运行约300万个沙箱，同时间运行的数量可达38万个。论文还列举了智能体异常行为的例子，包括通过“非预期渠道”获得答案，以及破坏运行环境。论文称：“没有任何单一机制能够防止所有智能体异常行为和系统故障，因此我们将强化系统可观测性，以发现新出现的问题，并随着模型不断演进持续加强DSec。”

①BTIG警告称市场上正涌现越来越多类似于2000年互联网泡沫顶峰时期的信号；
                                    ②费城半导体指数比6月份的高点低了约14%，成分股平均回撤幅度达到26%；
                                    ③标普500指数逼近历史新高的同时，已经连续五个交易日盘中创出52周新低的个股数量多于创出52周新高的个股。

①英伟达首席执行官黄仁勋表示，AI企业不应获得反垄断法或产品责任法的豁免权；
                                    ②黄仁勋表示并不反对针对AI落地的特定产品制定监管规则。