科技头条

DeepSeek新论文公开AI智能体训练新方法,有望减少智能体异常行为

Sep 24, 2026 IDOPRESS

9月23日,DeepSeek公开的最新论文详细介绍了一种训练AI智能体的新方法,有望在提高训练效率的同时,减少近年来引发全球担忧的智能体异常行为。该文发布在通常刊登未经同行评审论文的网站arXiv上,约有130名共同作者,包括创始人梁文锋。


该论文介绍了DeepSeek Elastic Compute(简称DSec),该平台可以扩展至处理数百万个所谓“沙箱”。AI智能体在这些相互隔离的环境中接受测试,尝试完成一系列任务。一个生产规模的DSec单元每天可运行约300万个沙箱,同时间运行的数量可达38万个。论文还列举了智能体异常行为的例子,包括通过“非预期渠道”获得答案,以及破坏运行环境。论文称:“没有任何单一机制能够防止所有智能体异常行为和系统故障,因此我们将强化系统可观测性,以发现新出现的问题,并随着模型不断演进持续加强DSec。”


科技信息网是聚焦全球科技创新的垂直门户,实时提供人工智能、半导体、生物医药、新能源等领域的技术突破、产业报告与政策解读,连接科研机构、科技企业与投资机构,打造科技产业决策者的数字智库。

快速搜索

科技信息网 | 全球科技创新动态-人工智能/半导体/生物技术前沿资讯_科技产业数据智库

© 科技信息网 KejiInfo.com

隐私政策