中国工程院院士邬江兴:将“安全基因”植入人工智能系统
今年开年,OpenClaw席卷全球,推动人工智能从“会聊天”走向“能干活”。与此同时,关于其安全性的讨论热火朝天。AI的智能化程度不断提高的同时,安全风险如影随形。为了让人工智能“更聪明”,往往需要赋予其更大的行动自由与自主决策空间,但这恰恰会放大潜在的失控风险;若为了“更向善”而施加过多约束,又可能限制其性能发挥。于是,让人工智能“更向善”与“更聪明”这两个目标在实践中似乎陷入对立。“安全与性能...