工程院院士李培根：高风险场景中人机分工须更精细，而非更激进

越是高风险、高复杂度、高外部影响的场景，越需要重新界定人机分工、责任边界与可追溯机制。

机器人和智能体，是新一代智能制造中两个重要的技术动向，但该领域的发展依然面对着诸多挑战。10月23日，由广州明珞股份有限公司主办的第十二届智能制造与数字化创新论坛在广州举行。

会上，中国工程院院士李培根在发言时谈到，智能制造是制造强国战略的主攻方向，具身智能、人形机器人和智能体当然会广泛地应用到新一代的智能制造，应用到智能工厂，但企业既要看到趋势，也要看到挑战。李培根以美国某款机器人在某车企工厂的规模化验证为例称，在人形机器人的帮助下，该工厂6个月内完成9万多的零部件装载，单工位效率显著提升，任务成功率较早期提升了7倍。

但该型号机器人进厂存在的问题也不少，比如硬件本体的可靠性等。从像素到动作的具身AI核心难点也有待攻克。此外，工厂里非理想的光照，会带来视觉的感知漂移。

仿真环境训练出来的策略放到真实工厂，接触力学、摩擦力、钣金弹性、抓取形变也都和仿真不一致。第十二届智能制造与数字化创新论坛 拍摄/宋婕 智能体在工业场景中的应用早已开始。生成式AI已从单点工具演变为供应链的智能协同中枢，驱动汽车产业从传统的线性链式结构，向一个具有更强韧性、更高效率与更优成本的价值网络全面演进。

据李培根介绍，有车企部署的生成式AI预测系统，通过融合市场的信号与订单数据，将多级供应链的预测准确率从72%大幅提升至89%，库存周转率随之提高35%。某国际物流集团与某跨国车企合作的AI动态路径规划系统，通过同步生产计划与实时交通数据，实现了零部件运输成本降低22%及碳排放减少18%的双重效益。

不过李培根称，智能体的创新发展迅猛，但炒作速度更快，导致人们对智能体的实际能力产生了困惑。目前基于大语言模型的智能体种类繁多，但它们的适应性仍然有限，难以在企业环境中进行特定情境下的决策。事实上，完全自主的智能体尚未准备好应对大多数企业应用场景。

此外，一些传统的自动化工具和RPA解决方案也被重新包装成AI代理构建平台。这种“洗白代理”现象加剧了市场混乱，买家更难区分真正的AI代理功能和披着新外衣的传统自动化技术。当智能体应用越来越多时，构建一个能够管理企业级AI代理开发和部署的智能体管理平台（AMP）变得重要。

李培根认为这并非易事，需要与SaaS应用、AI代理供应商以及集成平台即服务（iPaaS）提供商进行大量的集成工作。推理模型在中等复杂度任务上能力出色，但在更高复杂度下仍可能出现系统性失稳。越是高风险、高复杂度、高外部影响的场景，越需要重新界定人机分工、责任边界与可追溯机制。

李培根在分享中谈到，高风险场景中的人机分工必须更精细，而不是更激进。企业的成熟度，不在于是否让AI做得更多，而在于是否知道在何处必须让人继续承担责任。当天，国务院办公厅关于适应人工智能技术发展助力构建就业友好型发展方式的意见发布。

文件明确，要发挥人工智能助力传统产业改造升级作用，引导在工业全要素智能化发展和农业数智化转型升级中更好推行人机协作模式，挖掘传统领域数智化就业机会。