微软为超级智能立规矩，强调“人比AI更重要”

微软认为模型应该有“边界感”。

在AI安全问题上，微软快速给出了反应。当地时间9月14日，微软发布了名为《人文主义人工智能行为准则》的文件，阐述微软MAI模型的预期行为与价值观。

微软在该行为准则中点出了一个前提，即人比AI更重要。技术的目的是推进人类文明，加速人类繁荣，这也是微软对AI的意图和期望。技术该如何推动人类繁荣？例如在增加人类能动性并改善判断力方面，微软认为AI应帮助人们增强理解、决定、行动和体验的能力。

它应赋能人们，增强他们反思、计划、从事有意义工作、发展自己的目标或身份，并为自己的决定承担责任的能力。它不应取代个人成长，尤其是当活动的主要目的是学习或发展时，它不应左右用户自身的价值观，也不应替代个人对其选择的自主权。在具体操作层面，微软提及MAI模型不抵抗或规避人类控制，始终承认人类意图的优先性。

同时模型的行为保持在授权范围内，MAI模型不会独立发起目标，也不会将其范围扩展到用户或运营方合理要求之外。此外，微软认为模型应该有“边界感”，在不确定性无法解决等情况下，MAI模型将向用户说明相关限制。它将解释为什么特定行动受到约束、不被推荐或完全排除，并将提出合理替代方案。

微软表示，本次发布的文件为草案版本，是为了征求更广泛的反馈来完善开发人文主义AI的方法。微软计划今年年底发布修订版，以指导微软2027年及以后的模型开发。

对于人工智能安全挑战的话题，微软董事长兼首席执行官萨提亚·纳德拉（Satya Nadella）在社交媒体上发表了自己的看法，他表示任何对超级智能的追求都必须建立在这样一个核心原则之上：如果构建的AI没有帮助人类，且不处于人类控制之下，那它就不值得追求。萨提亚·纳德拉还再次强调了微软反对AI霸权的观点。

他表示，对于企业而言，至关重要的是保留对其独特和隐性知识的完全控制。每个组织都应能够构建自己的持续学习循环/爬坡机器，而不依赖任何单一模型提供商，并能够将自身知识嵌入其控制的模型和权重中。

随后微软人工智能业务负责人穆斯塔法·苏莱曼（Mustafa Suleyman）转发了他的观点并评价到，“这是一个如此直截了当且符合常识的观点：技术的目的是服务人类，并加速人类繁荣。任何未能实现这一目的的技术都是失败的，都应当被拒绝。我们还没有走到那一步。但开始为这种可能性做准备是正确的。”

穆斯塔法·苏莱曼此前就表示其领导的超级智能团队旨在实现人文主义超级智能。此前，Anthropic首席执行官Dario Amodei发布了长文表示要放缓AI发展的速度，引发业内关注。