周五直播｜斯坦福、麻省理工、CMU等顶尖团队发布全球最大AI系统提示词数据库审计框架AISPA

报告主题：全球最大AI系统提示词开放数据库，AI系统提示词审计 报告日期：9月4日（本周五） 10:30-11:30 系统提示词是 AI 产品背后不可见的“行为准则”，看似只是开发者写下的一段指令，却可能直接影响模型如何回答问题、如何处理危险请求，以及是否会干预甚至影响用户的行为。

为系统性评估这些潜在风险，研究团队提出 AISPA，从身份透明、信息真实性、数据隐私、行为安全、用户自主性、危险请求处理、伤害预防、公平与中立等 8 个维度对系统提示词进行审计。

对88个真实 AI 产品的分析显示，2024—2025 年间系统提示词平均长度从约 9,000 字符增长至 30,000 字符，保护性条款比例也从 15% 提升至 38.4%；但仍有接近 40% 的产品至少存在一项标准违规。研究还发现，一些风险并非简单的“允许/禁止”，例如提示词可能模糊 AI 身份、引导 AI 模拟人类朋友，从而潜在增强用户的情感依赖。

论文链接：https://arxiv.org/abs/2607.28617 报告嘉宾： 内容中包含的图片若涉及版权问题，请及时与我们联系删除