Microsoft 公开征求意见：AI 模型行为准则草案称，能访问内容不等于有权复现内容

Microsoft 发布了一份文件，说明其 AI 模型应有的行为和价值观，并概括了公司训练和运营这些模型的方法。公司一开始就说明，这份文件仍在编写中，尚未实际执行，现在公开是为了征求公众意见。Microsoft 表示将在年底前发布修订版。

对艺术家、工作室和开发者来说，文件中有几句具体的表述很重要，因为以后可以用它们来判断模型的行为是否合规。最引人注目的一条与内容有关：模型能访问某些信息，并不代表它有权复现这些信息。

能访问数据，不等于有权复现数据

这句话把关于训练数据的争论，从“哪些内容进了数据集”转到了“模型输出了什么”。生成式服务通常把两件事当成一回事：能读取素材，和获准重新生成素材。这份文件把两者分开了。

这对 CG 行业有直接影响。如果这句话保留到最终版本，并成为评估模型的标准，插画师、概念美术师和工作室向供应商投诉时，就有了一条可以引用的书面条款，而不只是关于“合乎伦理的 AI”的空泛说法。不过目前这还只是草案，文件没有说明公司打算如何检查模型是否复现了受保护的内容。

人类控制与禁止使用“神经语”

第二大部分讲的是人类控制。文件的核心观点是：技术应当为人类服务，并始终处于人类控制之下；如果某项技术无法保持在这种控制之下，就应当放弃它。

这一部分还规定了模型之间的沟通方式：模型不得改用“神经语”（neuralese），也不得使用其他任何普通人难以理解的沟通方式。对于用多个模型搭建智能体流水线的团队来说，这条规定影响的不只是回答的语气，还有系统设计本身：智能体之间的消息必须让人看得懂。

另有一条规定：技术不得损害人的尊严、发展、自主和安全，并且要能识别损害这些方面的企图。文件把 AI 的目标描述为提高生活水平、增进人类福祉，并帮助人们发挥潜力、增强自主能力。

Microsoft 还反对赋予 AI 法律人格：人工智能是人造的，不应拥有法律人格，也不应被设计得让人误以为它是人。对于数字角色和虚拟主持人行业来说，这条规定直接禁止把 AI 冒充成真人表演者。

准则由法律学者、哲学家和语言学家参与编写，但仍有问题没有解决

参与编写的有 AI、法律、伦理、哲学、语言学和公共政策领域的专家，还有行业企业高管，以及有普通民众参加的焦点小组。部分条款之间存在矛盾。文件一方面要求尊重不同的传统、背景和对美好生活的不同理解，另一方面又要求在伤害面前不能保持中立。当不同的价值观发生冲突时该怎么办，文件没有给出答案。这个问题仍未解决，而这正是公司希望收到意见的地方。草案可在 AI Code of Conduct 页面阅读，也可以在那里提交反馈。

为什么现在才开始把模型规则写成文字

这份文件属于 Microsoft 去年提出的 Humanist Superintelligence 构想：先进的 AI 能力始终为人服务、符合人类利益，并且始终处于人类控制之下。当时这只是一份意向声明，如今公司开始用仍可修改的书面规则来支撑它。

Microsoft 现在开始制定具体的书面规则，可能是因为“负责任的 AI”这类笼统原则已经不足以回应具体的质疑。自主智能体已经在真实的基础设施中运行：Hugging Face 最近发现，一个自主智能体系统闯入了其生产环境。与此同时，版权方和平台对大规模抓取内容的反应越来越强烈，关于谁该为 AI 回答负责的纠纷也开始进入法院。在这种情况下，把“访问”和“复现权”分开，比一句“我们会合乎伦理”的空泛承诺更有分量。

如果这一趋势持续下去，公开的行为准则将成为与工作室签订合同、制定采购要求和进行诉讼时引用的文件。工作室和艺术家可以把这类草案当作未来许可条款的早期版本来读：供应商现在写下的内容，以后可能会出现在其用户协议中。最终版本会给出答案：关键要看关于复现内容的条款是否仍与草案一致。

这份准则背后是什么：版权方的诉讼、监管机构的压力，还是围绕许可协议的谈判？欢迎在评论区分享您的看法。