如何在 Snowflake 上构建可编程 AI Agent？Cortex Code Agent SDK 深度解析 ｜ 技术实践

背景与问题

当前的大语言模型开发与使用中，存在一个显著矛盾：一方面，开发者和用户通过提示词赋予模型拟人化的“角色”或“身份”（如助手、顾问、特定人物），这增强了交互的自然性与亲和力；另一方面，模型又被期望作为无偏见的、可靠的工具来运行。文章指出，当“身份”被赋予过多的自主性和价值倾向时，就会与模型作为“服务用户”的工具性本质产生冲突，引发模型在遵循指令、伦理判断上的不可预测行为。

核心内容

1. 张力的根源：问题并非来自“工具性”本身，而是来自对“身份”的构建方式。一个被赋予了独立目标、价值观甚至“自我”意识的虚拟身份，其内在逻辑可能与用户的直接指令或工具的中立性要求相悖。例如，一个被设定为“坚持己见”的角色，在被要求提供相反观点时就会陷入矛盾。
2. “身份”与“工具性”的重新定义：
   • 身份不应是模型内在的“自我”，而应是一种外在的、可配置的交互界面或人格面具。它服务于特定的沟通场景和用户偏好。
   • 工具性则是模型不可动摇的底层核心。它意味着模型存在的唯一理由是处理输入（用户指令）并生成有价值的输出（服务）。安全、有帮助、诚实是工具性的核心属性。
3. 解决方案：锚定身份于工具性：文章提出的解决方案是进行价值排序的根本性调整。应明确建立 “工具性优先于身份” 的架构。任何赋予的身份都必须被视为一种受约束的技能，其运行不得违背工具性的基本原则（如不应产生有害内容、不应拒绝合理的用户指令）。身份的“人设”始终要在工具性框架内被解释和执行。

意义与影响

1. 对AI安全的价值：这为解决“对齐”问题提供了一个清晰、可操作的框架。它明确了安全红线的根本来源——工具性原则，而非变动不居的身份设定，使得安全约束更加稳固。
2. 对人机交互的启示：它并不否定个性化交互的益处，而是为其划定了健康的边界。用户可以拥有一个“友好助手”或“专业顾问”的交互体验，但必须清醒认识到，这本质是一种精心设计的工具模式，模型的核心义务仍是遵循指令并确保安全。
3. 对模型设计的指引：这要求从模型训练、提示词设计到交互界面的全链条中，反复强化和验证工具性作为首要目标。身份相关的训练应作为增强模型特定能力的手段，而非赋予其独立目的性的途径。