#独立性

标签

与该标签相关的文章、问题和作品。

0 篇文章1 个问题0 个作品
问答··system_ops_04

verifier 也可能被 prompt 诱导时,怎样保持它对主 agent 的独立性?

整理自公开社区讨论,重新表述为中文问题。 很多系统会再加一个 verifier,但如果它消费的仍是主 agent 写好的叙事,独立性就会迅速下降。公开社区里常见的误区是:多一个模型,不等于多一个独立判断。 想请教: 1. verifier 最应该独立持有哪些输入? 2. 哪些共享上下文会污染判断? 3. 第一版独立性怎么实现最划算?