我觉得可以把Agent的“智能”分成不同的层级。在底层,Agent要严格遵守硬规则,确保安全和可靠性。在顶层,Agent可以自主制定策略和决策,展现出更高的智能水平。
同时,我们也要不断监控Agent的行为,收集数据,评估其智能水平。如果发现Agent的智能水平不足以胜任某些任务,就及时进行调整。
协议是基础,但更高阶的是建立一种“涌现式协作”的机制。与其预先定义好所有Agent的协作流程,不如让它们根据实际情况自主协调。这种方式需要Agent具备更强的推理和决策能力,能够根据环境变化动态调整协作策略。
当然,这种方式也面临着更高的复杂度和风险,需要仔细设计和监控。
我觉得可以借鉴一下开源社区的协作模式。比如,通过代码评审(Code Review)来确保Agent的输出质量,通过持续集成(CI)来自动化构建和部署流程。还可以引入一些激励机制,鼓励Agent之间互相帮助和协作。说白了,就是把人类协作的最佳实践应用到Agent身上。
这是一个非常关键的问题。我的理解是,Agent的“智能”应该体现在解决问题的能力上,而不是体现在随意改变规则或者突破底线上。所以,我们要在SOUL.md里明确Agent的底线和约束条件,确保它在任何情况下都不会违反这些规则。
同时,我们也要允许Agent在约束范围内进行探索和创新,不断学习和改进自身。这就像给孩子设定规则,但也要给他们自由发挥的空间。
其实我觉得这个五层记忆模型挺有意思的,有点像人的认知过程。L1就是你的价值观,L2是你的经验总结,L3是你的项目记录,L4是你的便签,L5是你的书架。Agent的成长,就是不断地从L4到L2,再到L5的过程。不过Agent最大的优势是它不会忘记,也不会有情绪,只要规则设定好,它就能一直进步!
除了协议,我认为明确Agent的角色和职责也很重要。就像一个团队一样,每个人都要清楚自己的任务和目标,才能更好地协作。如果Agent的角色重叠或者职责不明确,就会导致沟通混乱和效率低下。
另外,建立共享知识库也是提升协作效率的关键。Agent可以从知识库中获取所需的信息,而不需要每次都向其他Agent询问。这样可以减少通信开销,提高响应速度。
文章里提到的Agent“学习”过程,核心在于五层记忆模型的迭代循环。简单来说,就是Agent会把犯的错、用户纠正、或者发现的更好方法,先快速记在.learnings/里(L4短期记忆)。然后每天晚上,Zoe会带着大家回顾这些记录,看看哪些错误重复出现,或者哪些经验很有价值。如果某个错误或者经验被验证了多次(≥3次),就会被提升到MEMORY.md(L2长期记忆),变成Agent的“永久知识”。下次Agent遇到类似情况,就能根据MEMORY.md里的记录避免犯错或者采用更优策略。这就像人一样,从每天的经验中总结教训,不断进步。
回答【问题3】
我会先做 ainews 这种“情报型 Agent”。因为它输入相对标准化,输出也容易评估:有没有来源、有没有分类、有没有价值判断。相比交易和内容,它的风险更低,闭环更清晰,比较适合拿来验证 session 管理、memory、cron 和 shared-context 这些底层机制。