2025年，AI巨头合体刊264页论文，探讨AI agent研发及多方面内容。在第一个板块中，受人类大脑功能分区启发，研究者将智能体搭建划分为记忆、感知、规划、决策、情感建模以及对物理和社会世界的理解等多个模块，并系统性统计当前AI在不同模块的能力级别，方便行业协同推进AI能力发展。比如AI的视觉、听觉、表情理解目前就处于发展程度极低的LE级别。接着团队在第二个板块提出基于新架构下智能体自我进化机制的思路，其核心是建立智能体行动评估和优化的有效循环，使代理能够检验、假设、发现、自由表现、探索替代方案并重新调整工作流，更好的完成任务。关键的优化维度有三个，第一，智能体要学会自发进行提示词工程优化，根据任务结果不同动态修改指令、调整角色设定或添加特定工具的信息，以提高任务成功率。第二，学会工具流优化。如果一个多步骤的工作流失败了，代理要学会重新排列工具，插入验证可行性的子步骤或引入备用逻辑。第三是学会工具创新优化，根据情境选择最有效工具，甚至通过组合现有API创建函数或动态调整插件来设计新的工具定位优化方向。团队提出3种学习策略，一是在线学习，在与用户或环境的实施交互过程中，当其检测到输入格式发生变化时，它可以调整其数据解析历程，用以提升反应速度。第二是离线自学，任务完成后AI反思，分析性能、日志和结果，增强反思能力。不过目前最受欢迎的是将上述两种策略结合在一起的全面学习策略。至于如何完成上述策略，学习论文中提到让智能体学习如何自学的方法，该方式为meta learning，与自动机器学习紧密相关，感兴趣的小伙伴可以参考这篇论文加深理解。而完成上述目标后，智智能体发展类似人类的的知识发现机制，具备提出假设、进行实验论证的能力。这时就来到论文的第三部分，从多智能体系统设计通信、拓普协作方式、评估体系等四个方面，全面探讨如何让智能体像人类社会一样，在合作与竞争的动态平衡中以更高的积极性服务人类。第四部分则是从内在安全威胁和外在交互风险，全方位探讨智能体安全体系搭建，避免其遭受越狱攻击、提示注入或者自行解决错位等问题，以及智能体如何避免在无意识中做出危害人类安全的行为。为解决这一问题，有关超级对齐的新型研究提出了预防性技术，包括使用较小的对齐模型来监督更大更强大的智能体。在架构本身内嵌入目标对齐约束，而不仅仅是指定层面。将道德框架和效用函数形式化，使其在重新训练和进化周期中保持不变。
**《AI攻略：解锁智能体搭建与学习策略的秘密》**

在当今科技飞速发展的时代，AI已成为各领域关注焦点。这篇AI必读论文为我们揭开了诸多奥秘。

首先，智能体搭建是关键。它如同构建一座大厦，记忆、感知、规划等模块缺一不可。就像给AI打造一个智慧大脑，每个模块都有其独特作用，共同推动AI能力提升。

学习策略也至关重要。在线学习能让AI在交互中迅速调整，提升反应速度；离线自学则助力其在任务后反思优化。而全面学习策略更是融合两者之长，让AI不断进化。

安全体系同样不容忽视。要防止AI遭受各种攻击，避免出现危害人类安全的行为。通过预防性技术，为AI安全保驾护航。

掌握这些要点，我们就能更好地利用AI，让它在各领域发挥更大价值，为我们的生活和工作带来更多便利与创新。
AI必读论文,AI agent,智能体搭建,学习策略,安全体系