Strict Frog's Blog

When Heaven is about to confer a great responsibility on man,it will first fill his heart with suffering,toil his sinews and bones,exposes his body to huger,subjects him to extreme poverty,confounds his journey with setbacks and troubles,so as to stimulate his alertness, toughen his nature,eventually bridging his incompetence gap and prepare him for the task.

未来AgentOS核心架构

AgentOS

背景 基于现实中大多数Agent失败的原因,构建未来AgentOS核心架构 AgentOS核心架构 State Machine Agent │ │ Context Engine │ │ Tools (MCP) │ │ Memory + RAG 变化趋势 ...

企业级AIOS架构

AIOS

背景 这个架构的目标是构建一个 完整 AI Operating System(AI OS),能够: 接入 LLM 管理 Tools 管理 Skills 管理 Memory 支持 Agent 支持 Workflow 支持 MCP 支持多数据源 很多 AI 产品底层结构都类似(例如 OpenAI、Anthropic、Google 的 Agent 系统)。...

ChatGPT之AIAgent系统架构

Architecture

背景 上一篇文章说了ChatGPT的界限, 为了弥补ChatGPT做不到的事情,才有了这篇文章 完整 AI Agent 系统架构 User │ ▼ ┌─────────────────┐ │ API Gateway │ └─...

ChatGPT能力界限

ChatGPT

背景 知己知彼,才能更好的开发私有的AIAgent 一、ChatGPT 天生能做的事情(LLM 原生能力) 1 语言理解与生成 2 知识推理 3 编程能力 4 信息结构化 5 多模态理解 问答 逻辑推理 写代码 从文本中抽...

Workflow+limitedPlanning的设计思想

Workflow+limitedPlanning

背景 在实际 AI Agent 系统中,很多团队采用一种折中架构: Workflow + Limited Planning,即用 LLM 做轻量规划,再执行预定义 workflow。 真实世界很多 AI 产品都用这种架构 很多系统其实就是 Workflow + Limited Planning。 例如: LangGraph(状态机 workflow) Notion AI Pe...

AutoGPT分析与Autonomous思考

Auto-GPT

背景 Auto-GPT是能够根据用户的目标输入,制定计划,解析计划,拆解计划,执行计划,评估执行结果,并且不断循环产生结果并结合外部资源执行相应操作,逐步达到达到目的. 我对Auto-GPT的prompt提示词会自动更新这一点非常感兴趣. Auto-GPT原文讲解 用户的目标输入+初始化系统提示词 =》 检索Memory记忆库 =》 得到以前的Memory =...

梦境与自我反思

纯属虚构

梦境 梦境的场景来自于:小学的学校位于一座稍微高的山坡顶上, 我的家离学校很远,但也不是遥不可及. 在一片漆黑的夜晚,伸手不见五指,似乎在这个梦境世界永远都是这样的黑夜. 我虽然看不清脚下的路,也感受不到身边任何的事物,只有空旷, 但我很清楚我的目标是位于小学学校右上角的”垃圾堆“上,而小学学校就在一座稍微高个几十米左右的山坡顶上,因为那儿有一火焰光团正在散发着模糊但持续的光,指引着身在...

AIAgent之token成本控制

成本管理

背景 在做AI产品的过程中,随着用户数的增加,每次调用LLM, 使用的提示词都在花钱. 那么如何在不影响结果的前提下,极限的减少不必要的消费呢? LLM的收费结构 这里举例OpenAI 可以看出最新的openAI API的Tokens收费结构为: Input 输入: 是Cached input的 10倍价格, 是Output的 1/10的价格 Cached i...

AIAgent之用户意图分析

Router

背景 用户的Query既有简单的信息搜索又有工具调用,或者只是简单的闲聊等等, 那么结合特定的AIAgent系统如何对用户的查询进行意图分析呢?(或者说Query分类) 特定的AIAgent的场景介绍 特定的AIAgent中RAG系统的数据集如下:(可以明显看到这是对简历的切分Chunk) resume_chunks = [ basic_chunk, skills_...

CAMEL框架详解与思考

CAMEL

背景 CAMEL是首个基于大模型的多Agent框架,其设计是多个角色扮演,互相对话,来达成共同的用户任务. CAMEL原文讲解 人类的一个idea,通过”Task Specifier“ 翻译,补充,明确化成一个具体的任务. 根据这个任务,设置2个不同的角色扮演:AI 助手 和 AI 用户. 通过这2个角色互相之间多轮对话直到 AI 用户觉得任务完成了 或者达到最大限度的对话...

财务报表分析AIAgent的搭建与思考:ReAct RAG Agent

Architecture

背景 没有复杂的RAG设计, 仅仅通过LlamaIndex的ReAct RAG Agent框架来实现财务报表的分析,就可以达到和初级商业分析师一样的水平. 但也是有许多的不足.个人觉得仅仅适合微小型企业来使用. 财报分析结构图 1, 加载A, B, ……公司的财务报表文件 from llama_index.core import SimpleDirectoryReader ...

AIAgent之完整的系统架构

Architecture

完整的架构结构 Architecture 1. Intent Layer 2. Planning Layer 3. Execution Layer 4. Tool Layer 5. Memory Layer 6. Knowledge Layer 7. Policy & Guardrail Layer 8. Observability Layer 9. Persistence Laye...

企业级AIAgent:Router + ReAct + Function Calling

Architecture

背景 用户的Query既有简单的信息搜索又有工具调用,那么就需要设计一个通用可复用的成熟的系统架构 架构结构 Architecture User Query       ↓ 1️⃣ Intent Router       ↓ ┌───────────────┬──────────────────┐ │ Simple QA     │ Tool Required     │ │ (L...

企业级AIAgent:ReAct + Function Calling

ReAct框架

背景 在完整的AI Agent中,工具的调用这里采用ChatGPT的Function Calling的思想,通过定义“Tools Schema”来连接LLM和Tools的调用. 架构结构 User Query     ↓ Agent (LLM with tool access)     ↓ Decide:     - Call Tool?     - Or Final Answe...

企业级AIAgent:Plan-and-Execute + Function Calling

Plan-and-Execute框架

背景 在完整的AI Agent中,工具的调用这里采用ChatGPT的Function Calling的思想,通过定义“Tools Schema”来连接LLM和Tools的调用. 1,先定义Tools Schema 这里用到的工具: Search Database, Send Mail, Get Weather等等. 这些工具也就是自定义工具方法的名字. tools =...