Strict Frog's Blog

Workflow+limitedPlanning的设计思想

Workflow+limitedPlanning

背景 在实际 AI Agent 系统中,很多团队采用一种折中架构: Workflow + Limited Planning,即用 LLM 做轻量规划,再执行预定义 workflow。 真实世界很多 AI 产品都用这种架构 很多系统其实就是 Workflow + Limited Planning。 例如: LangGraph(状态机 workflow) Notion AI Pe...

AutoGPT分析与Autonomous思考

Auto-GPT

背景 Auto-GPT是能够根据用户的目标输入,制定计划,解析计划,拆解计划,执行计划,评估执行结果,并且不断循环产生结果并结合外部资源执行相应操作,逐步达到达到目的. 我对Auto-GPT的prompt提示词会自动更新这一点非常感兴趣. Auto-GPT原文讲解 用户的目标输入+初始化系统提示词 =》 检索Memory记忆库 =》 得到以前的Memory =...

Workflow+limitedPlanningの設計思想

ワークフロー+限定プランニング

背景 実際の AI エージェントシステムでは、多くのチームが妥協案として次のアーキテクチャを採用しています: Workflow + Limited Planning、つまり LLM を使って軽量な計画を行い、その後にあらかじめ定義されたワークフローを実行します。 実世界の多くの AI プロダクトがこのアーキテクチャを使っています 多くのシステムは基本的に Workflow + L...

AutoGPT分析と自律的思考

オートGPT

背景 Auto-GPTはユーザーの目標入力に基づいて計画を立て、計画を解析し、分解し、実行し、実行結果を評価し、外部リソースを活用しながら継続的に結果を生成し、段階的に目的を達成する自己完結型エージェントです。 私はAuto-GPTのプロンプトが自動で更新される仕組みに非常に興味を持っています。 Auto-GPTの詳細説明 ユーザーの目標入力 + 初期システムプロ...

Design Philosophy of Workflow+limitedPlanning

Workflow + Limited Planning

Background In practical AI Agent systems, many teams adopt a hybrid architecture: Workflow + Limited Planning, where an LLM performs lightweight planning followed by executing a predefined work...

AutoGPT Analysis and Autonomous Thinking

Auto-GPT

Background Auto-GPT is capable of formulating plans, parsing plans, breaking down plans, executing plans, evaluating execution results, and continuously iterating to produce outcomes while inte...

梦境与自我反思

纯属虚构

梦境 梦境的场景来自于:小学的学校位于一座稍微高的山坡顶上, 我的家离学校很远,但也不是遥不可及. 在一片漆黑的夜晚,伸手不见五指,似乎在这个梦境世界永远都是这样的黑夜. 我虽然看不清脚下的路,也感受不到身边任何的事物,只有空旷, 但我很清楚我的目标是位于小学学校右上角的”垃圾堆“上,而小学学校就在一座稍微高个几十米左右的山坡顶上,因为那儿有一火焰光团正在散发着模糊但持续的光,指引着身在...

夢と自己反省

完全なフィクション

夢の風景 夢の舞台は、小学校が少し高い丘の頂上にあり、私の家は学校から遠いが、決して届かない距離ではない場所から始まります。 真っ暗な夜、手を伸ばしても指先が見えないほどの闇の中、まるでこの夢の世界は永遠にこうした夜のままのようです。足元の道は見えず、周囲の物も感じ取れません。ただ広がる空間だけを感じながらも、私は目標が小学校の右上の「ゴミ捨て場」にあることをはっきり認識しています。小学...

Dreams and Self-Reflection

Purely Fictional

Dreamscape The dream scene is set in: an elementary school located on the top of a slightly elevated hill. My home is far from the school, but not unreachable. On a pitch-black night, so dark you...

AIAgent之token成本控制

成本管理

背景 在做AI产品的过程中,随着用户数的增加,每次调用LLM, 使用的提示词都在花钱. 那么如何在不影响结果的前提下,极限的减少不必要的消费呢? LLM的收费结构 这里举例OpenAI 可以看出最新的openAI API的Tokens收费结构为: Input 输入: 是Cached input的 10倍价格, 是Output的 1/10的价格 Cached i...

AIAgentのTokenコスト管理

コスト管理

背景 AIプロダクト開発の過程で、ユーザー数の増加に伴い、LLMを呼び出すたびにプロンプトに対してコストが発生します。結果に影響を与えずに、いかに不要なコストを極限まで削減するかが課題です。 LLMの料金体系 ここではOpenAIを例に説明します。 最新のOpenAI APIのトークン課金構造は次の通りです: Input 入力: Cached inputの10倍...

Token Cost Control in AIAgent

Cost Management

Background When building AI products, as the number of users grows, every LLM call and the prompt tokens used incur costs. So how can we minimize unnecessary expenses without affecting the resu...

AIAgent之用户意图分析

Router

背景 用户的Query既有简单的信息搜索又有工具调用,或者只是简单的闲聊等等, 那么结合特定的AIAgent系统如何对用户的查询进行意图分析呢?(或者说Query分类) 特定的AIAgent的场景介绍 特定的AIAgent中RAG系统的数据集如下:(可以明显看到这是对简历的切分Chunk) resume_chunks = [ basic_chunk, skills_...

AIAgentのユーザー意図分析

ルーター

背景 ユーザーのクエリには単純な情報検索やツール呼び出し、あるいはただの雑談などがありますが、特定のAIAgentシステムを使ってユーザーのクエリの意図をどのように解析すれば良いのでしょうか?(あるいはクエリ分類と言えます) 特定のAIAgentのユースケース紹介 特定のAIAgentにおけるRAGシステムのデータセットは以下の通りです:(これは明らかに履歴書をチャンクに分...

User Intent Analysis of AIAgent

Router

Background User queries may involve simple information searches, tool invocations, casual chatting, and more. How can we perform intent analysis (or query classification) on user queries in the ...