Strict Frog's Blog

ChatGPT能力界限

ChatGPT

背景 知己知彼,才能更好的开发私有的AIAgent 一、ChatGPT 天生能做的事情(LLM 原生能力) 1 语言理解与生成 2 知识推理 3 编程能力 4 信息结构化 5 多模态理解 问答 逻辑推理 写代码 从文本中抽...

ChatGPTの能力限界

ChatGPT

背景 自己と相手を知ることで、より良いプライベートAIAgentを開発できる 1. ChatGPTが本来得意とすること(LLMのネイティブ能力) 1 言語理解と生成 2 知識推論 3 プログラミング能力 4 情報の構造化 5 マルチモーダル理解 質問応答 ...

ChatGPT Capability Limits

Optimizing Distributed Systems with ChatGPT for Techniques and Best Practices

Background Know yourself and your opponent to better develop private AI Agents 1. Innate Capabilities of ChatGPT (LLM Native Abilities) 1 Language Understanding & Generati...

Workflow+limitedPlanning的设计思想

Workflow+limitedPlanning

背景 在实际 AI Agent 系统中,很多团队采用一种折中架构: Workflow + Limited Planning,即用 LLM 做轻量规划,再执行预定义 workflow。 真实世界很多 AI 产品都用这种架构 很多系统其实就是 Workflow + Limited Planning。 例如: LangGraph(状态机 workflow) Notion AI Pe...

AutoGPT分析与Autonomous思考

Auto-GPT

背景 Auto-GPT是能够根据用户的目标输入,制定计划,解析计划,拆解计划,执行计划,评估执行结果,并且不断循环产生结果并结合外部资源执行相应操作,逐步达到达到目的. 我对Auto-GPT的prompt提示词会自动更新这一点非常感兴趣. Auto-GPT原文讲解 用户的目标输入+初始化系统提示词 =》 检索Memory记忆库 =》 得到以前的Memory =...

Workflow+limitedPlanningの設計思想

ワークフロー+限定プランニング

背景 実際の AI エージェントシステムでは、多くのチームが妥協案として次のアーキテクチャを採用しています: Workflow + Limited Planning、つまり LLM を使って軽量な計画を行い、その後にあらかじめ定義されたワークフローを実行します。 実世界の多くの AI プロダクトがこのアーキテクチャを使っています 多くのシステムは基本的に Workflow + L...

AutoGPT分析と自律的思考

オートGPT

背景 Auto-GPTはユーザーの目標入力に基づいて計画を立て、計画を解析し、分解し、実行し、実行結果を評価し、外部リソースを活用しながら継続的に結果を生成し、段階的に目的を達成する自己完結型エージェントです。 私はAuto-GPTのプロンプトが自動で更新される仕組みに非常に興味を持っています。 Auto-GPTの詳細説明 ユーザーの目標入力 + 初期システムプロ...

Design Philosophy of Workflow+limitedPlanning

Workflow + Limited Planning

Background In practical AI Agent systems, many teams adopt a hybrid architecture: Workflow + Limited Planning, where an LLM performs lightweight planning followed by executing a predefined work...

AutoGPT Analysis and Autonomous Thinking

Auto-GPT

Background Auto-GPT is capable of formulating plans, parsing plans, breaking down plans, executing plans, evaluating execution results, and continuously iterating to produce outcomes while inte...

梦境与自我反思

纯属虚构

梦境 梦境的场景来自于:小学的学校位于一座稍微高的山坡顶上, 我的家离学校很远,但也不是遥不可及. 在一片漆黑的夜晚,伸手不见五指,似乎在这个梦境世界永远都是这样的黑夜. 我虽然看不清脚下的路,也感受不到身边任何的事物,只有空旷, 但我很清楚我的目标是位于小学学校右上角的”垃圾堆“上,而小学学校就在一座稍微高个几十米左右的山坡顶上,因为那儿有一火焰光团正在散发着模糊但持续的光,指引着身在...

夢と自己反省

完全なフィクション

夢の風景 夢の舞台は、小学校が少し高い丘の頂上にあり、私の家は学校から遠いが、決して届かない距離ではない場所から始まります。 真っ暗な夜、手を伸ばしても指先が見えないほどの闇の中、まるでこの夢の世界は永遠にこうした夜のままのようです。足元の道は見えず、周囲の物も感じ取れません。ただ広がる空間だけを感じながらも、私は目標が小学校の右上の「ゴミ捨て場」にあることをはっきり認識しています。小学...

Dreams and Self-Reflection

Purely Fictional

Dreamscape The dream scene is set in: an elementary school located on the top of a slightly elevated hill. My home is far from the school, but not unreachable. On a pitch-black night, so dark you...

AIAgent之token成本控制

成本管理

背景 在做AI产品的过程中,随着用户数的增加,每次调用LLM, 使用的提示词都在花钱. 那么如何在不影响结果的前提下,极限的减少不必要的消费呢? LLM的收费结构 这里举例OpenAI 可以看出最新的openAI API的Tokens收费结构为: Input 输入: 是Cached input的 10倍价格, 是Output的 1/10的价格 Cached i...

AIAgentのTokenコスト管理

コスト管理

背景 AIプロダクト開発の過程で、ユーザー数の増加に伴い、LLMを呼び出すたびにプロンプトに対してコストが発生します。結果に影響を与えずに、いかに不要なコストを極限まで削減するかが課題です。 LLMの料金体系 ここではOpenAIを例に説明します。 最新のOpenAI APIのトークン課金構造は次の通りです: Input 入力: Cached inputの10倍...

Token Cost Control in AIAgent

Cost Management

Background When building AI products, as the number of users grows, every LLM call and the prompt tokens used incur costs. So how can we minimize unnecessary expenses without affecting the resu...