Strict Frog's Blog

FastAPI+Uvicorn+Gradio

快速构建高质量Web界面

背景 在之前做过的AIAgent中的Web页面,都是以Html+Css+Js搭建, 一个字: 丑. 选择 FastAPI + Gradio 快速构建好看的UI 下面是RAG可视化的UI: 代码很简单,如下: https://github.com/LuochuanAD/Fine-tuning-Learn/tree/main/FastAPI%2BUvicorn%2...

FastAPI+Uvicorn+Gradio

高速で高品質なWebインターフェースの構築

背景 以前作ったAIAgentのWebページはすべてHtml+Css+Jsで構築していて、一言でいうと:ダサかった。 選択 FastAPI + Gradioで見栄えの良いUIを素早く構築 以下はRAGの可視化UIです: コードは非常にシンプルで、以下の通りです: https://github.com/LuochuanAD/Fine-tuning-Learn/t...

FastAPI+Uvicorn+Gradio

Rapidly Building High-Quality Web Interfaces

Background Previously, the web pages in AIAgent projects were built using Html+Css+Js, in one word: ugly. Choice FastAPI + Gradio for quickly building attractive UIs Below is the UI for...

如何构建AIOS架构?

架构

背景 场景: 在类似于ChatGPT设计风格的对话框中,用户可以进行对话,文件分析,以及其他的一些文档生成,排版等等的轻量级ChatAgent. 注意:此特定的AIgent属于即时性对话和分析,本文不涉及RAG和长任务规划 要解决的问题: 1, 通过用户意图分析(intent router),进行长短期Memory设计 2, 用户通过引用一段文字进行追问时, 短期记...

AIシステムのアーキテクチャを構築する方法

アーキテクチャ

背景 シナリオ: ChatGPTのデザインスタイルに似たチャットボックスで、ユーザーが会話、ファイル解析、その他ドキュメント生成やレイアウトなどを行う軽量ChatAgent。 注意: 本特定AIgentは即時対話と解析に特化し、RAGや長期タスクプランニングは対象外です。 解決すべき課題: ユーザーの意図解析(intent router)に基づく...

How to build an AIOS architecture ?

architecture

Background Scenario: A lightweight ChatAgent embedded in a ChatGPT-style conversational interface, where users can engage in dialogue, document analysis, as well as other document generation an...

Prompt模版(防攻击)

Prompt模版

背景 Prompt的安全和结构,这里只提供模版. 完整的prompt [System Prompt] [Tool Instructions] [Security Rules] [RAG Context] User Question System Prompt You are an AI assistant designed to solve user probl...

Promptテンプレート(攻撃防止)

Promptテンプレート

背景 プロンプトの安全性と構造について、ここではテンプレートのみを提供します。 完全なプロンプト [システムプロンプト] [ツールの指示] [セキュリティルール] [RAGコンテキスト] ユーザ質問 システムプロンプト あなたはユーザの問題を推論し、必要に応じてツールを使用して解決するAIアシスタントです。 ルール: 1. 常に正確で検証可能な情報を優先してく...

Prompt Template (Attack Prevention)

Prompt template

Background Prompt security and structure—this section provides only templates. Complete Prompt [System Prompt] [Tool Instructions] [Security Rules] [RAG Context] User Question System ...

Prompt之上下文管理和过滤

Prompt

背景 在开发文件分析的ChatAgent时, 在多轮对话的场景中,用户上传一个文件进行分析,LLM根据这个文件分析结果来回答用户的问题. 那么在用户第2,3,4…次提问中,有时问题和文件毫无关系, 那么prompt的上下文始终包含文件的分析结果就变得不可取了, 因为输入的tokens太多,成本也变得太高.管理和过滤prompt上下文就非常有必要了 分析 1, 最终的结果效...

Promptのコンテキスト管理とフィルタリング

技術ブログタイトルの翻訳

背景 ファイル解析用のChatAgentを開発する際に、多ターン対話のシナリオでユーザーがファイルをアップロードして解析し、LLMがそのファイル解析結果に基づいてユーザーの質問に回答します。 しかしユーザーの2回目、3回目、4回目…の質問では、質問がファイルと全く関係ない場合があります。この場合、プロンプトのコンテキストに常にファイルの解析結果を含めるのは適切ではなくなります。なぜな...

Context Management and Filtering in Prompts

Technical Blog Title

Background When developing a ChatAgent for document analysis, in multi-turn conversations, users upload a file for analysis, and the LLM answers user questions based on the analysis results of ...

AI时代下该如何生存

自我反思

AI时代下该如何生存? 在AI时代,工作被代替已经是必然了. 这意味着你的收入来源将不在稳定,每个月可支配的收入将会时多时少。 而在这场变革中,真正决定你活下来的是抗风险能力: 自身的负债额度, 每月最低的消费成本, 身体和心理的健康程度。 当大部分中产阶级都被AI视为平等对待时,差距将会被拉大 顶尖的人才将会突出, 中层人将会被严重挤压 底层人将会...

AI時代にどう生きるか

自己反省

AI時代でどのように生き残るか? AI時代において、仕事が代替されるのは避けられません。 これは、収入源が安定せず、毎月の可処分所得が増減することを意味します。 この変革の中で、生き残るために本当に重要なのはリスク耐性です: 自身の負債額、 毎月の最低生活コスト、 身体的および精神的な健康状態。 大多数の中産階級がAIに一律に扱われるとき、格差は拡大します。 ...

How to Survive in the Age of AI

Self-Reflection

How to Survive in the AI Era? In the AI era, job displacement is inevitable. This means your income source will no longer be stable, and your monthly disposable income will fluctuate. In this tr...