AOA

Architecture pattern · 架構模式

後端不跑 AI 的
代理卸載式架構

打造 AI 產品,卻不必在後端扛 GPU 與推論成本。AOA 把推理與執行卸載給使用者手上既有的 Coding Agent(Claude Code、Codex、Cursor、Gemini CLI、Pi…);服務本身只負責協議、介面與協同。

02 / 架構

頭腦與引擎

推論由誰執行,token 由誰負擔。

一個 AI 產品要動起來,需要頭腦(LLM 推論)和引擎(推論消耗的 token)。 傳統 SaaS 兩者都由服務商提供,再轉嫁成訂閱費。AOA 把兩者都交給使用者既有的 Agent;服務只提供介面與規格,不執行推論,也不負擔 token 成本。

Service · 服務方

介面與規格

  • 網頁工作台,或 API
  • 以 URL 提供的規格:Guide、Schema、Skill
  • 驗證 Agent 寫回的結果

不跑推論 · 不付 token

Brain · 頭腦

LLM 推論

  • 理解需求、規劃步驟
  • 寫檔、呼叫本機工具(FFmpeg、Playwright、TTS)
  • 由使用者的 Agent 執行:Claude Code、Codex、Cursor、Pi…

使用者選的模型

Engine · 引擎

Token

  • 推論消耗的 token 由使用者供給
  • Agent 方案的額度,或本機模型的硬體
  • 服務方的邊際成本趨近於零

使用者的方案 · 或本機

兩端之間沒有私有通道:Agent 從 URL 讀規格,再透過檔案或 API 交回結果。前端工具則以使用者授權的本機資料夾為唯一真實來源。

03 / 原則

四大核心原則

怎樣的架構才算 AOA。

  1. 01

    零推論控制層

    應用層(不論純靜態或有後端)不跑模型、不做重度運算,服務商的邊際算力成本趨近於零。

  2. 02

    Schema 即合約

    UI 與 Agent 透過公開的 JSON Schema 協作,而非私有 API;UI 驗證 Agent 寫入的所有內容。

  3. 03

    檔案系統即匯流排

    本機資料夾是唯一真實來源,UI 以輕量的檔案中繼資料特徵碼偵測變更。

  4. 04

    本地優先,邊界由使用者決定

    檔案不經過服務商伺服器;唯一會看到上下文的第三方是使用者自選的 LLM 供應商,改用本機模型則沒有。

04 / 對比

雲端 SaaS vs. AOA

AOA 沒有讓推論變免費,而是把它移到使用者早已付費的 Agent 方案,或使用者自己的硬體上。

雲端 GenAI SaaS AOA
託管 GPU 主機、資料庫、流量費 CDN 上的靜態檔案
推論成本 服務商負擔,再以訂閱回收 使用者既有的 Agent 方案,或本機模型
使用者檔案 上傳並保存在服務商雲端 留在使用者本機
產出 黑盒,不滿意只能重新生成 一般檔案(MD、SVG、Vue、PDF),任何步驟都能修改
維運 後端 24/7 監控 沒有後端要維運

05 / 模式

四種協作模式

從零設定的前端,到沒有前端的純 API,可漸進採用。

A
純工作台例:Slide Studio
靜態網頁讀寫使用者授權的資料夾,輪詢檔案變化,並產生指令讓使用者貼給 Agent。不需要安裝任何東西。
B
伴侶增強例:Video Studio
在 127.0.0.1 上的微型 WebSocket Companion,以 Origin 檢查與 Token 配對,推播事件並執行白名單指令。
C
前端+輕量後端團隊與商業化
雲端控制平面負責帳號、計費與團隊協同;推論、token 與資料仍留在使用者端(自備 Agent,BYOA)。
D
純後端Agent 直接操作 API
沒有網頁介面。服務只提供 API,Agent 讀取規格後直接呼叫;服務端可以保存資料與狀態,但不跑推論。也可以包成 MCP server 讓 Agent 掛上。

共同前提 · 規格的入口

不論哪一種模式,Agent 都要先拿到規格,而入口通常就是一個 URL:網頁上的 Guide、/api/index.json、OpenAPI 文件或 Skill。 本站的 /api/index.json 就是 Video Studio 給 Agent 的入口。

06 / 限制

限制與取捨

採用 AOA 前需要評估的限制。前兩項取決於使用者環境,後兩項需要在產品設計中處理。

  • 瀏覽器支援(前端模式)

    目錄存取需要 File System Access API,目前為桌面版 Chrome 與 Edge;Brave 預設停用,Firefox 與 Safari 不支援。

  • 使用者自備 Agent

    需要可用的 Agent 環境,並自行負擔 Agent 方案或本機模型的費用。

  • Agent 不具確定性

    Agent 產出必須經過 Schema 驗證,並提供重試與修復流程。

  • 模式 A 需人工觸發

    沒有 Companion 時,使用者需在終端機啟動 Agent,並貼上網頁產生的指令。