AOA

架構模式

把產品的 Agent
卸載到使用者端

AOA 把產品中的 Agent 工作——LLM 推理、工具操作,以及它們消耗的 token——卸載給使用者既有的 Coding Agent(Claude Code、Codex、Cursor、Gemini CLI、Pi…)。服務端仍可保留它需要的其他部分,包括後端或輕量模型。

02 / 架構

頭腦與引擎

Agent 的推論由誰執行,token 由誰負擔。

產品中的 Agent 需要頭腦(LLM 推論)和引擎(推論消耗的 token)。 傳統 SaaS 兩者都由服務商提供,再轉嫁成訂閱費。AOA 把兩者交給使用者既有的 Agent;服務提供介面與規格,其餘架構照舊保留。

Service · 服務方

介面與規格

  • 網頁工作台、API,或兩者
  • 以 URL 提供的規格:Guide、Schema、Skill
  • 驗證 Agent 寫回的結果

不執行、不負擔 Agent 的推論

Brain · 頭腦

LLM 推論

  • 理解需求、規劃步驟
  • 寫檔、呼叫本機工具(FFmpeg、Playwright、TTS)
  • 由使用者的 Agent 執行:Claude Code、Codex、Cursor、Pi…

使用者選的模型

Engine · 引擎

Token

  • 推論消耗的 token 由使用者供給
  • Agent 方案的額度,或本機模型的硬體
  • 服務方的邊際成本趨近於零

使用者的方案 · 或本機

兩端之間沒有私有通道:Agent 從 URL 讀規格,再透過檔案或 API 交回結果。前端工具則以使用者授權的本機資料夾為唯一真實來源。

03 / 原則

四大核心原則

怎樣的架構才算 AOA。

  1. 01

    Agent 工作卸載

    需要 Agent 推理與工具操作的工作,在使用者的 Agent 上以使用者的 token 執行。服務端仍可保留後端、資料庫或輕量模型。

  2. 02

    Schema 即合約

    服務與 Agent 透過公開的 JSON Schema 協作,而非私有 API;Agent 寫入的所有內容都要經過驗證。

  3. 03

    檔案或 API 即匯流排

    前端以本機資料夾為唯一真實來源,並以檔案中繼資料特徵碼偵測變更;純後端服務則以 API 提供同樣的合約。

  4. 04

    本地優先,邊界由使用者決定

    Agent 處理的檔案留在使用者端;唯一會看到這些上下文的第三方是使用者自選的 LLM 供應商,改用本機模型則沒有。

04 / 對比

雲端 SaaS vs. AOA

AOA 沒有讓推論變免費,而是把 Agent 的推論移到使用者早已付費的方案,或使用者自己的硬體上。

雲端 GenAI SaaS AOA
託管 GPU 主機、資料庫、流量費 CDN 上的靜態檔案,或不承擔 Agent 負載的後端
Agent 推論成本 服務商負擔,再以訂閱回收 使用者既有的 Agent 方案,或本機模型
使用者檔案 上傳並保存在服務商雲端 留在使用者本機
產出 黑盒,不滿意只能重新生成 一般檔案(MD、SVG、Vue、PDF),任何步驟都能修改
維運 後端 24/7 監控 只需維運服務自己保留的部分;純靜態網站則沒有

05 / 模式

四種協作模式

從零設定的前端,到沒有前端的純 API,可漸進採用。

A
純工作台例:Slide Studio
靜態網頁讀寫使用者授權的資料夾,輪詢檔案變化,並產生指令讓使用者貼給 Agent。不需要安裝任何東西。
B
伴侶增強例:Video Studio
在 127.0.0.1 上的微型 WebSocket Companion,以 Origin 檢查與 Token 配對,推播事件並執行白名單指令。
C
前端+輕量後端團隊與商業化
雲端控制平面負責帳號、計費與團隊協同;推論、token 與資料仍留在使用者端(自備 Agent,BYOA)。
D
純後端Agent 直接操作 API
沒有網頁介面。服務只提供 API,Agent 讀取規格後直接呼叫;服務端保存資料與狀態,但不執行 Agent 的推論。也可以包成 MCP server 讓 Agent 掛上。

共同前提 · 規格的入口

不論哪一種模式,Agent 都要先拿到規格,而入口通常就是一個 URL:網頁上的 Guide、/api/index.json、OpenAPI 文件或 Skill。 本站的 /api/index.json 就是 Video Studio 給 Agent 的入口。

06 / 限制

限制與取捨

採用 AOA 前需要評估的限制。前兩項取決於使用者環境,後兩項需要在產品設計中處理。

  • 瀏覽器支援(前端模式)

    目錄存取需要 File System Access API,目前為桌面版 Chrome 與 Edge;Brave 預設停用,Firefox 與 Safari 不支援。

  • 使用者自備 Agent

    需要可用的 Agent 環境,並自行負擔 Agent 方案或本機模型的費用。

  • Agent 不具確定性

    Agent 產出必須經過 Schema 驗證,並提供重試與修復流程。

  • 模式 A 需人工觸發

    沒有 Companion 時,使用者需在終端機啟動 Agent,並貼上網頁產生的指令。