可以私有部署,但要看具體模型
DeepSeek 及 Qwen 的官方資料列出可下載權重及本地運行路線,適合列入私有 AI 評估。並非每個產品、API 模型或功能都可直接下載;須逐個核對模型授權、使用限制、硬件容量及應用要求。本文章提供一般技術及商業資訊,並非法律意見,亦不就任何方案作法律合規結論。
公開 API:先畫出資料路徑
畫出提示、文件、回應與日誌的完整資料路徑。
詳細考慮
列出提示、上載文件、回應、日誌及支援資料會到達哪些服務。核對保留期限、訓練用途、分包商、處理位置、刪除及事故通知。API 路由不能自行改變第三方地區條款;企業須選擇正式可用的渠道。
香港數據中心:控制哪些層?
香港託管不代表外部 API、日誌及支援處理全部留港。
詳細考慮
香港託管可涵蓋應用、文件、索引及合適模型。若仍呼叫外部模型、監察或其他 API,相關處理未必全部留港。用資料路線圖區分模型推理、儲存、日誌、備份及遠端支援,逐項確認實際位置與存取。
On-site:運算與維護責任
確認硬件容量、依賴項及更新、監察和復原責任。
詳細考慮
機構內部署須評估模型記憶體、運算資源、容量、網絡及可用性,並界定更新、監察、復原及事故處理責任。受限制或離線環境需要測試依賴項;不能只把模型裝上伺服器便視為完成交付。
資料敏感度與保留
按必要用途使用資料,並管理保留、刪除及存取紀錄。
詳細考慮
把個人資料、商業機密、政策及公開資料分層,按必要用途決定可送出的欄位。提示、回應、向量索引與日誌亦可能包含敏感資料,要設定保留期限、刪除、存取紀錄及測試資料規則。
內部知識與權限
內部知識須遵守部門權限;方案 E/GenCMS 可列入評估。
詳細考慮
內部知識庫應按文件擁有人、版本及部門權限建立來源。檢索與回答均須遵守可見範圍,並測試不同角色的正常查詢、越權要求與無依據答案。AskCore 是網站答客服務;受控內部知識應評估方案 E/GenCMS 的私有 AI 路線。
PDPO 與採購需要確認的問題
整理私隱與採購問題,交由適當專業人士按實際情況確認。
詳細考慮
一般評估應整理收集目的、必要性、告知、使用範圍、保安、保存及供應商責任,並由適當的私隱/法律專業人士按實際情況確認。部署位置只是其中一項條件,不代表自動符合所有規定。
方案 E/GenCMS 的實施層
由來源、權限及一個目標工作開始,安排整合與持續維護。
詳細考慮
iGears 可協助整理來源、權限、模型路線、檢索、應用整合、測試及長期維護,按資料敏感度組合 API、香港託管或 On-site。先確認一個工作範圍及驗收條件,再在書面方案與報價中列明責任。
先做一個實用檢查
參考資料
- OpenAI — ChatGPT supported countries
- Anthropic — Supported Regions Policy
- Google — Gemini web app availability
- Microsoft — Microsoft 365 Copilot requirements
- DeepSeek — open-weight deployment documentation
- Qwen — official deployment documentation
- Alibaba Cloud — Model Studio regions and APIs
- PCPD — Artificial Intelligence guidance