臺灣推論中心
輕推臺灣AI素養,業界 + 學界 + 政府
臺灣推論中心主要目標
1
輕推臺灣AI素養
臺灣政府已經推出五年350億的半導體硬體投資,而臺灣推論中心的主要目的是希望建立起我們的AI軟實力。
2
跨領域合作
我們期待能夠結合業界、學界、以及政府的跨領域組織群,參與臺灣推論中心的設計與推廣。
解決大模型正體/繁體中文輸出問題
1
Layer 1 轉繁
如果大模型輸出簡體中文,我們會將其轉換成繁體。
2
Layer 2 對照
如果已經是繁體但使用中國慣用語,我們會通過對照表進行轉換。
3
Layer 3 上下文
某些情況下,單純的字串替換可能會因上下文而出錯,這時我們會運用大模型的智慧能力來判斷上下文,確保正確轉換。
五層安全防護
隱私
為了確保用戶資料安全,臺灣推論中心在資料傳輸過程中採用了嚴密的加密技術。在GPU處理完成後,資料會立即被清除,防止任何可能的資料外洩。這是我們對用戶隱私的堅定承諾。
多因
臺灣推論中心採用多因子認證來提升安全層級,即使密碼外洩,也需要額外的驗證步驟才能登入。此外,我們還要求使用者設定複雜密碼,以保護帳戶安全。多因子認證和複雜密碼設置,為用戶提供了多層次的保護,確保帳戶的安全性。
鎖定
為了防止未經授權的存取,臺灣推論中心僅允許特定 IP 範圍內的存取。我們也使用流速限制,防止惡意流量攻擊,確保系統穩定運行。這樣就能有效防止來自不合法來源的入侵,讓系統安全穩定地運行。
越獄
我們採取防範 Jailbreak 技巧的措施,阻止利用系統漏洞的攻擊行為。此外,我們還使用沙盒技術,將 AI 模型置於安全的虛擬空間內,限制其互動範圍,以確保系統和用戶的安全。這些措施可以有效地防範潛在的漏洞攻擊,提升系統的安全性和穩定性。
獨立
每個機關都是獨立VM,獲得ISO 27001資訊安全管理系統認證,確保符合國際安全標準。
多模型推論引擎
臺灣研發大模型
臺灣推論中心提供多模型推論引擎,您可以自由選擇最適合您需求的模型。我們提供了豐富的模型選擇,涵蓋本土、國際商用以及高性能模型,滿足您的各種應用需求。
botrun 波特人系列大模型
taide 臺德大模型
tame 臺灣混合專家大模型
國際商用大模型
anthropic claude 系列大模型
openai gpt 系列大模型
google gemini 系列大模型
meta llama 系列大模型
高性能大模型
mistral / mixtral 系列大模型
gemma 系列大模型
flux 系列大模型
混合雲AI推論引擎架設
公有雲
google臺灣機房、microsoft azure臺灣機房、amazon aws臺灣機房
政府機房
國家高速網路與計算中心、政府封閉機房
企業機房
企業封閉機房
臺灣推論中心主要支援的雲端平台
🌟 Microsoft Azure
核心優勢: GPT系列 & AutoGen
獨特功能: AutoGen:多代理人協作框架
適用場景: 複雜任務分解、自動化工作流程
臺灣本地資料中心: 有
🌈 Google Cloud
核心優勢: Gemini 多模態 & 影片處理
獨特功能: 卓越的影片理解和生成能力
適用場景: 多模態內容處理,特別是影片
臺灣本地資料中心: 有
☁️ Amazon AWS
核心優勢: Anthropic Claude 頂級寫程式大模型
獨特功能: 通過 Bedrock 提供多種頂級模型
適用場景: 高級程式設計、代碼生成和優化
臺灣本地資料中心: 有
🇹🇼 臺灣國網中心
核心優勢: TAIDE臺德大模型
獨特功能: 本地化大型語言模型
適用場景: 臺灣政府專屬應用、中文處理
臺灣本地資料中心: 有
上網搜尋與向量資料庫能力
Made with