臺灣推論中心

輕推臺灣AI素養,業界 + 學界 + 政府

臺灣推論中心主要目標

1

輕推臺灣AI素養

臺灣政府已經推出五年350億的半導體硬體投資,而臺灣推論中心的主要目的是希望建立起我們的AI軟實力。

2

跨領域合作

我們期待能夠結合業界、學界、以及政府的跨領域組織群,參與臺灣推論中心的設計與推廣。

解決大模型正體/繁體中文輸出問題

1

Layer 1 轉繁

如果大模型輸出簡體中文,我們會將其轉換成繁體。

2

Layer 2 對照

如果已經是繁體但使用中國慣用語,我們會通過對照表進行轉換。

3

Layer 3 上下文

某些情況下,單純的字串替換可能會因上下文而出錯,這時我們會運用大模型的智慧能力來判斷上下文,確保正確轉換。

五層安全防護

隱私

為了確保用戶資料安全,臺灣推論中心在資料傳輸過程中採用了嚴密的加密技術。在GPU處理完成後,資料會立即被清除,防止任何可能的資料外洩。這是我們對用戶隱私的堅定承諾。

多因

臺灣推論中心採用多因子認證來提升安全層級,即使密碼外洩,也需要額外的驗證步驟才能登入。此外,我們還要求使用者設定複雜密碼,以保護帳戶安全。多因子認證和複雜密碼設置,為用戶提供了多層次的保護,確保帳戶的安全性。

鎖定

為了防止未經授權的存取,臺灣推論中心僅允許特定 IP 範圍內的存取。我們也使用流速限制,防止惡意流量攻擊,確保系統穩定運行。這樣就能有效防止來自不合法來源的入侵,讓系統安全穩定地運行。

越獄

我們採取防範 Jailbreak 技巧的措施,阻止利用系統漏洞的攻擊行為。此外,我們還使用沙盒技術,將 AI 模型置於安全的虛擬空間內,限制其互動範圍,以確保系統和用戶的安全。這些措施可以有效地防範潛在的漏洞攻擊,提升系統的安全性和穩定性。

獨立

每個機關都是獨立VM,獲得ISO 27001資訊安全管理系統認證,確保符合國際安全標準。

多模型推論引擎

臺灣研發大模型

臺灣推論中心提供多模型推論引擎,您可以自由選擇最適合您需求的模型。我們提供了豐富的模型選擇,涵蓋本土、國際商用以及高性能模型,滿足您的各種應用需求。

botrun 波特人系列大模型

taide 臺德大模型

tame 臺灣混合專家大模型

國際商用大模型

anthropic claude 系列大模型

openai gpt 系列大模型

google gemini 系列大模型

meta llama 系列大模型

高性能大模型

mistral / mixtral 系列大模型

gemma 系列大模型

flux 系列大模型

混合雲AI推論引擎架設

公有雲

google臺灣機房、microsoft azure臺灣機房、amazon aws臺灣機房

政府機房

國家高速網路與計算中心、政府封閉機房

企業機房

企業封閉機房

臺灣推論中心主要支援的雲端平台

🌟 Microsoft Azure

核心優勢: GPT系列 & AutoGen

獨特功能: AutoGen:多代理人協作框架

適用場景: 複雜任務分解、自動化工作流程

臺灣本地資料中心: 有

🌈 Google Cloud

核心優勢: Gemini 多模態 & 影片處理

獨特功能: 卓越的影片理解和生成能力

適用場景: 多模態內容處理,特別是影片

臺灣本地資料中心: 有

☁️ Amazon AWS

核心優勢: Anthropic Claude 頂級寫程式大模型

獨特功能: 通過 Bedrock 提供多種頂級模型

適用場景: 高級程式設計、代碼生成和優化

臺灣本地資料中心: 有

🇹🇼 臺灣國網中心

核心優勢: TAIDE臺德大模型

獨特功能: 本地化大型語言模型

適用場景: 臺灣政府專屬應用、中文處理

臺灣本地資料中心: 有

上網搜尋與向量資料庫能力

Made with