某銀行:生成式AI 服務
專案背景
在生成式 AI 技術迅速成熟與普及的趨勢下,金融業者也積極尋求將 AI 導入日常營運與決策支援流程中。為提升內部員工作業效率、資訊查詢便利性與決策支援能力,某大型金融機構啟動本專案,旨在導入 ChatGPT 服務,並透過 Microsoft Azure OpenAI 提供的安全平台,打造專屬的生成式 AI 應用環境。
專案規劃以 Teams 整合及專屬網頁平台建置為核心,確保系統在熟悉工作場域中靈活使用,同時滿足不同部門的功能需求與資安規範。
客戶痛點
在現代化金融服務快速變動的背景下,該金融機構面臨數個營運上的挑戰。首先,內部同仁在日常工作中經常需花費大量時間進行資訊查找與文件撰寫,造成重複性高、效率低下的工作負擔。例如,在客服或法遵等部門中,處理大量相似查詢與資料彙整任務已成為常態,導致人力資源難以有效利用。
其次,企業對於資訊安全有極高的要求,因此對於使用公有 ChatGPT 等第三方 AI 工具始終存在顧慮。若將內部敏感資料上傳至外部平台,恐將面臨資料外洩或違反資安政策的風險,進而影響整體信任與合規性。
此外,企業決策層級在做出管理決策時,經常無法即時獲取所需的數據分析與建議,導致需仰賴人工彙整報表或跨部門調用資源,降低決策效率。而在日常作業上,部門間使用的數位工具與平台並不統一,造成流程割裂與資訊流通不順,亦限制了 AI 工具的有效導入與擴展。
解決方案
1. 建置專屬的 Azure OpenAI 環境
- 採用 Azure OpenAI 服務,在企業內部雲端平台中建置獨立的 GPT 執行環境。
- 確保資料不會流出至公有環境,滿足企業對機敏資料保護與合規的要求。
2. 整合 Microsoft Teams 聊天介面
- 將 ChatGPT 功能整合至 Teams,讓使用者可直接在日常協作平台中使用 AI 查詢與輔助作業。
- 減少學習成本,提高使用意願與頻率。
3. 開發專屬網頁平台
- 建置具備完整使用功能的網頁介面,支援進階應用情境,例如複雜資料處理、大量內容生成、報表產出等。
- 提供更彈性的使用方式,滿足不同部門的業務需求。
4. 提供完整的使用者教育與內部培訓
- 根據使用者職務與部門提供客製化教學資源。
- 規劃線上說明會、使用手冊與實作演練,協助快速上手。
5. 設置技術支援與回報機制
- 成立內部 AI 使用支援窗口,提供即時協助與問題排除。
- 建立使用者反饋流程,利於後續功能優化與改版。
6. 導入多層級安全性控管
- 系統具備身分驗證(如 AAD/SSO)、角色權限設定、存取日誌記錄等防護機制。
- 配合資安政策進行數據加密、防火牆與入侵偵測等措施。
7. 執行完整的測試與定期稽核
- 專案初期進行系統穩定性與安全性測試。
- 上線後定期進行資安審查與環境健檢,確保系統持續合規與可靠。
8. 支援未來功能擴充與持續優化
- 預留系統彈性架構,可依據業務成長新增模組與應用場景。
- 持續收集使用反饋,定期更新模型與介面功能,提升使用體驗。