恒昌圍繞核心能力初步構建人工智能“可信安全”能力

近年來，隨著人工智能相關技術的持續演進，人工智能已融入人類生活的方方面面，產業化深度融合，商業化進程不斷加快，成為引領新一輪科技革命和產業變革的戰略性技術、重要驅動力量，但同時也對人工智能賦能過程中產生的“可信安全”風險提出了挑戰。

對于具有高度數據化特點的金融行業而言，伴隨著高質量的大數據積累，得益于在深度學習算法上的突破，“AI+金融”加速落地，催生了金融行業一系列產品和業務模式的創新。與此同時，不斷出臺的政策為人工智能在金融領域的應用提供了良好的發展環境。人工智能與金融業務的深度融合，已經成為推動金融機構數智化轉型的新引擎和防范化解金融風險的新利器。

但是，人工智能在推動金融服務走向主動化、個性化、智慧化發展的同時，所帶來的風險與挑戰也已引發廣泛關注。首先，人工智能存在泄漏敏感數據的可能。人工智能的應用建立在大量數據分析的基礎之上，然而數據的流通過程涉及到多個方面，包括應用方、提供方和個人用戶，使用過程中會涉及同行間、跨行業、個人和機構以及機構內部的數據整合等各方，使得人工智能存在泄漏敏感數據的可能，因而人工智能可靠性難以得到足夠的信任。其次，人工智能傳統技術范式存在天然的算法漏洞和缺陷，技術風險也在持續放大。如深度學習模型存在脆弱和易受攻擊的缺陷，黑箱模型因算法不透明容易引發不確定性風險，此外算法產生的結果過度依賴訓練數據，如果訓練數據中存在偏見歧視，就會導致不公平的智能決策產生。

因此，中國信息通信研究院近日發布的《人工智能白皮書(2022 年)》中就指出，“可信安全”逐漸成為人工智能賦能過程中不可或缺的保障。人工智能的“可信安全”最早由學術界提出，近年來圍繞著安全性、穩定性、可解釋性、隱私保護、公平性等方面的可信人工智能研究持續升溫。具體到金融行業，2021年3月26日，人民銀行發布并實施《人工智能算法金融應用評價規范》，作為一部由人民銀行提出，全國金融標準化技術委員會歸口的文件，其也規定了人工智能算法在金融領域應用的基本要求、評價方法和判定標準，適用于開展人工智能算法金融應用的金融機構、算法提供商及第三方安全評估機構等。

人工智能可信安全是人工智能大規模應用的前提和必備條件。對于金融行業而言，風險控制是金融業最核心的能力和挑戰，可信安全尤為突出。一直以來，數據、算法、算力是人工智能的三駕馬車。對于金融行業而言，以數據安全支持智慧決策，用算法安全賦能感官感知，數據安全、算法安全顯得尤為重要。為此，作為金融科技企業之一，恒昌通過打造數據安全與算法安全兩大核心能力，解決數據強依賴帶來的隱私泄漏等隱患，同時提升算法可靠性。

在數據安全領域，經過多年的科技創新及實踐積累，恒昌已從不同維度建立了完善的數據安全防護體系。技術層面，恒昌嚴格采用符合業界標準的安全防護措施，以匿名化、密碼學、權限控制、加密存儲、數據脫敏等業內通行的安全技術來防止客戶個人信息泄露、損壞或丟失。制度層面，恒昌通過建立數據分類分級、數據安全策略、安全開發規范，制定和實施相應的管理制度等方式來保護客戶個人隱私，保障信息安全。安全事件管控方面，恒昌組建了專門的應急響應團隊。一旦發生安全事件，會立即啟動安全預案，實施處置并報送信息，最大程度進行止損、分析、定位、補救，聯合相關部門進行溯源和打擊。

在算法安全領域，人工智能系統面臨病毒攻擊、對抗攻擊等特有攻擊，這加大了安全性方面的挑戰。目前，人工智能系統穩定性技術重點逐步從數字域擴展到物理域。以人臉識別算法模型為例，刷臉支付與驗證常態下，人臉識別算法被廣泛應用，但技術和算法風險所帶來的諸如換臉，或以干擾圖案破解身份驗證等問題也隨之出現，給金融行業反欺詐帶來挑戰。為此，針對人工智能在刷臉支付與驗證等的實際應用中，因算法缺陷出現的突出風險問題，恒昌積極調整與落地安全解決方案。例如，針對模型安全性進行加固，針對人臉偽造問題，建立深度偽造內容檢測平臺，快速、精準對多種格式與質量的圖像與視頻進行真偽鑒別。

當下，金融機構數智化轉型正在如火如荼地進行，人工智能作為數智化轉型的重要手段之一，因其可構建涵蓋智能投顧、智能營銷、智能風控、智能客服等全流程的智能金融服務模式，正在成為加速金融數智化轉型、重塑金融業務的關鍵力量。然而“AI+金融”加速落地之下，金融服務更加便捷化、智能化的同時，也為金融科技安全賦予了全新的內容，對金融科技安全提出了新的挑戰。

目前，發展“可信安全”人工智能已經成為全球共識。作為金融科技企業之一，恒昌圍繞“隱私數據安全、算法模型安全”兩大核心能力初步構建人工智能“可信安全”能力。未來，恒昌將通過“安全可信”人工智能技術的研究和突破，提升AI生產部署的“安全可信”支撐能力，增強多方數據生產要素的融合能力，為數字經濟社會提供更高效率、更低成本、更低門檻的高質量可持續服務。

免責聲明：市場有風險，選擇需謹慎!此文僅供參考，不作買賣依據。

關鍵詞：