近年來，隨著人工智能相關技術的持續(xù)演進，人工智能已融入人類生活的方方面面，產(chǎn)業(yè)化深度融合，商業(yè)化進程不斷加快，成為引領新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術、重要驅(qū)動力量，但同時也對人工智能賦能過程中產(chǎn)生的“可信安全”風險提出了挑戰(zhàn)。

對于具有高度數(shù)據(jù)化特點的金融行業(yè)而言，伴隨著高質(zhì)量的大數(shù)據(jù)積累，得益于在深度學習算法上的突破，“AI+金融”加速落地，催生了金融行業(yè)一系列產(chǎn)品和業(yè)務模式的創(chuàng)新。與此同時，不斷出臺的政策為人工智能在金融領域的應用提供了良好的發(fā)展環(huán)境。人工智能與金融業(yè)務的深度融合，已經(jīng)成為推動金融機構(gòu)數(shù)智化轉(zhuǎn)型的新引擎和防范化解金融風險的新利器。

但是，人工智能在推動金融服務走向主動化、個性化、智慧化發(fā)展的同時，所帶來的風險與挑戰(zhàn)也已引發(fā)廣泛關注。首先，人工智能存在泄漏敏感數(shù)據(jù)的可能。人工智能的應用建立在大量數(shù)據(jù)分析的基礎之上，然而數(shù)據(jù)的流通過程涉及到多個方面，包括應用方、提供方和個人用戶，使用過程中會涉及同行間、跨行業(yè)、個人和機構(gòu)以及機構(gòu)內(nèi)部的數(shù)據(jù)整合等各方，使得人工智能存在泄漏敏感數(shù)據(jù)的可能，因而人工智能可靠性難以得到足夠的信任。其次，人工智能傳統(tǒng)技術范式存在天然的算法漏洞和缺陷，技術風險也在持續(xù)放大。如深度學習模型存在脆弱和易受攻擊的缺陷，黑箱模型因算法不透明容易引發(fā)不確定性風險，此外算法產(chǎn)生的結(jié)果過度依賴訓練數(shù)據(jù)，如果訓練數(shù)據(jù)中存在偏見歧視，就會導致不公平的智能決策產(chǎn)生。

因此，中國信息通信研究院近日發(fā)布的《人工智能白皮書(2022 年)》中就指出，“可信安全”逐漸成為人工智能賦能過程中不可或缺的保障。人工智能的“可信安全”最早由學術界提出，近年來圍繞著安全性、穩(wěn)定性、可解釋性、隱私保護、公平性等方面的可信人工智能研究持續(xù)升溫。具體到金融行業(yè)，2021年3月26日，人民銀行發(fā)布并實施《人工智能算法金融應用評價規(guī)范》，作為一部由人民銀行提出，全國金融標準化技術委員會歸口的文件，其也規(guī)定了人工智能算法在金融領域應用的基本要求、評價方法和判定標準，適用于開展人工智能算法金融應用的金融機構(gòu)、算法提供商及第三方安全評估機構(gòu)等。

人工智能可信安全是人工智能大規(guī)模應用的前提和必備條件。對于金融行業(yè)而言，風險控制是金融業(yè)最核心的能力和挑戰(zhàn)，可信安全尤為突出。一直以來，數(shù)據(jù)、算法、算力是人工智能的三駕馬車。對于金融行業(yè)而言，以數(shù)據(jù)安全支持智慧決策，用算法安全賦能感官感知，數(shù)據(jù)安全、算法安全顯得尤為重要。為此，作為金融科技企業(yè)之一，恒昌通過打造數(shù)據(jù)安全與算法安全兩大核心能力，解決數(shù)據(jù)強依賴帶來的隱私泄漏等隱患，同時提升算法可靠性。

在數(shù)據(jù)安全領域，經(jīng)過多年的科技創(chuàng)新及實踐積累，恒昌已從不同維度建立了完善的數(shù)據(jù)安全防護體系。技術層面，恒昌嚴格采用符合業(yè)界標準的安全防護措施，以匿名化、密碼學、權限控制、加密存儲、數(shù)據(jù)脫敏等業(yè)內(nèi)通行的安全技術來防止客戶個人信息泄露、損壞或丟失。制度層面，恒昌通過建立數(shù)據(jù)分類分級、數(shù)據(jù)安全策略、安全開發(fā)規(guī)范，制定和實施相應的管理制度等方式來保護客戶個人隱私，保障信息安全。安全事件管控方面，恒昌組建了專門的應急響應團隊。一旦發(fā)生安全事件，會立即啟動安全預案，實施處置并報送信息，最大程度進行止損、分析、定位、補救，聯(lián)合相關部門進行溯源和打擊。

在算法安全領域，人工智能系統(tǒng)面臨病毒攻擊、對抗攻擊等特有攻擊，這加大了安全性方面的挑戰(zhàn)。目前，人工智能系統(tǒng)穩(wěn)定性技術重點逐步從數(shù)字域擴展到物理域。以人臉識別算法模型為例，刷臉支付與驗證常態(tài)下，人臉識別算法被廣泛應用，但技術和算法風險所帶來的諸如換臉，或以干擾圖案破解身份驗證等問題也隨之出現(xiàn)，給金融行業(yè)反欺詐帶來挑戰(zhàn)。為此，針對人工智能在刷臉支付與驗證等的實際應用中，因算法缺陷出現(xiàn)的突出風險問題，恒昌積極調(diào)整與落地安全解決方案。例如，針對模型安全性進行加固，針對人臉偽造問題，建立深度偽造內(nèi)容檢測平臺，快速、精準對多種格式與質(zhì)量的圖像與視頻進行真?zhèn)舞b別。

當下，金融機構(gòu)數(shù)智化轉(zhuǎn)型正在如火如荼地進行，人工智能作為數(shù)智化轉(zhuǎn)型的重要手段之一，因其可構(gòu)建涵蓋智能投顧、智能營銷、智能風控、智能客服等全流程的智能金融服務模式，正在成為加速金融數(shù)智化轉(zhuǎn)型、重塑金融業(yè)務的關鍵力量。然而“AI+金融”加速落地之下，金融服務更加便捷化、智能化的同時，也為金融科技安全賦予了全新的內(nèi)容，對金融科技安全提出了新的挑戰(zhàn)。

目前，發(fā)展“可信安全”人工智能已經(jīng)成為全球共識。作為金融科技企業(yè)之一，恒昌圍繞“隱私數(shù)據(jù)安全、算法模型安全”兩大核心能力初步構(gòu)建人工智能“可信安全”能力。未來，恒昌將通過“安全可信”人工智能技術的研究和突破，提升AI生產(chǎn)部署的“安全可信”支撐能力，增強多方數(shù)據(jù)生產(chǎn)要素的融合能力，為數(shù)字經(jīng)濟社會提供更高效率、更低成本、更低門檻的高質(zhì)量可持續(xù)服務。

免責聲明：市場有風險，選擇需謹慎!此文僅供參考，不作買賣依據(jù)。

關鍵詞：