1. 創(chuàng)業(yè)頭條
  2. 前沿領(lǐng)域
  3. 人工智能
  4. 正文

全球首個(gè)AI框架CC EAL2+證書 ,昇思MindSpore推開可信AI大門

 2022-04-26 16:16  來源:A5專欄  我來投稿 撤稿糾錯(cuò)

  域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過

近日,昇思MindSpore正式通過SGS Brightsight實(shí)驗(yàn)室的安全評(píng)估,獲得了AI框架領(lǐng)域的首份CC EAL2+證書。

作為全球最大的獨(dú)立認(rèn)證機(jī)構(gòu),SGS Brightsight可以說是全球?yàn)閿?shù)不多被廣泛認(rèn)可的安全實(shí)驗(yàn)室。同時(shí)CC認(rèn)證也是目前全球認(rèn)可度和權(quán)威性最高的IT產(chǎn)品安全認(rèn)證,主要用于評(píng)估產(chǎn)品的安全性、可靠性以及對(duì)信息隱私的保護(hù)。

在過去很長(zhǎng)一段時(shí)間里,AI框架和CC認(rèn)證很少被同時(shí)提及,其中的原因離不開AI框架的開源屬性,加上人工智能的產(chǎn)業(yè)應(yīng)用才剛剛起步,業(yè)界的焦點(diǎn)常常是準(zhǔn)確性和易用性,安全性的課題被選擇性忽略。可為何昇思MindSpore主動(dòng)送測(cè)SGS Brightsight實(shí)驗(yàn)室,并深度參與了人工智能框架安全目標(biāo)的制定?

隱藏在首份CC EAL2+證書背后的,其實(shí)是人工智能的新潮向。

01 AI框架的險(xiǎn)灘和暗礁

經(jīng)歷了Theano、Caffe等早期框架的探路,TensorFlow和PyTorch在全球范圍內(nèi)的風(fēng)靡,再到飛槳、昇思MindSpore等國(guó)產(chǎn)框架的崛起,AI框架在第三次人工智能浪潮中扮演的角色早已深入人心。

比如“操作系統(tǒng)”的比喻,AI框架在技術(shù)體系中有著承上啟下的作用,向下調(diào)用底層的計(jì)算資源,向上承接算法模型的搭建,開發(fā)者無需關(guān)注底層的邏輯和細(xì)節(jié),可以直接在框架下構(gòu)建或調(diào)用算法模型并進(jìn)行訓(xùn)練部署,極大地提高了開發(fā)效率。

如果說AI框架撬動(dòng)了人工智能產(chǎn)業(yè)化的“大航海”,看似平靜的水面下卻有著不可小覷的安全盲點(diǎn)。

一種是容易被察覺的“險(xiǎn)灘”,典型的例子就是框架及其模型庫(kù)中的安全漏洞。根據(jù)開源軟件社區(qū)GitHub公布的數(shù)據(jù),TensorFlow自2020年以來被曝出的安全漏洞已經(jīng)有百余個(gè);國(guó)內(nèi)的360團(tuán)隊(duì)曾對(duì)市場(chǎng)上的主流AI框架進(jìn)行安全性評(píng)測(cè),發(fā)現(xiàn)了150多個(gè)漏洞;騰訊安全團(tuán)隊(duì)公開了TensorFlow組件中存在的重大漏洞,如果開發(fā)者編寫機(jī)器人程序時(shí)使用了該組件,黑客可通過漏洞控制機(jī)器人……

另一種是難以洞察的“暗礁”,譬如普遍存在的算法黑箱、數(shù)據(jù)泄露等問題。由于算法模型和復(fù)雜性和不確定性,人們無法直觀解釋結(jié)果背后的原因,一旦訓(xùn)練數(shù)據(jù)中存在偏見,可能會(huì)直接影響訓(xùn)練結(jié)果。甚至有一些開發(fā)者利用算法模型的復(fù)雜性,人為植入了一些隱蔽的“后門”,可以在近乎無感的情況下進(jìn)行攻擊,或是竊取開發(fā)者上傳的敏感數(shù)據(jù),或是利用對(duì)抗樣本等方式干擾模型的判斷結(jié)果。

當(dāng)人工智能的應(yīng)用進(jìn)入到深水區(qū),落地場(chǎng)景逐漸呈現(xiàn)出指數(shù)級(jí)增長(zhǎng)的態(tài)勢(shì),對(duì)應(yīng)的安全風(fēng)險(xiǎn)也將被指數(shù)級(jí)放大。特別是AI框架已經(jīng)被越來越多企業(yè)和開發(fā)者依賴,倘若不能扎緊安全口袋,代價(jià)可能是雪崩級(jí)的災(zāi)難。

傳統(tǒng)的安全保障像是塔防游戲,黑客尋找攻擊的缺口,開發(fā)者則努力堵住每一個(gè)漏洞,但在人工智能的語境里,假如黑客選擇AI框架或者算法模型為攻擊點(diǎn),相當(dāng)于在城內(nèi)“空投”了一個(gè)個(gè)木馬,直接破防層層安全機(jī)制,以一種悄無聲息的方式進(jìn)行系統(tǒng)級(jí)攻擊,產(chǎn)生無法估量的損失。

這大抵就是昇思MindSpore深耕安全的原因,人工智能產(chǎn)業(yè)想要行穩(wěn)致遠(yuǎn),勢(shì)必要在源頭上消除任何可能的安全風(fēng)險(xiǎn)。

02 昇思MindSpore的解法

某種程度上說,人工智能的安全焦慮并不是什么新話題。早在2017年就出現(xiàn)了可信人工智能的概念,2020年相關(guān)論文的研究數(shù)量已經(jīng)有上千篇,一些科技大廠也推出了驗(yàn)證算法模型安全性的工具包。

可大多數(shù)討論僅僅局限在“討論”的范疇,缺少系統(tǒng)性的方法指引,也未能形成約束性的落地機(jī)制。個(gè)別公司或開發(fā)者開源的工具包,多半是“打補(bǔ)丁式”的解決思路,所能解決的問題比較單一,缺少體系化的方法論和行之有效的策略。

深諳其中癥結(jié)的昇思MindSpore團(tuán)隊(duì),儼然意識(shí)到了AI框架的特殊性,進(jìn)而圍繞AI生命周期構(gòu)建了一系列的技術(shù)能力:

針對(duì)算法模型的潛在風(fēng)險(xiǎn),昇思MindSpore引入了魯棒性評(píng)測(cè)、對(duì)抗測(cè)評(píng)、對(duì)抗訓(xùn)練、模型加密等技術(shù),幫助客戶提升模型的安全性。

比如一些自研或者開源的第三方模型缺少魯棒性評(píng)測(cè),昇思MindSpore給出了基于黑白盒對(duì)抗樣本、自然擾動(dòng)等技術(shù)的評(píng)測(cè)方案,幫助客戶識(shí)別模型的脆弱點(diǎn),并通過對(duì)抗樣本檢測(cè)、數(shù)據(jù)增強(qiáng)訓(xùn)練等提升魯棒性;再比如為了防止模型在部署時(shí)被竊取,昇思MindSpore提供了模型混淆和元數(shù)據(jù)加密的輕量級(jí)方案,保障模型安全的同時(shí)在效率上比全量加密有著10+倍的提升。

針對(duì)數(shù)據(jù)泄露的行業(yè)頑疾,昇思MindSpore構(gòu)建了隱私評(píng)估、差分隱私訓(xùn)練、聯(lián)邦學(xué)習(xí)在內(nèi)的數(shù)據(jù)隱私保障機(jī)制。

以爭(zhēng)議性最大的個(gè)人隱私保護(hù)為例,區(qū)別于上云集中式訓(xùn)練的做法,昇思MindSpore基于安全多方計(jì)算、差分隱私等技術(shù),解決了聯(lián)邦學(xué)習(xí)中的隱私泄露問題。同時(shí)考慮到一些圖像數(shù)據(jù)中存在涉及用戶隱私的敏感數(shù)據(jù),昇思MindSpore集成了隱私內(nèi)容檢測(cè)、隱私知識(shí)構(gòu)建、隱私消除等一整套能力,可以自動(dòng)對(duì)敏感信息進(jìn)行消除、填充、替換等處理,確保用戶隱私不被泄露。

針對(duì)AI可解釋性的質(zhì)疑,昇思MindSpore的答案是通過原創(chuàng)語義級(jí)可解釋技術(shù)、可解釋方法工具集等對(duì)癥下藥。

這也是人工智能頻頻被挑戰(zhàn)的誘因所在,畢竟現(xiàn)階段模型訓(xùn)練的過程往往不可見、模型推理的結(jié)果難以解釋,再加上數(shù)據(jù)分布不均勻、多樣性不足等問題,導(dǎo)致模型的決策結(jié)果可能出現(xiàn)偏差或傾向性。昇思MindSpore正在通過數(shù)據(jù)清洗、模型容錯(cuò)性評(píng)估、提供模型決策的解釋等提升數(shù)據(jù)的公平性、模型的可解釋性,繼而讓用戶更理解、信任并有效地使用模型。

也就是說,相較于從倫理層面呼吁人工智能的道德準(zhǔn)則,昇思MindSpore已經(jīng)在框架層面打造了覆蓋模型訓(xùn)練、評(píng)估、部署的全流程安全可信,為企業(yè)和行業(yè)提供了源頭可信的系統(tǒng)性方案。

03 推開可信AI的大門

有理由相信,SGS Brightsight實(shí)驗(yàn)室對(duì)昇思MindSpore進(jìn)行安全評(píng)估時(shí),除了框架本身的安全性,昇思MindSpore在模型安全、隱私保護(hù)、可解釋性方面的工作,同樣在評(píng)估標(biāo)準(zhǔn)中占了相當(dāng)大的比重。

站在行業(yè)的立場(chǎng)上,全球首份人工智能框架的CC EAL2+證書,所承載的價(jià)值不單單是填補(bǔ)了市場(chǎng)空白,還為人工智能框架的安全可信提供了重要參照與標(biāo)準(zhǔn),有望為整個(gè)人工智能產(chǎn)業(yè)的可信化進(jìn)程按下加速鍵。

即使從2015年AlphaGo和李世石的圍棋大戰(zhàn)算起,人工智能的產(chǎn)業(yè)化也不過才七個(gè)年頭,可一場(chǎng)信任危機(jī)卻在蔓延中。

無論是特斯拉等多次上演的自動(dòng)駕駛事故、部分電商平臺(tái)的大數(shù)據(jù)殺熟現(xiàn)象、資訊平臺(tái)算法推薦的內(nèi)容同質(zhì)化風(fēng)波,還是“外賣小哥困在系統(tǒng)里”的現(xiàn)象級(jí)報(bào)道、圍繞個(gè)性化推薦權(quán)利的社會(huì)性討論,都預(yù)示著公眾對(duì)于人工智能的態(tài)度正在從樂觀好奇趨于謹(jǐn)慎質(zhì)疑,不無制約人工智能產(chǎn)業(yè)化滲透的可能。

就昇思MindSpore在安全方面的努力來看,人工智能的信任危機(jī)并非無可挽回。直接的例子就是算法推薦,在外界對(duì)算法偏見問題群情激奮時(shí),某銀行在昇思MindSpore上巧妙規(guī)避了潛在風(fēng)險(xiǎn),通過基于LIME的推薦解釋解決了有無解釋的問題,利用基于KG的原創(chuàng)可解釋推薦網(wǎng)絡(luò)TB-Net獲得了語義級(jí)解釋能力,既解決了理財(cái)推薦結(jié)果難解釋的困局,又提升了推薦效率和轉(zhuǎn)化成功率。

值得一提的是,不只是SGS Brightsight實(shí)驗(yàn)室的CC認(rèn)證,昇思MindSpore還通過了云計(jì)算開源產(chǎn)業(yè)聯(lián)盟的評(píng)估,融合國(guó)內(nèi)首批《可信開源社區(qū)評(píng)估體系》認(rèn)證,并且支撐華為云的OCR服務(wù)通過了獨(dú)立機(jī)構(gòu)BSI的AI C4審計(jì)認(rèn)證……可信人工智能正在逐步成為整個(gè)行業(yè)的理性共識(shí)。

再來思考昇思MindSpore獲得全球首個(gè)CC EAL2+證書的時(shí)代意義,正在從根源上制約人工智能應(yīng)用的弊端,為企業(yè)打通了強(qiáng)化隱私保護(hù)、穩(wěn)定性、可解釋性、公平性的路徑,有力地推開了可信AI的大門。

申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)文章

  • “創(chuàng)造市場(chǎng)”與“算法進(jìn)化”,中美AI競(jìng)速的岔路口

    “人工智能的商業(yè)模式,是要?jiǎng)?chuàng)造一個(gè)市場(chǎng),而非一個(gè)算法”。這是世界AI泰斗MichaelI.Jordan的觀點(diǎn)。而當(dāng)前的全球AI市場(chǎng),占據(jù)主導(dǎo)地位的中美雙方,卻也走出了兩條截然不同的技術(shù)路徑,前者執(zhí)著于前沿技術(shù)的探索,后者則發(fā)力應(yīng)用優(yōu)化和商業(yè)化落地。南轅北轍的兩個(gè)方向,或許已經(jīng)無法直接進(jìn)行排位先后、優(yōu)

    標(biāo)簽:
    ai智能
  • 智能體進(jìn)化發(fā)展了一年,現(xiàn)在的RPA Agent迭代到什么程度了?

    智能體進(jìn)化發(fā)展了一年,現(xiàn)在的RPAAgent迭代到什么程度了?從實(shí)在智能最新發(fā)布的實(shí)在Agent7.0,看RPAAgent的迭代升級(jí)抓取豆瓣信息、自己制作PPT,這款A(yù)IAgent真的實(shí)現(xiàn)了流程全自動(dòng)化AIAgent構(gòu)建到執(zhí)行全自動(dòng)化,持續(xù)進(jìn)化RPAAgent再次降低智能體應(yīng)用門檻實(shí)在智能重磅發(fā)布實(shí)

  • 崔大寶:大模型降溫背后的難點(diǎn)、卡點(diǎn)、節(jié)點(diǎn)

    崔大寶|節(jié)點(diǎn)財(cái)經(jīng)創(chuàng)始人進(jìn)入2024年,大模型似乎有熄火之勢(shì):資本市場(chǎng),與之關(guān)聯(lián)的概念炒不動(dòng)了,英偉達(dá)股價(jià)動(dòng)輒暴跌重挫,引發(fā)“泡沫戳破”的擔(dān)憂;消費(fèi)市場(chǎng),BATH們的推新活動(dòng)少了,產(chǎn)品更新迭代的速度慢了,民眾的關(guān)注度降了……熱鬧的大概只剩下兩場(chǎng)酣仗:自5月15日字節(jié)跳動(dòng)宣布“以厘計(jì)費(fèi)”,打響國(guó)內(nèi)大模型

    標(biāo)簽:
    大模型
  • 這一屆“出道”的數(shù)字人,已經(jīng)拿捧上了“鐵飯碗”

    文|智能相對(duì)論作者|陳泊丞好消息!你心心念念的事業(yè)單位發(fā)錄取公告了!壞消息!他們沒錄你,錄了個(gè)數(shù)字人。圖片來源網(wǎng)絡(luò)隨著數(shù)字人技術(shù)的突破,越來越多的傳統(tǒng)企業(yè)和機(jī)構(gòu)開始用上了“數(shù)字員工”。甚至很多中國(guó)人心心念念的“鐵飯碗”,也被這些數(shù)字人給捧上了。數(shù)字人捧上了“鐵飯碗”簡(jiǎn)單翻看一下全國(guó)各地事業(yè)單位的“錄

    標(biāo)簽:
    數(shù)字人
  • 來到IPO關(guān)口,地平線離“三分天下”還有多遠(yuǎn)?

    黑芝麻智能敲鐘后,港交所門口又有一些智駕芯片企業(yè)引發(fā)關(guān)注。據(jù)悉,近日地平線已通過中國(guó)證監(jiān)會(huì)IPO備案,擬發(fā)行不超過11.5億股境外上市普通股并在香港聯(lián)合交易所上市,預(yù)計(jì)籌集約5億美元資金。從天眼查可以了解到,該公司成立于2015年,是一家乘用車高級(jí)輔助駕駛(ADAS)和高階自動(dòng)駕駛(AD)解決方案供

  • 機(jī)器人大會(huì)引領(lǐng)產(chǎn)業(yè)動(dòng)向,卓翼飛思繪制無人系統(tǒng)教科研新藍(lán)圖

    8月21日,萬眾矚目的2024世界機(jī)器人大會(huì)暨博覽會(huì)在北京亦創(chuàng)國(guó)際會(huì)展中心盛大開幕。這場(chǎng)為期5天,集“展覽”“論壇”“賽事”于一體的機(jī)器人盛會(huì),反映了當(dāng)下機(jī)器人領(lǐng)域的繁榮生態(tài)。據(jù)官方統(tǒng)計(jì)數(shù)據(jù),今年現(xiàn)場(chǎng)逛展觀眾高達(dá)25萬人次,比去年增加25%。機(jī)器人行業(yè)有多火?看看2024世界機(jī)器人大會(huì)火爆程度便可知

  • 卓翼智能:超大載重高烈度環(huán)境特種智能系留無人平臺(tái)的應(yīng)用與未來

    瞄準(zhǔn)場(chǎng)景需求,打造國(guó)內(nèi)領(lǐng)先的自主可控、高質(zhì)量超大載重高烈度環(huán)境特種智能系留無人平臺(tái)。卓翼智能亮相HICOOL峰會(huì)以科技實(shí)力榮摘?jiǎng)?chuàng)業(yè)大賽一等獎(jiǎng)這個(gè)比賽5年培育出16家“獨(dú)角獸”HICOOL2024全球創(chuàng)業(yè)者峰會(huì)暨創(chuàng)業(yè)大賽已于8月25日在北京圓滿落下帷幕,大賽共吸引了124個(gè)國(guó)家和地區(qū)的7406個(gè)創(chuàng)業(yè)項(xiàng)

  • 60萬獎(jiǎng)金召喚AI創(chuàng)新者,2024無錫國(guó)際人工智能創(chuàng)新應(yīng)用大賽火熱進(jìn)行中!

    人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。無錫市作為中國(guó)的科技創(chuàng)新中心之一,正通過構(gòu)建人工智能"算力+算法+數(shù)據(jù)"三要素齊備的產(chǎn)業(yè)生態(tài),為產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用提供強(qiáng)大支撐,通過“AI+”行動(dòng)推動(dòng)人工智能與多個(gè)產(chǎn)業(yè)交叉融合,實(shí)現(xiàn)技術(shù)落地和產(chǎn)業(yè)化,加速形成新質(zhì)生產(chǎn)力,打造具有國(guó)際競(jìng)爭(zhēng)力的產(chǎn)業(yè)創(chuàng)新智造

  • “云+AI”驅(qū)動(dòng)操作系統(tǒng)創(chuàng)新升級(jí),龍蜥堅(jiān)持可持續(xù)發(fā)展路線

    近日,2024龍蜥操作系統(tǒng)大會(huì)(OpenAnolisConference)在北京圓滿召開,此次大會(huì)由中國(guó)計(jì)算機(jī)學(xué)會(huì)開源發(fā)展委員會(huì)、中關(guān)村科學(xué)城委員會(huì)、海淀區(qū)委網(wǎng)信辦、中國(guó)開源軟件推進(jìn)聯(lián)盟指導(dǎo),龍蜥社區(qū)主辦,阿里云、浪潮信息、Intel、中興通訊、Arm、中科方德等24家理事單位共同承辦,主題為“進(jìn)化