來源:中國新聞網(wǎng)
發(fā)布時間:2021-07-16 17:26:42
閱讀量:
7月12日電(鄭瑩瑩)信息爆炸時代,“眼見未必為實”。人工智能技術(shù)在帶來新一輪發(fā)展機遇的同時,也存在諸如“AI換臉”之類的潛在安全隱患。
8日至10日在上海舉行的2021世界人工智能大會上,依托清華大學(xué)人工智能研究院設(shè)立的人工智能企業(yè)――北京瑞萊智慧科技有限公司(簡稱“RealAI”或瑞萊智慧)推出“DeepReal深度偽造檢測平臺”,致力補漏洞、長期對抗深度偽造技術(shù)帶來的潛在風(fēng)險。
――“三大潛在風(fēng)險”讓擁抱人工智能有難度
“深度學(xué)習(xí)模型本身是黑盒,或者通俗來說,即便是開發(fā)者也難以明白它具體是怎么運作的,相應(yīng)地,它一定存在難以被發(fā)現(xiàn)的漏洞;我們關(guān)注的AI內(nèi)生安全就是希望去發(fā)現(xiàn)這些漏洞,并彌補這些漏洞。”瑞萊智慧副總裁唐家渝在受訪時說。
他介紹,隨著人工智能的廣泛應(yīng)用,整個產(chǎn)業(yè)面臨的三大困境逐漸浮現(xiàn),瑞萊智慧致力于解決這些困境。
第一是算法可靠問題,深度學(xué)習(xí)算法缺乏可理解的決策邏輯和依據(jù),無法量化不同決策的可靠程度,導(dǎo)致難以落地于醫(yī)療、自動駕駛等高可靠性要求場景;同時,基于對抗樣本攻擊技術(shù)可以破解安防監(jiān)控、手機刷臉解鎖、人臉識別閘機等識別系統(tǒng),實現(xiàn)身份偽裝或隱身逃逸,為個人財產(chǎn)安全與社會公共安全帶來全新挑戰(zhàn)。
第二是數(shù)據(jù)安全問題,提升AI能力需要挖掘數(shù)據(jù)價值,但在特定AI應(yīng)用場景中,所需要用到的數(shù)據(jù)往往涉及個人隱私信息,簡單明文數(shù)據(jù)傳輸和利用很可能導(dǎo)致隱私泄露;而有價值的數(shù)據(jù)分散形成數(shù)據(jù)孤島,在打破數(shù)據(jù)孤島的過程中,數(shù)據(jù)用途和用量難以控制,存在被濫用和復(fù)制的可能,同時數(shù)據(jù)權(quán)屬不明確,數(shù)據(jù)收益不清晰。
第三是應(yīng)用可控問題,AI算法偏差導(dǎo)致不公平性風(fēng)險,比如人臉識別算法存在種族歧視與性別歧視,AI信貸模型對特定地域人群的歧視等,缺乏有效衡量算法公平性的方法和工具;同時,AI技術(shù)的濫用引發(fā)道德倫理風(fēng)險,比如深度偽造技術(shù)的濫用帶來的個人和社會風(fēng)險問題。
――人眼難辨 深度偽造需要依靠技術(shù)檢測
在應(yīng)用安全問題方面,深度偽造技術(shù)的大規(guī)模濫用蘊含著巨大的潛在危害,將人工智能的負(fù)面作用推向了社會輿論的風(fēng)口浪尖。
比如,在Tik Tok上受到關(guān)注度極高的湯姆?克魯斯的偽造視頻,肉眼來看已經(jīng)難以辨別是假的了。在人眼難辨的情況下,對于深度偽造的虛假內(nèi)容,需要依靠技術(shù)進(jìn)行檢測。
瑞萊智慧基于團隊深厚的AI技術(shù)積累以及基于實戰(zhàn)需求對產(chǎn)品不斷迭代,正式推出業(yè)界真正可落地的深度偽造檢測平臺DeepReal。唐家渝介紹,該平臺擁有工業(yè)級的檢測性能,以及應(yīng)對實網(wǎng)環(huán)境對抗變化的檢測能力。平臺支持對視頻和圖片進(jìn)行批量檢測,全界面化操作。他介紹,在目前所開源的所有學(xué)術(shù)數(shù)據(jù)集上,該平臺的檢測準(zhǔn)確率均超過99%,同時,在百萬規(guī)模的實網(wǎng)深度偽造測試集上達(dá)世界頂尖水平。平臺對于單張圖像的檢測耗時不到30毫秒,支持橫向擴展與集群部署,適用于大規(guī)模實網(wǎng)落地。針對互聯(lián)網(wǎng)環(huán)境中眾多的深度偽造類型,平臺也進(jìn)行了全面的覆蓋,包括針對真實人物的面部替換、表情操縱,以及完全合成的虛假人物等。
――長期對抗 應(yīng)對“不斷進(jìn)化的”深度偽造
唐家渝介紹,依靠機器檢測的過程其實是一個長期對抗的過程。這里的對抗性主要體現(xiàn)在兩個方面。
第一個方面是新的造假算法在不斷豐富,偽造圖像越發(fā)逼真。舉兩個典型的例子,最初的偽造視頻其實是有一些反常識的特征的,比如一段1分鐘的視頻中,人沒有眨一次眼睛,于是可以基于人體的生理特征去對人物的真假進(jìn)行判定。但造假者隨后就實現(xiàn)了在視頻中隨機生成眨眼動作,很大程度上逃避了這種檢測方式。第二個例子,通常深度偽造視頻為了讓人物與背景有比較好的融合,會對邊緣進(jìn)行簡單的高斯模糊處理,而當(dāng)檢測算法“捕捉”到這樣的特征后,偽造算法也會升級,對人臉邊緣做更精細(xì)化的處理。
第二個方面是可利用深度學(xué)習(xí)的缺陷繞過檢測算法。目前的檢測算法仍然是基于深度學(xué)習(xí)框架,存在結(jié)構(gòu)性缺陷。以典型的對抗樣本攻擊為例,通過在圖片或視頻上添加對抗樣本噪音,可以使偽造內(nèi)容躲避自動檢測。
唐家渝表示,實網(wǎng)環(huán)境中的偽造視頻不斷變化,需要有強對抗的手段加以遏制。為此,瑞萊智慧推出的檢測平臺主要從兩方面進(jìn)行了應(yīng)對:一為了能夠快速即時應(yīng)對新型的深度偽造類型,利用了貝葉斯深度學(xué)習(xí),另外加上小樣本增量學(xué)習(xí)的方法,使得在初期見到少量新型偽造數(shù)據(jù)時,便能迅速學(xué)習(xí)到偽造特征從而進(jìn)行有效檢出。二在對抗環(huán)境中使用對抗學(xué)習(xí)技術(shù),提升算法魯棒性,有效應(yīng)對惡意攻擊。
除了上述有代表性的兩個方面外,瑞萊智慧也進(jìn)行了全面的技術(shù)布局。比如實戰(zhàn)環(huán)境中有音視頻數(shù)據(jù),所以會利用多模態(tài)分析算法綜合分析;利用貝葉斯深度學(xué)習(xí),將偽造視頻的先驗知識進(jìn)行融合,輸出更加準(zhǔn)確的置信度,增加對預(yù)測結(jié)果確定性的預(yù)判,再結(jié)合具有可解釋性的數(shù)據(jù)集標(biāo)注和構(gòu)建,保證檢測結(jié)果可信服。除此,瑞萊智慧也布局了溯源技術(shù),進(jìn)一步提升檢測結(jié)果的可解釋性與可靠性。
唐家渝說,“針對深度偽造的風(fēng)險,一定是需要從監(jiān)管到研究再到落地實戰(zhàn)進(jìn)行全方位的治理,技術(shù)防范是其中的基礎(chǔ)。”因此,目前瑞萊智慧也已經(jīng)與工信部、公安部等監(jiān)管部門、科研機構(gòu)、實戰(zhàn)部門等進(jìn)行合作,共建深度偽造治理生態(tài)。(完)
中新網(wǎng)上海新聞
編輯:鄭瑩瑩
微信掃碼
關(guān)注“上海居住證積分之家”
即可查看余下內(nèi)容
您的現(xiàn)狀是?
想要了解:上海居住證積分新規(guī)
想要查詢:自己有多少居住證積分
想要知道:積分120有什么用
想要落戶:積分已經(jīng)達(dá)到120分
分?jǐn)?shù)不夠:怎么積分比較快
其他需要:在上海就業(yè)、社保繳納等
填寫信息獲取結(jié)果
立即獲取專屬方案
上述內(nèi)容僅供參考,大家如果想要了解更多上海積分落戶相關(guān)信息,可以關(guān)注微信公眾號。(如想快速落戶,可通過 【在線咨詢】跟本站落戶指導(dǎo)老師溝通,將一對一為您解答相關(guān)落戶問題。
本文轉(zhuǎn)載自:中國新聞網(wǎng)
原文網(wǎng)址:http://www.sh.chinanews.com.cn/
相關(guān)文章推薦
上海落戶工具箱
學(xué)歷提升工具箱
上海居住證積分常見問答
上海電動自行車可以載人嗎?(附:上牌指南)
常見問題欄目為您分享:電動自行車便于出行,但關(guān)于電動自行車能否載人,很多朋友還不清楚。首先要知道的是,上海對電動自行車駕駛?cè)撕洼d人有嚴(yán)格的要求,禁止違法載人哦,詳細(xì)內(nèi)容來看下文!
在上海,大專及以下在職人員該如何提升學(xué)歷?
現(xiàn)如今,學(xué)歷越來越受到國家的重視,職稱報考、居住證積分加分、職場晉升都需要學(xué)歷,那么上海大專及以下在職人員該如何提升學(xué)歷呢?下文為各位介紹現(xiàn)如今幾種熱門的提升學(xué)歷的方式!
2024年上海居住證怎么查?
很多朋友咨詢,2024年上海居住證怎么查?無論是居住證積分還是居轉(zhuǎn)戶,都需要居住證的累計時間,下文就為各位帶來上海居住證查詢的相關(guān)內(nèi)容。
畢業(yè)后想留在上海,要怎么辦理上海落戶?
大家在高考后都選擇前往大城市發(fā)展,比如在北京、上海生活,那么畢業(yè)后想要留在上海發(fā)展,想要在上海落戶,要怎么辦理上海戶口呢?上海
上海市居住證積分管理信息系統(tǒng)單位初始密碼
“申請居住證積分需要密碼?我忘記密碼了 ”,“上海市居住證積分管理信息系統(tǒng)單位初始密碼是什么?”很多朋友咨詢居住證積分系統(tǒng)密碼的相關(guān)問題,下文為大家分享一下居住證積分系統(tǒng)的密碼設(shè)置、修改及重置的相關(guān)知識,供大家參考。
上?;榧偬鞌?shù)可以休多少天?有哪些規(guī)定?
常見問題欄目為您分享:大家都知道領(lǐng)證結(jié)婚后職工享受婚假,那么,在上?;榧儆袔滋??再婚享受婚假嗎?是多少天?詳細(xì)內(nèi)容來看下文吧!
落戶交流群
微信公眾號
掃一掃,加入微信群
落戶問題隨時溝通!專業(yè)人員免費在線解答!掃一掃,關(guān)注微信公眾號
落戶政策、資訊一鍵獲??!還有積分測評等服務(wù)!