国产精品看高国产精品不卡-国产精品看片-国产精品蝌蚪-国产精品狼人久久久久影院草久久一区二区三区午夜亚洲福-国产精品老熟女视频一区二区-国产精品理论片

AI框架可以幫助開(kāi)發(fā)者高效、快速地構(gòu)建網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練和推理，而無(wú)需關(guān)心底層實(shí)現(xiàn)的細(xì)節(jié)，它具有高效、便捷的特性，已被工業(yè)界和學(xué)術(shù)界廣泛采用，且越來(lái)越多的開(kāi)發(fā)者加入到AI應(yīng)用研發(fā)的行列。

但在便捷高效的表象之下，人工智能框架也存在許多問(wèn)題與風(fēng)險(xiǎn)，因此框架安全研究近年來(lái)逐漸引起業(yè)界重視。但如今人工智能安全研究的關(guān)注點(diǎn)較為局限，且框架安全檢測(cè)仍依賴(lài)于傳統(tǒng)漏洞挖掘技術(shù)(如模糊測(cè)試等)發(fā)現(xiàn)，并嚴(yán)重依賴(lài)人工分析。針對(duì)以上問(wèn)題，天津智慧城市數(shù)字安全研究院進(jìn)行了大量研究，最終自主研發(fā)了人工智能框架漏洞威脅感知系統(tǒng)AIFater，并在第六屆世界智能大會(huì)上做出成果展示。

本系統(tǒng)包含針對(duì)云端框架的安全性檢測(cè)單元QSand以及針對(duì)終端框架的安全性檢測(cè)單元FBFuzz。兩款單元模塊可以全面覆蓋主流的人工智能框架，如Tensorflow、PyTorch等。此外，人工智能框架漏洞感知系統(tǒng)中內(nèi)置豐富的定制化漏洞檢測(cè)規(guī)則，可以高效地對(duì)已知攻擊做出準(zhǔn)確判斷，為人工智能的安全性提供了有力的保障。

本系統(tǒng)對(duì)谷歌Tensorflow、MetaPytorch等國(guó)內(nèi)外多家廠商的主流人工智能框架開(kāi)展了安全測(cè)評(píng)，發(fā)現(xiàn)漏洞180余個(gè)，團(tuán)隊(duì)幫助各廠商對(duì)漏洞進(jìn)行了修復(fù)，并獲得了各個(gè)廠商的致謝。其中發(fā)現(xiàn)谷歌Tensorflow框架漏洞上百個(gè)，包括嚴(yán)重漏洞6個(gè)、高危漏洞27個(gè)、中危漏洞42個(gè)。系統(tǒng)能夠高效、并發(fā)、精確地發(fā)現(xiàn)框架中存在的未知安全風(fēng)險(xiǎn)，對(duì)AI框架安全研究有重大意義。