(資料圖片)

1月10日，360天樞智庫、天津智慧城市數(shù)字安全研究院、網(wǎng)絡(luò)空間國(guó)際治理研究中心三方聯(lián)合發(fā)布《全球人工智能安全治理》報(bào)告，報(bào)告站在全球視角的宏觀高度縱覽、分析和解讀人工智能安全治理問題，提出人工智能發(fā)展面臨十大安全挑戰(zhàn)，旨在探索既能發(fā)揮人工智能技術(shù)效益又能控制其安全風(fēng)險(xiǎn)和負(fù)面影響的治理之道，是中國(guó)學(xué)術(shù)界和產(chǎn)業(yè)界對(duì)人工智能發(fā)展與安全的一次思想碰撞與深度探索，對(duì)人工智能安全治理具有積極指導(dǎo)意義。

在人工智能加速智能化變革的同時(shí)，針對(duì)人工智能的倫理規(guī)范、風(fēng)險(xiǎn)框架、以及治理理念和模式的探索成為各國(guó)學(xué)術(shù)界和政策界的重點(diǎn)工作。360首席安全官、天津智慧城市數(shù)字安全研究院院長(zhǎng)杜躍進(jìn)稱，人工智能作為中、美、歐等國(guó)家或地區(qū)都在積極發(fā)展的關(guān)鍵新興技術(shù)，其在發(fā)展過程中所產(chǎn)生的安全挑戰(zhàn)也更為復(fù)雜多元，世界主要國(guó)家和地區(qū)已經(jīng)將安全治理列為各自人工智能戰(zhàn)略的優(yōu)先事項(xiàng)。

目前，各國(guó)普遍關(guān)注的人工智能安全問題共十類，包括網(wǎng)絡(luò)安全問題、企業(yè)合規(guī)問題、可解釋性問題、隱私安全問題、聲譽(yù)和倫理問題、未來勞動(dòng)力問題、公平性問題、人身安全問題、社會(huì)穩(wěn)定問題、以及國(guó)家安全問題。而以上挑戰(zhàn)映射到人工智能的研發(fā)和應(yīng)用過程，又可以劃分為人工智能自身安全、衍生安全、以及人工智能賦能安全等核心安全挑戰(zhàn)。

報(bào)告顯示，作為一種數(shù)字技術(shù)，人工智能“雙刃劍”特征明顯，不僅自身存在數(shù)字安全威脅和隱患，隨著人工智能工程化、場(chǎng)景化、平臺(tái)化落地不斷加快，人工智能安全需求已經(jīng)超越單純技術(shù)范疇。面對(duì)日趨復(fù)雜的安全挑戰(zhàn)，人工智能安全治理難以一蹴而就，只有在實(shí)踐中不斷摸索，才能將人工智能安全風(fēng)險(xiǎn)遏制在可控范圍。

報(bào)告對(duì)各國(guó)人工智能安全治理模式進(jìn)行了深入剖析，針對(duì)上述問題，報(bào)告主要發(fā)現(xiàn)：美國(guó)流派在人工智能安全治理上采取的手段是在人工智能技術(shù)部署、使用與監(jiān)測(cè)的全過程中都進(jìn)行驗(yàn)證與監(jiān)管，建立與之配套的規(guī)范體系；歐盟流派則更寄希望于運(yùn)用監(jiān)管框架與信任體系來對(duì)人工智能的安全進(jìn)行規(guī)制；相較美國(guó)與歐盟，中國(guó)流派的人工智能安全治理致力于形成內(nèi)含研發(fā)、管理和應(yīng)用的全流程安全保障體系，涵蓋基礎(chǔ)框架研制、基本安全原則、供應(yīng)鏈管理實(shí)踐指南、安全服務(wù)能力、應(yīng)用領(lǐng)域的標(biāo)準(zhǔn)研制等各個(gè)方面。

為了避免人類社會(huì)發(fā)展被技術(shù)創(chuàng)新所“反噬”，也就是落入所謂的“科林格里奇困境”，產(chǎn)學(xué)研各界以監(jiān)管和設(shè)置可操作性原則為主導(dǎo)，通過治理實(shí)踐凝聚共識(shí)，探索人工智能安全治理的思路與模式。報(bào)告詳細(xì)介紹了業(yè)界通用的各類風(fēng)險(xiǎn)治理思路，首先是基于未來風(fēng)險(xiǎn)預(yù)防的影響評(píng)估模式，其次是基于自主性原則的元監(jiān)管模式，然后是基于透明追蹤的AI系統(tǒng)預(yù)警模式。并由此細(xì)分出以用戶為考慮重點(diǎn)的參與性設(shè)計(jì)和以政府為主導(dǎo)力量的敏捷治理兩條路徑。

在中國(guó)，360等多家人工智能龍頭企業(yè)以自身實(shí)踐構(gòu)建行業(yè)安全案例，走出了技術(shù)賦能、行業(yè)規(guī)制、平臺(tái)監(jiān)測(cè)的多種道路。其中，360承建了科技部牽頭成立的“安全大腦國(guó)家新一代人工智能開放創(chuàng)新平臺(tái)”建設(shè)，集中解決各類人工智能發(fā)展問題，引領(lǐng)人工智能安全生態(tài)建設(shè)。

作為報(bào)告聯(lián)合發(fā)起方，天津智慧城市數(shù)字安全研究院依托于新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)核心區(qū)——中新天津生態(tài)城提供的豐富應(yīng)用場(chǎng)景，緊緊把握新型城市發(fā)展規(guī)律和機(jī)遇，致力于促進(jìn)人工智能與經(jīng)濟(jì)社會(huì)發(fā)展深度融合，助力打造“智慧城市國(guó)家級(jí)標(biāo)桿區(qū)”。

隨著數(shù)字經(jīng)濟(jì)成為改變?nèi)蚋?jìng)爭(zhēng)格局的關(guān)鍵力量，人工智能產(chǎn)業(yè)將得到更大發(fā)展。同時(shí)，人工智能安全治理也將得到全世界的關(guān)注和推動(dòng)，《全球人工智能安全治理》報(bào)告作為相關(guān)領(lǐng)域的權(quán)威論著，也將為人工智能產(chǎn)業(yè)的健康發(fā)展貢獻(xiàn)一份重要的力量。

關(guān)鍵詞： 全球人工智能安全治理 供應(yīng)鏈管理 倫理問題 治理模式