□企業(yè)應(yīng)當落實算法安全主體責任,建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發(fā)布審核、數(shù)據(jù)安全和個人信息保護、反電信網(wǎng)絡(luò)詐騙、安全評估監(jiān)測、安全事件應(yīng)急處置等管理制度和技術(shù)措施,制定并公開算法推薦服務(wù)相關(guān)規(guī)則,配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐。

2021年12月31日,國家網(wǎng)信辦、工信部、公安部、市場監(jiān)督管理局四部門聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(下稱《算法推薦管理規(guī)定》),針對在我國境內(nèi)應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)服務(wù)所應(yīng)當遵循的合規(guī)要求作出了明確規(guī)定。該規(guī)定的發(fā)布對于督促算法推薦服務(wù)提供者合理合規(guī)地應(yīng)用算法,凈化行業(yè)風氣,促進良性發(fā)展,有效維護用戶合法權(quán)益具有重大意義,對推動相關(guān)企業(yè)合規(guī)工作也具有十分重要的作用。

強化規(guī)制算法推薦的必要性

一段時間以來,“大數(shù)據(jù)殺熟”、算法歧視、誘導沉迷等算法不合理應(yīng)用導致的問題頻頻發(fā)生,引發(fā)了社會關(guān)注,因此,制定針對性的算法推薦管理規(guī)定,明確算法推薦服務(wù)提供者的主體責任及安全管理義務(wù)就顯得極為必要。

據(jù)中國消費者協(xié)會公布的信息,網(wǎng)絡(luò)領(lǐng)域涉及消費者權(quán)益的算法應(yīng)用問題主要有6種:推薦算法、價格算法、評價算法、排名算法、概率算法和流量算法。其中,價格算法就是飽受消費者詬病的“不同人不同價”。2021年7月,就某在線旅行服務(wù)公司針對老客戶價格失實、無法說明價格差別理由的“大數(shù)據(jù)殺熟”第一案,浙江省某法院判決該公司賠償原告訂房差價并按房費差價部分的三倍支付賠償金,且在其運營的旅行App中為原告增加不同意其現(xiàn)有《服務(wù)協(xié)議》和《隱私政策》仍可繼續(xù)使用App的選項,或者為原告修訂其旅行App的《服務(wù)協(xié)議》和《隱私政策》,去除對用戶非必要信息采集和使用的相關(guān)內(nèi)容。

推薦算法的違規(guī)情形也比較常見,如App運營者通過分析用戶瀏覽過的頁面、廣告、商品、話題等有針對性地進行商業(yè)營銷,如果未能充分告知并獲取用戶同意,則也是侵害用戶合法權(quán)益的行為。自2019年來國家工信部組織開展了App侵害用戶權(quán)益專項整治行動工作,運用推薦算法強制用戶使用定向推送功能也是被通報的問題多發(fā)點。在通報的20個批次中,工信部層面通報的App數(shù)量總數(shù)為1212款,存在“強制用戶使用定向推送功能”的違規(guī)App數(shù)量達112款,占比為9.24%,而“強制用戶使用定向推送功能”在所有被關(guān)注的違規(guī)問題中排名前列。

通過總結(jié)既有的違規(guī)案例,可以發(fā)現(xiàn)當前在算法推薦的違規(guī)場景中存在的問題主要包括如下情形:(1)未在隱私政策中對用戶畫像、個性化展示的應(yīng)用場景及對用戶可能造成的影響進行說明;(2)未取得用戶的明示同意;(3)基于用戶畫像向不滿十四周歲的未成年人進行個性化推薦;(4)未提供非定向推送信息的選項;(5)未向用戶提供拒絕接收定向推送的選項;(6)未明示廣告發(fā)送者的真實身份和聯(lián)系方式;(7)以其他不合理的方式影響用戶正常使用服務(wù);(8)使用非法的用戶標簽,對用戶進行歧視性或偏見性的設(shè)置和管理;(9)大數(shù)據(jù)殺熟。

個人信息保護合規(guī)要求

個人信息保護法規(guī)定,通過計算機程序自動分析、評估個人的行為習慣、興趣愛好或者經(jīng)濟、健康、信用狀況等并進行決策的活動,屬于自動化決策。毫無疑問,利用生成合成類、個性化推送類、檢索過濾類等算法技術(shù)向用戶提供信息屬于自動化決策的具體體現(xiàn),因此,使用算法推薦,除遵守消費者權(quán)益保護法、電子商務(wù)法的要求外,亦應(yīng)當嚴格遵守個人信息保護法的要求。

根據(jù)個人信息保護法的規(guī)定,應(yīng)用算法推薦時應(yīng)當注意:(1)保證決策的透明度和結(jié)果公平、公正,不得對個人在交易價格等交易條件上實行不合理的差別待遇;(2)應(yīng)當同時提供不針對其個人特征的選項,或者向個人提供便捷的拒絕方式;(3)通過自動化決策方式作出對個人權(quán)益有重大影響的決定,個人有權(quán)要求個人信息處理者予以說明,并有權(quán)拒絕個人信息處理者僅通過自動化決策的方式作出決定。具體而言,提供算法推薦服務(wù)的企業(yè)應(yīng)當在如下方面開展工作:

企業(yè)應(yīng)當保障用戶知情權(quán),在隱私政策等文件中向用戶明確說明算法將使用到何種信息,如說明使用的個人信息的類型、范圍,使用的具體目的和應(yīng)用程序,是否可能被第三方所使用,所使用個人信息的必要性,可能對用戶個人造成的影響。企業(yè)需要明確對基于自動化決策作出的定向推送內(nèi)容設(shè)置明顯的、容易識別的標識,并且與非定向推送內(nèi)容進行區(qū)分;企業(yè)必須保障同時向用戶保留非定向推送的選項和內(nèi)容。企業(yè)還應(yīng)當保障用戶的選擇權(quán)和拒絕權(quán),向用戶提供便捷的拒絕方式,設(shè)置和提供簡便的、易操作的關(guān)閉選項和用戶權(quán)限管理系統(tǒng),將用戶權(quán)限設(shè)置頁面鏈接限制在4次點擊操作之內(nèi)。任何企業(yè)均不應(yīng)對用戶拒絕個性化信息推送或商業(yè)營銷設(shè)置障礙、收取費用或設(shè)定有效期限。

保障決策的透明度和結(jié)果的公正性也是算法推薦關(guān)注的重點,企業(yè)應(yīng)當通過隱私政策、算法說明等文件,對自動化決策算法的原理、目的意圖、決策規(guī)則、可能產(chǎn)生的影響等信息進行說明,并從以下維度保證決策結(jié)果的公正性:參數(shù)設(shè)置是否科學、合理,用戶畫像是否公正、客觀、真實,決策規(guī)則設(shè)計是否科學、合理等。如為了防范“大數(shù)據(jù)殺熟”的風險,企業(yè)就應(yīng)當明確對用戶實施交易價格、交易機會等交易條件上的差別待遇是否具有合理性。

此外,企業(yè)提供算法推薦服務(wù),還應(yīng)當尊重社會公德和倫理,遵守商業(yè)道德和職業(yè)道德,遵循公正公平、公開透明、科學合理和誠實信用的原則,倡導主流的價值導向,不得利用算法推薦服務(wù)從事危害國家安全和社會公共利益、擾亂經(jīng)濟秩序和社會秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動,不得利用算法推薦服務(wù)傳播法律、行政法規(guī)禁止的信息,不得推薦歧視性信息、傳播虛假信息,不得規(guī)避監(jiān)管、實施壟斷和不正當競爭行為等。

企業(yè)合規(guī)實施路徑

從個人信息保護合規(guī)管理角度看,提供算法推薦服務(wù)的企業(yè)作為個人信息處理者,也應(yīng)當落實個人信息保護法第51條的規(guī)定,在管理上要做到合規(guī),如制定內(nèi)部管理制度和操作規(guī)程,對個人信息實行分類管理,采取相應(yīng)的加密、去標識化等安全技術(shù)措施,合理確定個人信息處理的操作權(quán)限,并定期對從業(yè)人員進行安全教育和培訓,制定并組織實施個人信息安全事件應(yīng)急預案等等。具體而言,企業(yè)應(yīng)當落實算法安全主體責任,建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發(fā)布審核、數(shù)據(jù)安全和個人信息保護、反電信網(wǎng)絡(luò)詐騙、安全評估監(jiān)測、安全事件應(yīng)急處置等管理制度和技術(shù)措施,制定并公開算法推薦服務(wù)相關(guān)規(guī)則,配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐。

算法推薦作為“利用個人信息進行自動化決策”的場景之一,亦需做好個人信息處理合規(guī),事先進行個人信息保護影響評估,并對處理情況進行記錄。在進行算法推薦時,企業(yè)應(yīng)當做到,以隱私政策、彈窗等方式明確告知用戶,并且在業(yè)務(wù)功能、推薦內(nèi)容上以“推薦”“猜你喜歡”“定推”“根據(jù)你的搜索推薦”“根據(jù)你的興趣推薦”等字樣進行顯著標識;建立和完善合法合規(guī)的用戶模型和用戶標簽管理,完善記入用戶模型的興趣點規(guī)則,不得有違法和不良信息關(guān)鍵詞,不得有歧視性或者偏見性用戶標簽,排除任何形式的強制、欺騙、誤導用戶使用個性化推薦,以及涉及殺熟、價格歧視等違規(guī)的系統(tǒng)設(shè)置。在下列業(yè)務(wù)場景中,企業(yè)在應(yīng)用算法推薦時應(yīng)當保留相關(guān)記錄以證明其行為具備正當性:(1)基于消費者實際需求,且符合正當?shù)慕灰琢晳T和行業(yè)慣例,實行不同交易條件;(2)基于針對新用戶在合理期限內(nèi)開展的優(yōu)惠活動;(3)基于平臺公平、合理、無歧視的規(guī)則實施的隨機性交易;(4)基于保障弱勢群體利益和安全而作出的限制或差異性對待;等等。

此外,《算法推薦管理規(guī)定》也設(shè)置了相應(yīng)的行政管理要求。網(wǎng)信部門會同電信、公安、市場監(jiān)管等有關(guān)部門建立算法分級分類安全管理制度,根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對用戶行為的干預程度等對算法推薦服務(wù)提供者實施分級分類管理。提供算法推薦服務(wù)的企業(yè)如具有輿論屬性或者社會動員能力,應(yīng)當在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型等備案信息,履行備案手續(xù)。

總之,作為技術(shù)手段的算法推薦本身是中立的,運用正確可以提高企業(yè)的經(jīng)營效率,為用戶提供更具針對性、更優(yōu)質(zhì)的服務(wù)?！端惴ㄍ扑]管理規(guī)定》的發(fā)布是政府部門相互協(xié)調(diào)、細化監(jiān)管、完善治理的集中體現(xiàn),有助于規(guī)范提供算法推薦服務(wù)的行為,保障市場公平有序競爭,維護消費者的合法權(quán)益。相關(guān)企業(yè)必須加強自律,深入開展合規(guī)工作,切實承擔應(yīng)盡的義務(wù)和責任,以守法經(jīng)營助力行穩(wěn)致遠。

(作者單位:北方工業(yè)大學)

關(guān)鍵詞： 個人信息 算法