買機票、訂酒店，會員比新客更貴;點外賣，對老會員配送費更高，同一家店吃兩三回就漲價……近兩年，“大數據殺熟”被越來越多的人所熟知。北京市消協(xié)的一份調查顯示，超八成被調查者認為“大數據殺熟”現象如今相當普遍，且有超五成被調查者表示有過被“大數據殺熟”的經歷。
與之相對應的是，多家大型互聯網企業(yè)被爆利用大數據分析對不同群體進行差別定價，實行“價格歧視”。
在賽迪工業(yè)和信息化研究院網絡安全研究所副所長閆曉麗看來，“大數據殺熟”屬于算法濫用的一種形式，即通過數據和算法實施價格歧視，對不同用戶采取不同的價格政策，新老用戶不同價，不同地區(qū)用戶不同價，瀏覽量多或少的用戶不同價，追求自身利潤最大化。
“此外還有致癮性推薦、影響和誤導消費者兩類。前者是通過數據和算法向用戶進行個性化推薦，推薦其感興趣的內容，且不論這些內容是否恰當、適合，有些內容甚至違背法律和公序良俗，從而使用戶沉迷致癮;后者指通過數據和算法對流量分配、搜索排名、評價等級設置障礙，限制經營者開展交易，降低消費者選擇的可能性，進而引導和左右消費者選擇。”閆曉麗坦言，無論哪種，都是通過濫用數據分析和算法推薦侵害消費者合法權益。
實際上，針對大數據濫用普遍存在于行業(yè)的現象，近年來，相關部門不斷出臺政策法規(guī)，從電子商務法對“大數據殺熟”作禁止性規(guī)定，到文化和旅游部印發(fā)《在線旅游經營服務管理暫行規(guī)定》明確規(guī)定在線旅游經營者不得濫用大數據分析等技術手段，再到近期引起廣泛關注的深圳推進相關立法。
近期，《深圳經濟特區(qū)數據條例(征求意見稿)》在深圳市人大常委會網站上公開征求意見，并將在本月底進行“三審”。該條例(征求意見稿)明確提出對“大數據殺熟”給予重罰--違法所得不超過1萬元的，5萬元起罰。情節(jié)嚴重的，可處5000萬元以下或上一年度營業(yè)額5%以下罰款。
中國人民大學法學院教授劉俊海認為，深圳的特區(qū)立法具有“破冰”意義。當然，在多地試點后，還要逐步完善數據管理的頂層設計，明確數據權屬，推進數據確權，保護用戶權益。
值得關注的是，算法是一個企業(yè)發(fā)展的核心，不僅難以監(jiān)控，并且隨著科技的發(fā)展，平臺“殺熟”的手段也愈加隱秘。在不斷完善法律法規(guī)的同時，還應從多層面形成約束和透明化機制。
閆曉麗介紹，中共中央印發(fā)的《法治社會建設實施綱要(2020-2025年)》提出，要制定完善的算法推薦、深度偽造等新技術應用規(guī)范管理辦法，但目前我國尚未形成算法應用監(jiān)管制度體系。
閆曉麗認為，一方面，應組織開展算法應用調查。識別不同應用場景下的算法濫用危害，加快制定算法應用規(guī)則和標準規(guī)范，探索形成一系列的監(jiān)管制度。其中就包括建立算法應用影響評估制度，針對典型場景，要求企業(yè)在算法正式上線前評估算法對消費者權益、個人基本權利等的影響，并采取相應的防范措施。
另一方面，應建立算法透明度制度。企業(yè)要向監(jiān)管部門和公眾披露其采用算法的相關信息，包括采用目的、應用場景、算法技術實現等。對那些可能對個人和社會產生重大影響的算法決策，企業(yè)應解釋算法的基本原理。
對此，閆曉麗舉例道，歐盟《通用數據保護條例》第13條規(guī)定，當數據控制者收集個人數據時，如采用自動化決策對用戶進行畫像或存在類似情況的，應當向數據主體提供關于此類問題處理的邏輯及預期后果的有效信息;美國《公平信用報告法》包含“不利行動告知”條款，要求貸款方就對金融消費者不利的算法評分向其進行解釋。
“此外，還應建立算法問責機制。允許個人對算法決策提出異議、要求對算法決策進行人工審查等。”閆曉麗說。
在完善制度的同時，行業(yè)亦需要自律和良性競爭。在6月7日舉行的2021全球人工智能技術大會上，記者發(fā)現，可信AI正成為行業(yè)關注重點，有望為規(guī)范人工智能發(fā)展提出自律性要求。
蘇寧金融研究院金融科技研究中心主任孫揚認為，從當前行業(yè)現狀來看，違規(guī)采集、使用用戶數據等問題依舊頻發(fā)，人工智能的安全性、可靠性與可信性都需增強，打破數據孤島過程中如何防止技術公司濫用數據優(yōu)勢也向技術公司提出了更高的數據使用要求。
