無障礙鏈接

突發新聞

“少數派報告”中國版的另類現實 大數據預警真有那麼神?


2018年4月3日,警察在河南省洛陽市展示他們的智能眼鏡。
please wait

No media source currently available

0:00 0:08:33 0:00

歐美的研究學者說,新疆的高壓監控系統已經用在了中國其他各地,大數據“預測預警”策略成為中國公安部門偵查和執法宣傳中的一個熱詞,但引發的效用和道德問題也頗具爭議。

中國各地監控支出十年升高19倍

中國政府在新疆監視通訊、廣設監控設備,這一主要針對維吾爾等少數民族的監控科技組成的天羅地網引發全球關注。美國與歐洲的研究人員發現,在新疆以外的中國其他許多地方,與新疆類似的監控方案也廣為使用,而且多樣化。

在改編自1956年同名小說的影片《少數派報告》中,警方與具有先知能力的超能力人類合作,在“罪犯”實施犯罪之前就將其捉拿歸案,讓重罪徹底從社會上消失。研究人員說,在監控技術和大數據分析的幫助下,這種被稱為“預測性警務”(predictive policing)的做法正在受到中國各地的公安和政府部門的推行。

一項由前美國國務院分析專家、網絡雜誌“中參館”(ChinaFile)高級編輯傑西卡·巴特克(Jessica Batke)和德國馬歇爾基金會亞洲項目高級研究員馬曉月(Mareike Ohlberg)最近共同發起的研究梳理了2004年至2020年的76000多份中國各地政府機構的監控設備和服務的採購公告。她們的研究發現,從2010年至2019年,監控相關設備和服務的採購公告數量增長了近19倍。

研究說, 65.8%監控採購由公安系統進行,地方政府部門採購了15.8%的監控設備和服務,其餘的採購部門還包括各地的政法部門、城市管理、維穩單位、地方黨支部等。

研究還說,在2019年,中國三分之一的縣市級政府機構(998個)增購了某種類型的監控設備。僅在過去的五年裡,被稱為“雪亮行動”的監視活動花費了140多億元人民幣(21億美元),這個數字還不包括其他監視項目的支出。

馬曉月對美國之音說,儘管不能斷定中國各地公安是否正在積極學習新疆的高壓政策中的監控和執法經驗,但她們的調查顯示,“新疆和中國許多其他地方的監控項目在措辭和解釋這些項目的邏輯闡述上非常相似”。

在新疆之外,各地政府的監控策略不拘一格。其中,預測性警務的做法引人關注。這一執法理念的目標是讓偵查人員在犯罪發生之前就預知並阻止其發生。

大數據預測預警,《少數派報告》在中國將成現實?

早在2016年,中國國家主席習近平就作出有關“加強和創新社會治理”的指示,特別強調要提高社會治理的智能化,要求“提高預測預警預防各類風險的能力”。

2018年,中國公安部部長趙克志就“智慧警務”建設作出部署,並提出“公安大數據戰略”,稱大數據是公安工作“戰鬥力生成的新增長點”,要求各地“著力提高預測預警能力、精確打擊能力和動態管理能力”。

馬曉月本星期在加州大學圣迭戈分校的一次網上講座分享了她與巴特克的研究。她透露,黑龍江省哈爾濱市公安部門的一份招標文件似乎揭露了中國公安以大數據預測預警策略的部署方案。

哈爾濱公安香坊分局這份發表於2017年、預算為1465萬元人民幣的招標文件顯示,當地公安部門已將“涉恐、涉暴”等人員錄入“重點人員庫”,因此可以根據“有監督學習”的方法,“以這些已知重點人員為訓練樣本,訓練一個分類或預測模型,對所有的人員進行分類和預測,找到潛在的涉恐、涉爆等重點人員”。

這份文件將這個大數據分析功能稱為“涉恐涉暴人員預測模塊”。

懲治犯罪作用有限 主要是維穩工具

預測性警務是中國借助大數據分析、雲計算、人工智能工具推廣的“智慧安防”、“智慧公安”社會管控體系的一部分。中國政府說,提高公安“預測預警預防”能力的目的是提高人民群眾的安全感。不過,許多分析人士質疑預測性警務對改善社會治安的作用。

《北歐法律和社會研究期刊》(NAVEIÑ REET: Nordic Journal of Law & Social Research, NNJLSR)2020年刊登的一篇題為“公安的集權夢 - 預測性警務在中國”(Predictive Policing in China: An Authoritarian Dream of Public Security)的分析論文結論指出,中國預測性警務路線要想真正達到降低犯罪率的目的還面臨許多體制問題的阻礙,宣傳價值可能是中國建立這種犯罪預防體系的最重要目的;與此同時,當局強調“預測預警”真正針對的目標是持不同政見者、訪民和一些弱勢群體。

論文作者、德國科隆大學中國法律文化系研究員、講師丹尼爾·斯普里克(Daniel Sprick)對美國之音說,中國的犯罪統計數據常常是“歪曲和帶有偏見”的,因此難以判定預測性警務是否幫助社會改善治安。

斯普里克的研究重點是中國刑法和司法制度改革。他並未完全否定中國大數據預測預警戰略在預防犯罪中起到的作用。例如,公安機關可以利用“大數據”來防範電信詐騙。

反電信詐騙預測預警的AI算法模型在經過大數據訓練後,可以實時預測事件關係網中的人員關係,計算出疑似受騙者,並主動向他們推送預警信息。在一些中國媒體的宣傳中,常常有警方在受騙者在赴銀行向詐騙人轉賬前及時將其攔阻的報導。

中國信息通信研究院安全研究所2020年4月發布了一份有關疫情期間電信網絡詐騙防範治理的案例彙編,列舉了全國各地51個反電信詐騙的成功案例。報告稱,公安的一系列打擊做法讓疫情期間的電信詐騙“連續多周明顯下降”。

不過,科隆大學的斯普里克說,預測性警務在電信欺詐這類主要涉及大量網絡通訊數據的犯罪方面可能有一定用武之地,但一旦警務從網上轉到網下,人工智能預測預警存在大量偏見,無法編織出罪案的準確全貌。

“談到街頭犯罪和網絡世界裡根本沒有的犯罪時,情況就完全不同了。你必須把街頭巷尾採集的數據叢輸入機器。這很難,因為這些數據的生成永遠是偏見的產物,因為就連那些做算法編程的人都帶有偏見……因為他們使用的是以前的已有數據,或多或少受到這些數據的影響。”

斯普里克引用數據分析行業的一個說法形容:劣等數據做出來的警務判斷是“垃圾進,垃圾出”。他說:“這在中國絕對是一個問題。”

斯普里克強調,中國政府最關心的似乎不是為了研究如何利用大數據科技增強解決實際問題的能力,而是通過大力宣傳安保工作中的科技投入,提高公安部門的正面形象,進而加強政權的合法性。

斯普里克說:“預測性警務的運用是在展示他們(政府)在盡最大努力創造出很多成果,用市場上能獲取的最現代化的手段讓公眾有一種安全感和治安有效的感覺,所以這種預測性警務在很大程度上是一種幕前的遊戲。後台到底發生了什麼?我們不知道。”

專家批預測性警務作法不符倫理

預測性警務的道德和倫理問題也廣為詬病。數據隱私問題專家、加拿大全球隱私與安全設計中心(Global Privacy & Security by Design Centre)執行總監安·卡沃基安(Ann Cavoukian)對美國之音說,預測性警務讓人“無法容忍”。

她說:“預測性警務充滿誤報。這不是一個可以準確檢測任何東西的方法。”

“這是完全不道德的,因為它不是建立在任何現實的基礎上,只是對某些行為作出假設,然後將其實際應用到人身上。”卡沃基安說:“但你不能那樣做。你需要證據,需要合理的依據……當你有合理依據的時候,你把它交給法官。如果你能說服法官,你才能拿到搜查令,讓你能夠去收集信息。但這些都是必須採取的一系列步驟。預測性警務並不能做到這一點。”

有關人工智能在警務和偵查工作中的運用,在西方也有許多倫理問題的爭議。民權活動人士認為,人工智能算法的訓練容易參雜偏見,讓機器區別對待少數族裔人士,讓他們更容易成為執法針對的目標。

斯普里克說,在預測性警務的道德問題討論中,他不想強調任何中西方的二元對立。但他特別指出,中國的司法體系所欠缺的是:無論是機器出錯還是人工誤差,警方受到的問責程度遠不如西方民主國家。

他說:“中國缺乏一個可以真正向政府施加足夠壓力的、迫使政府追究警察的責任的公民社會。當然,缺乏一個與政權對立的公民社會是中國的一個體制問題。”

“這就是為什麼中國的預測性警務或多或少會產生更多的誤報,而這些誤報不會導致在我們這裡(西方國家)會出現的那些醜聞。”

斯普里克說:“在美國的預測性警務實驗中也出現過很多誤報,再度激發了整個種族偏見問題。但美國有強大的公民社會,全國有色人種協進會(NAACP)打前陣提供支持。中國沒有這樣的協會,特別是沒有具備足夠力量來支持那些最有可能成為這種誤報受害者的人——那些已經被邊緣化的人……例如農民工、吸毒者和街頭小販。不是中國人不在乎,而是中國缺乏這種內在的問責制度。”

中國警方近年來在國內重要會議和G20峰會等國際活動舉行時擴大通訊監控、加大對訪民和異見人士的打壓,此類報導已屢見不鮮。斯普里克說,從當局“維穩”的出發點來看,預測性警務或許是一個“有效”的工具。

XS
SM
MD
LG