mlkj24

Economist May 31st 2018

他們正看著你。你走路上班時，閉路攝影機拍著你，現在更可以認出你的臉。開車出城時，車牌辨識攝影機也記錄著你的旅程。你口袋裡的智慧型手機，持續留下數位足跡。私底下在家裡上網，你的動作被記錄跟分析。分析出來的結果，可以建造出一個你每分鐘的生活紀錄。

在一個類似中國的獨裁政府控制下，數位監控把一個原本是惡劣的警察國家，變成一個令人恐懼、無所不知的警察國家。尤其是在西部的新疆，中國利用人工智慧及大規模監控，來建造一個二十一世紀的圓形監獄(panopticon)，並全面控制數百萬名維吾爾人(土耳其裔的穆斯林少數民族)。在西方民主國家中，警察及情報單位也用同樣的監控工具來解決、減少犯罪及預防恐怖主義。這樣的結果很有成效，但也很令人擔心。

在自由與壓迫中間，有一個制度存在著。這個制度可以尋求公民的同意、保持對政府的檢查與平衡。當需要監控時，有規範來限制那些收集、使用資訊的人。但資訊如此充足，又如此容易取得，這樣的保護系統正被侵蝕。隱私規範設計之初，是用在室內電話、郵件及檔案櫃上的，在這個智慧型手機、電子郵件及雲端運算的年代，亟需馬上加強。

我有許多眼
I spy with my many eyes

1989年東德垮台時，人們對於東德秘密警察史塔西(Stasi)所能取得的資訊、以及為了取得這些資訊所佈的綿密網絡感到詫異。自那時起，數位革命得以用前所未有的規模收集和分析數據，讓監控的形式完全轉變。智慧型手機、網頁瀏覽器及感測器提供了大量的資訊，讓政府能收集或竊取；數據中心則可以無限地儲存這些資訊。人工智慧則讓政府能從資訊大海中撈針，並進行組合。科技曾看起來是自由之友，讓獨裁政權中的異議人士能更容易地進行溝通、組織。但現在看起來更像歐威爾式，讓專制者比史塔西更能窺視人民。

新疆是惡夢式的極端情況，而新科技則讓這個情境成真：一個種族歧視的警察國家。中國統治者擔心反叛及分離主義，用數位科技加強了極權主義控制 — 包含大規模逮捕維吾爾人來再教育。新疆的部分地區，每一到兩百公尺就有一台閉路攝影機。這些攝影機記錄了所有開車司機的臉及車牌。維吾爾人的手機，必須裝上政府發放的監視軟體。他們的身分證上的資料，不只姓名、性別跟職業，還有親戚的細節、指紋、血型、DNA資料、拘捕紀錄跟「可靠程度」。這一切都整合到人工智慧系統「一體化聯合作戰平台 (IJOP)」上，來生成拘捕的嫌疑名單。

即使橫跨中國大多數地區，新疆的極權主義可能也很難複製。壓制易辨別的少數民族，比確保對全體人民擁有絕對的控制權更容易。但中國式的監控元素，一定也會啟發其他極權政府 — 從俄國到盧安達到土耳其 — 中國會很樂意賣出那些必要的硬體。自由國家有義務揭露、懲罰這種壓迫性硬體的出口，然而他們的勸說工具極為有限。

西方國家也必須回頭看看自己。現在的日子中，警察能接觸的個人資訊量可媲美史塔西。官員可以設置假的基地台，來追蹤人民的行蹤與聯繫。從車牌取得的資料，可以追蹤一個人數年的行動。有一些美國城市擁有類似一體化聯合作戰平台的預警程式，能從過去的犯罪行為中預測未來的可能。擁有這些，可以監視可能的攻擊者，但被濫用的可能性非常高。已知有數百位美國警察用這些機密資料來挖掘記者、前女友及他人見不得人的資料。

注意警探
Watching the detectives

要怎麼在自由跟安全中取得平衡?首先，數位世界跟真實世界一樣，應有空間讓守法的人享有隱私。自由民主國家的公民，不希望在沒有正當理由的情況下被搜身，或是家園在沒有逮捕令的情況下被搜查。同樣地，一支在某個人口袋裡面的手機，受到的待遇應該跟他家的檔案櫃一樣。就像檔案櫃可以上鎖，加密的行為也不該被縮減。而公民資料保存時間的上限、以及誰能接觸這些資料、以及若遭濫用該怎麼懲罰，是優先順序的第二位。2006年時，歐盟頒布的一項指令，要求手機廠商保留客人資料兩年。此項法律在2014年時，遭到歐盟法院判定無效。濫用警方資料，應以刑事犯罪處理，而不是集體道歉就能平息的「錯誤」。

第三個優先事項，是監控人工智慧的使用。預警系統並不是完美的，比較能找到竊盜案的模式，但比如說要找到謀殺案的模式，就沒那麼行。臉部辨識可能會產生許多「誤報」的結果。人工智慧是用偏差數據((biased data)形成的，很可能會複製這些偏差 — 比如說，逮捕模式顯示黑人數量不成比例地高。一些判刑的演算法，可能會判斷黑人被告為比白人被告有更高的再犯率。這樣的演算法必須公開、受到監督，而不是以貿易秘密之名保護著。

警覺性及透明性必須成為箴言。這兩件事也許可以提高科技的效果：警察例行佩戴攝影機，似乎可以減少了大眾投訴。諮詢也很重要；最近加州提出一項法案，要求警方要揭露他們所有的監控設備，公布取得的數據及其用途，在採買更多設備前必須要加入公眾意見。如果這會造成進程減緩，那就這樣吧。警察正確地看守民眾、保護民眾安全。民眾則也必須看著警察，來保持自身自由。

原文