![]("data/attachment/portal/201608/15/171009xj6svcjkcihhgpus.jpg")
桑希爾：小說《少數派報告》設想了預測犯罪、把將要犯罪的人抓起來的未來，我們或許正緩慢走向這樣的未來。
英國《金融時報》 約翰•桑希爾
唐納德•特朗普(Donald
Trump)比較過分的言論之一是聲稱如果他當選總統，他將讓美國變得安全。“今天困擾我們國家的犯罪和暴力將很快消失，”上月他在共和黨全國代表大會上表示。“從2017年1月20日開始，美國將恢復安全。”
特朗普的說法將與幾千年來的人類經驗相背離，一些評論人士自然對此不予理睬，認為那不過是異想天開。在我們這個時代的格言中，這不過是謊言大量重復就變為真相的又一個例子。只要足夠大聲、大膽地說出某件事，此事便成為某種現實。
但是，就在政壇似乎在從非小說滑向小說的同時，科技世界似乎正反向運動。曾被認為異想天開的一線念頭，正在迅速變為現實。
以犯罪為例。1956年，科幻小說家菲利普•迪克(Philip K. Dick)發表了短篇小說《少數派報告》(The Minority
Report)，該書設想了一個犯罪被根除的社會。被稱為“預測人”(precogs)的變異人，在計算機技術的輔助下，能夠預測未來殺人犯的身份。預測人的報告會導致“即將犯罪”的嫌疑人遭逮捕，從而阻止謀殺行為的發生。
這部小說不但講述了一個引人入勝的故事，而且是對預測能力、人類能動性以及有罪和無罪概念三者之間的緊張的精彩剖析。在其中一段對話中，預犯罪部(Precrime
Division)負責人約翰•安德頓(John A
Anderton)說：“實施犯罪本身是絕對的玄學。我們認為他們有罪。另一方面，他們聲稱自己無罪。在某種意義上，他們是無罪的。”他得出結論稱：“在我們的社會里，我們沒有重大的犯罪行為。但我們有一個拘留營，裡面全是將會成為罪犯的人。”
迪克的想象極為離譜。不過，我們的社會或許正緩慢地走向他所描繪的未來。有些犯罪學者暗示，有朝一日，我們或許能夠在人們出生時根據他們的環境和父母經歷預測出，他們到了18歲時是否會犯罪。
在美國，有些法官在做出量刑和假釋決定時，已經在使用計算機生成的風險分數。這些評分報告把個人紀錄與關於以往犯罪行為模式和其他人口結構數據的大量資料進行對照。這類評分有望比任何法官都更為客觀地預測個人對社會構成的風險。妥善設計的算法應當不容易受到有意識或潛意識偏見的影響。
但是，計算機模型的質量，取決於它們所用數據的質量。調查性新聞機構ProPublica的一項調查發現，一個使用歷史數據來預測未來犯罪行為的軟件程序，對黑人構成了系統化的歧視。
在另一起個案中，已被定罪的罪犯埃里克·盧米斯(Eric
Loomis)近來對法官在量刑時使用的風險分數提出了挑戰。他主張，他實際上是因為別人的罪行而受到了額外懲罰。上月，威斯康星州最高法院駁回了他的上訴，但承認，一些有關風險分數的研究“提出了一些問題，即風險分數是否超出比例地把少數族裔罪犯列為累犯風險更高”。
如果執法機構可以更全面地獲取我們在網上共享的信息，這種爭議或許只是公眾論戰的開始。得益於我們社會的數字化和機器學習技術，我們正變得日益擅長監視——並預測——人的行為。
我們的數據中包含有關個人精神狀態、欲望和夢的私密紀錄。跟實際指紋相比，這些數字“指紋”的保持時間要長得多、更能透露內情。難道警方不應更廣泛地利用數字指紋去識別哪些人更有可能犯罪嗎?
無論是好是壞，這類數據集是分散的，而執法機構在能夠獲取什麽數據方面受到嚴格限制。但是，隨著公眾日益呼籲採取更強力措施回應恐怖主義暴行，危險在於，預測技術將穩步地、悄悄地變得更具侵入性。
如果使用得當，這類數據可以引領我們進入一個增強智能的時代，技術會幫我們做出更好的決定、保證我們的安全。如果使用不當，這可能造就一個敵托邦式的監視國家，會基於算法(而不是行為)把人們投入監獄。最重要的問題是，由誰來決定這類技術的使用?以及我們擁有哪些挑戰它的權利?
譯者/邢嵬
