我們正處在一場技術劇變之中，這場劇變將會改造社會的組織方式。我們必須現在就做出正確的決定。

數字化革命如火如荼。它會怎樣改變我們的世界？我們產生的數據量每年都會翻番。用另一種說法：2016年我們產生的數據量和人類直至2015年的整段歷史的數據量相同。每一分鐘，我們都會制造出幾十萬次的谷歌搜索和臉譜網帖文。這些數據中包含的信息能揭示我們的思考方式和感受方式。不久后，我們周遭的事物——甚至可能包括我們的衣服——也會和互聯網相連。根據預測，10年之后，全球會有1 500億只聯網的測量傳感器，比地球上的人類總數還要多20倍。接著，每過12小時，數據總量就會翻番。許多公司早已試圖將這些大數據轉化成大財富。所有一切都將變得智慧化，我們不僅會有智能電話，還會有智能房屋、智能工廠和智能城市。我們是不是應該預期這些發展會促成智能國家和更智能的星球？

人工智能領域確實正在取得激動人心的進展。尤其是人工智能對數據分析自動化的貢獻。人工智能如今不是一行行寫代碼，荷蘭服務器 英國主機租用，而是能夠學習知識，從而不斷發展自身。近期，谷歌公司的DeepMind算法教會自己在49款雅達利公司的游戲中獲勝。算法如今幾乎像人類一樣能辨識出手寫語言和模式，甚至比人類更出色地完成某些任務。算法能夠描述出照片和視頻的內容。如今，有70%的金融交易是由算法完成的；部分新聞內容是自動生成的。所有這些都有激進的經濟后果：未來10到20年之內，現今的工作中大約有一半會受到算法的威脅。當今的全球500強公司中，有40%的公司會在10年內消失。

可以預料，超級電腦不久就會在幾乎所有領域超越人類能力——大約2020到2060年之間。專家開始敲響警鐘。特斯拉汽車公司的埃隆•馬斯克、微軟的比爾•蓋茨和蘋果公司共同創立人斯蒂夫•沃茲尼亞克等技術預言家紛紛發出警告，超級智能對于人類來說是個嚴重的威脅，或許比核武器更加危險。這是不是杞人憂天呢？

有一件事很清楚：我們組織經濟和社會的方式會徹底改變。我們正在經歷二戰結束以來最大規模的變化；在生產自動化和自動駕駛汽車問世之后，社會的自動化就是下一個目標。社會處于十字路口，社會自動化有望帶來更多機遇，也可能帶來相當多的風險。假如我們做出錯誤的決定，就可能會威脅到人類歷史上最了不起的成就。

20世紀40年代，美國數學家諾伯特•維納創立了控制論。根據他的說法，系統的行為可以由合適的反饋方式來控制。不久后，一些研究者設想按照這條基本原理來控制經濟和社會，但那時還無法獲得必要的技術。

目前，新加坡被視為用數據控制社會的完美榜樣。最初是想用一個程序來保護新加坡免于恐怖襲擊，結果卻影響了經濟政策、移民政策、房地產市場和學校課程。在西方國家，消費者面臨越來越頻繁的信用核查，有些網上商店還試驗了“個性化定價”。越來越顯而易見的是，我們所有人都處在制度性監視之下。2015年，英國情報機關的“因果警察”（Karma Police）程序內幕公之于眾，報道表明每個英國人的互聯網使用情況都受到了全面的篩查。是不是“老大哥”在如今變成了現實？

程式化的社會和公民

一切在一開始都顯得相當無害。搜索引擎與推薦平臺開始向我們提供關于產品和服務的個性化建議。這些信息是基于之前的搜索、購買、旅行和社交互動中收集到的個人數據和元數據而得出的。盡管根據官方的說法，用戶的身份受到保護，但實際上能相當容易地推斷出用戶的身份。今時今日，算法相當清楚地知道我們做了什么事，我們在想些什么，我們有什么感受——可能比我們的朋友和家人更加清楚，甚至比我們自己還清楚。所提供的建議往往正好合適，做出的決定感覺就像是自己做出來的一樣。實際上，我們以這種方式受到更加成功的遠程控制。它們對我們了解得更多，我們選擇的自由程度隨之降低，愈加可能是被其他人預先決定好的。但這種情況不會停下來。一些軟件平臺正在向著“誘導計算”進發。在未來，這些軟件平臺使用精密復雜的操縱技術，將引導我們歷經整個行為過程，可能是執行復雜的工作程序，或者是為互聯網平臺生成免費內容，讓那些商業公司從中賺取幾十億金錢。趨勢是從為電腦編程轉變至為人類編程。

這些技術在政治圈內也正變得越來越流行。在“助推”的標簽下，政府正在企圖大規模地引導公民轉向那些更為健康或更加環境友善的行為，他們采用的方法就是“助推”——一種家長式管治的當代形式。這種新型的“關懷型政府”不僅對我們做什么感興趣，還想確保我們會做出那些被認為是正確的事情。這兒的魔力術語是“大數據助推”，也就是大數據和助推的結合體。對于許多人而言，這似乎是一種數字化權杖，允許統治者以高效的方式管治大眾，而又不必讓公民走民主程序。這種做法能不能戰勝既得利益，讓全世界的發展路徑最優化呢？假如能夠如此，那么公民將被一位數據授權的“睿智國王”統治，這位“睿智國王”能夠制造出民眾想要的經濟成果和社會成果，幾乎就像揮舞“數字魔棒”一般。