在方才閉幕的G20杭州峰會(huì)上，世界各國的率領(lǐng)人在一個(gè)問題上告竣了一致：日益嚴(yán)重的收入不服等現(xiàn)象存在著龐大的隱患。各國率領(lǐng)人都強(qiáng)調(diào)，應(yīng)該越發(fā)均等地分享全球經(jīng)濟(jì)增長帶來的好處。
在科技突飛猛進(jìn)的當(dāng)下，技能進(jìn)步自然而然地被作為辦理途徑之一，算法、大數(shù)據(jù)、呆板進(jìn)修等技能正不絕滲透到經(jīng)濟(jì)、政治、司法等各個(gè)層面，，但結(jié)果如何？《數(shù)學(xué)殺傷性兵器》（WeaponsofMathDestruction）一書的作者凱西·奧尼爾（CathyO'Neil）指出，這些技能恰恰在加劇收入不服等現(xiàn)象。
被算法“算計(jì)”
美國人開始越來越多地遭遇這樣的經(jīng)驗(yàn)：求職進(jìn)程中，因?yàn)橐豁?xiàng)性格測(cè)試被刷下陣來，只因算法認(rèn)為他不是符合人選；去銀行貸款，利率比別人都要高，只因所住地域多有信用記錄不良者；被從重判罰，只因親朋摯友中有人是累犯。并且，在被算法“算計(jì)”之后，他們也都被蒙在鼓里，得不到一個(gè)公道的表明。
針對(duì)這種現(xiàn)象，奧尼爾調(diào)查了各個(gè)規(guī)模對(duì)算法和大數(shù)據(jù)的利用，以及它們是如何使窮人的糊口落井下石、如何放大社會(huì)不服等現(xiàn)象的。
她在書中分解了不少大數(shù)據(jù)模子，它們都存在一個(gè)配合點(diǎn)：用一種指標(biāo)來代替真正需要權(quán)衡的指標(biāo)。好比，店主依據(jù)信用記錄來判定應(yīng)聘者的責(zé)任心，放貸機(jī)構(gòu)按照語法黑白來判定申請(qǐng)人的信費(fèi)用。但這些指標(biāo)之間真能劃上等號(hào)嗎？信用記錄也許更多地代表了財(cái)產(chǎn)程度，語法錯(cuò)誤多的也有大概是信用優(yōu)良的移民，并非所有的署理指標(biāo)都經(jīng)得起推敲。
在美國，近半數(shù)的店主都要求應(yīng)聘者提交信用陳訴，把信用評(píng)分等同于責(zé)任心或靠得住性。這樣做會(huì)形成一種危險(xiǎn)的貧困正反饋輪回。假如有人因?yàn)樾庞糜涗洸涣级也坏绞虑椤]有收入，其信用記錄只會(huì)越來越差，從而越來越難以找到事情。但在店主眼中，滿紙數(shù)據(jù)的信用記錄卻比工錢判定都要靠得住。他們從不思量數(shù)字背后埋沒著奈何的假設(shè)。
孤獨(dú)起來看，這些算法發(fā)生的效應(yīng)就已經(jīng)足夠惡劣，更況且它們之間還會(huì)彼此強(qiáng)化。教誨、就業(yè)前景、債務(wù)和犯法記錄全都彼此關(guān)聯(lián)。窮人因?yàn)槿氩粔虺觯写蟾艙碛胁涣夹庞糜涗洠⒑谠谥伟膊涣嫉赜颍c其他窮人比鄰而居。系統(tǒng)一旦消化這些數(shù)據(jù)，就會(huì)推薦對(duì)他們?cè)桨l(fā)倒霉的次級(jí)貸款、更差的學(xué)校等。警方會(huì)調(diào)派更多警力在內(nèi)地維持治安，從而激發(fā)更多不須要的逮捕，誰一旦罪名創(chuàng)立，還會(huì)被從重懲罰。
隨后，這些功效又會(huì)形成新一組數(shù)據(jù)，使他們?cè)谌蘸笊暾?qǐng)房貸、貸款和保險(xiǎn)時(shí)被收取更高的費(fèi)率。
決定依據(jù)而非決定功效
奧尼爾擔(dān)憂，這種技能模子和真人分道揚(yáng)鑣的現(xiàn)象會(huì)帶來道德上的效果。虧得，越來越多的狀師、社會(huì)學(xué)家和統(tǒng)計(jì)學(xué)家開始存眷數(shù)據(jù)濫用造成的危害，并思索辦理之道。
針對(duì)算法假設(shè)不足透明、令人費(fèi)解或經(jīng)不起推敲的現(xiàn)象，辦理步伐是在算法層面加以調(diào)解，浮現(xiàn)哪些信息對(duì)最終決定起到了抉擇性的浸染。并通過立法，增加對(duì)小我私家數(shù)據(jù)的掩護(hù)，對(duì)算法透明度實(shí)行類型化的打點(diǎn)。
別的，當(dāng)局也可以優(yōu)先用大數(shù)據(jù)來改進(jìn)民生，而不是嚴(yán)打犯法，由此贏得公家的信任。總而言之，算法可以作為決定依據(jù)，但不能替代人類做出決定。
在利用恰當(dāng)?shù)沫h(huán)境下，它們或者能協(xié)助當(dāng)局削減收入不服等現(xiàn)象。哈佛大學(xué)傳授戈德史女士（StephenGoldsmith）就暗示，呆板進(jìn)修有望厘革民眾政策規(guī)模的方方面面。
美國芝加哥的民眾衛(wèi)生康健部就用大數(shù)據(jù)和呆板進(jìn)修來辨別體內(nèi)鉛含量超標(biāo)的兒童，并據(jù)此采納法子，輔佐排除住房中的含鉛涂料。還用呆板進(jìn)修來發(fā)明存在犯法傾向的青少年，提前加以過問。
通過越發(fā)準(zhǔn)確地分派稀缺的民眾資金，呆板進(jìn)修可覺得當(dāng)局節(jié)減大筆不須要的開支。大數(shù)據(jù)也開始參加當(dāng)局決定，成為一項(xiàng)有效的決定東西。大倫敦地域的一個(gè)自治市就在開拓一種算法，用以預(yù)測(cè)哪些人大概會(huì)無家可歸。這些預(yù)測(cè)可以使當(dāng)局處事來得越發(fā)實(shí)時(shí)，更有針對(duì)性，或者也能輔佐當(dāng)局越發(fā)有效地縮減收入差距。
