不通人性的機(jī)器-社會(huì)
人不可能像機(jī)器一樣毫無(wú)感情地做出最理性的選擇,而是需要時(shí)間進(jìn)行反應(yīng)、思考、判斷。
一架滿載乘客的飛機(jī)從紐約起飛后遭遇鳥(niǎo)群撞擊,兩臺(tái)引擎全部失靈,英雄機(jī)長(zhǎng)奇跡般地實(shí)現(xiàn)了水上安全迫降。這是電影《薩利機(jī)長(zhǎng)》講述的真實(shí)故事。不過(guò),迫降成功只是故事的開(kāi)始。隨后,薩利機(jī)長(zhǎng)接受了航空安全部門(mén)的輪番調(diào)查和盤(pán)問(wèn),他被質(zhì)疑:為什么不返航到拉瓜迪亞機(jī)場(chǎng),而要冒險(xiǎn)迫降?也許機(jī)長(zhǎng)并不是英雄,而是拿全體乘客性命開(kāi)玩笑的莽夫?
在聽(tīng)證會(huì)上,航空安全部門(mén)展示了模擬數(shù)據(jù)。在先進(jìn)技術(shù)的支持下,機(jī)器完美地還原了當(dāng)天飛機(jī)遭遇鳥(niǎo)群撞擊之后的高度、速度、角度等數(shù)據(jù),以及天氣、風(fēng)向等外部環(huán)境因素。模擬結(jié)果表明:這架飛機(jī)完全可以成功返航,在原機(jī)場(chǎng)著陸。
眼看薩利機(jī)長(zhǎng)就要聲名掃地,這時(shí)他指出了一個(gè)關(guān)鍵因素:機(jī)器可以完美地模擬客觀數(shù)據(jù),卻沒(méi)有考慮到,當(dāng)時(shí)駕駛飛機(jī)的是活生生的人。人不可能像機(jī)器一樣毫無(wú)感情地做出最理性的選擇,而是需要時(shí)間進(jìn)行反應(yīng)、思考、判斷。
果然,當(dāng)機(jī)器模擬將人的反應(yīng)時(shí)間考慮進(jìn)去之后,飛機(jī)便無(wú)法再成功著陸機(jī)場(chǎng),水上迫降成為唯一的選擇。
在不通人性的機(jī)器面前,英雄機(jī)長(zhǎng)的命運(yùn)險(xiǎn)些被毀掉。其實(shí),這個(gè)世界上還有千千萬(wàn)萬(wàn)小人物,也因?yàn)闄C(jī)器不通人性、不具備人文關(guān)懷,而生活在糟糕的處境之中。
這類(lèi)小人物中最典型的,就是美國(guó)不少快餐連鎖和大型超市的工作人員。他們大多是按小時(shí)數(shù)拿薪水的合同工,收入本就微薄。近幾年,企業(yè)大規(guī)模采用機(jī)器進(jìn)行排班,讓他們受到進(jìn)一步的剝削。
這種排班的核心是基于顧客流量來(lái)安排上崗員工。其實(shí),超市和快餐店本來(lái)就會(huì)進(jìn)行這種“科學(xué)排班”:周二上午人流少,少安排人上崗;周五晚上人流多,全員上崗。不過(guò),新的數(shù)據(jù)技術(shù)讓這種方法的復(fù)雜性達(dá)到了前所未有的程度。比如,下雨時(shí),可能會(huì)有更多人走進(jìn)咖啡店,所以這時(shí)要多安排人手;某個(gè)晚上附近的體育場(chǎng)有大型賽事,可能會(huì)給快餐店帶來(lái)一大批深夜客流;甚至,根據(jù)社交媒體上提及的某一產(chǎn)品的熱度,來(lái)預(yù)測(cè)門(mén)店的人流……這一切都讓人流預(yù)測(cè)和排班安排達(dá)到了前所未有的科學(xué)化程度,但它給店里的打工者帶來(lái)了災(zāi)難性的后果。
為什么會(huì)這樣?首先,這種復(fù)雜的預(yù)測(cè)方式,往往需要利用非常新的數(shù)據(jù)(比如天氣預(yù)測(cè)、社交媒體熱度),因此很多時(shí)候只能提前一兩天完成預(yù)測(cè)。這也就意味著,員工的排班表無(wú)法在一個(gè)月前就安排好,而是提前一兩天才能得到,而且永遠(yuǎn)處于不可預(yù)測(cè)的變動(dòng)之中——因?yàn)閿?shù)據(jù)是不斷變動(dòng)的。這也就意味著這些打工者永遠(yuǎn)處于不確定性之中,隨時(shí)可能被叫去工作,無(wú)法掌控自己的時(shí)間,這對(duì)需要照顧家庭的人來(lái)說(shuō)尤為不便。
其次,此前超市和快餐店的打工者還能享受一些間歇的清閑,不至于每一分鐘都在高壓之下,但是現(xiàn)在,拜算法所賜,他們基本上每一分鐘都要處于緊繃的狀態(tài),因?yàn)闄C(jī)器算法的終極目標(biāo)就是使每一位員工在崗時(shí)的工作投入最大化。這對(duì)于企業(yè)盈利的目標(biāo)而言自然是合理的,但它沒(méi)有考慮到,員工作為活生生的人在這種制度下要承受巨大壓力。
此外,機(jī)器還會(huì)自動(dòng)完成一些奇葩的排班方式。比如,晚上值最后一班崗,工作到11點(diǎn)關(guān)店,第二天一早又要上最早一班,凌晨4點(diǎn)就要起來(lái)去開(kāi)店。這種情況一度非常普遍,以至于人們發(fā)明了一個(gè)詞:clopening,即關(guān)門(mén)(closing)和開(kāi)門(mén)(opening)的合體。有這種排班方式,并不是機(jī)器有意為難打工者,而是因?yàn)樵跈C(jī)器的算法中,并沒(méi)有“人類(lèi)需要充足的睡眠時(shí)間”這樣的設(shè)定。
數(shù)學(xué)家凱西·奧尼爾在《數(shù)學(xué)殺傷性武器》一書(shū)中講述了不通人性的機(jī)器剝削底層打工者的故事。她提醒我們:機(jī)器和算法最終體現(xiàn)的,其實(shí)是制造機(jī)器、設(shè)計(jì)算法的人的意志。從這個(gè)意義上說(shuō),機(jī)器不通人性并不可怕,只要制造機(jī)器、設(shè)計(jì)算法的人多一些人性的考慮和關(guān)懷,比如禁止連續(xù)排最晚班和最早班,要求提前一周定下排班表,等等,事情就不會(huì)變得那么糟糕,就像在薩利機(jī)長(zhǎng)的聽(tīng)證會(huì)中加入那關(guān)鍵性的35秒一樣。