2009年6月的一個周一晚上，就在華盛頓的晚高峰剛剛開始的時候，一臺電腦殺死了9個人。至少，這是對這起發(fā)生在該郊區(qū)地鐵站的撞車事故所能做出的解釋之一。當(dāng)時行駛中的列車處于電腦控制的“自動駕駛”狀態(tài)。調(diào)查人員后來確定事故原因：因安裝在列車和軌道上的精密自動傳感器失靈，這輛列車以每小時50英里的速度撞上當(dāng)時停在站內(nèi)的另一輛列車。當(dāng)車上的列車員發(fā)現(xiàn)狀況時已經(jīng)太晚了，她試圖在最后幾秒鐘拉緊急制動。最后，她與另外八人死于當(dāng)晚。這是華盛頓地鐵系統(tǒng)有史以來發(fā)生的最嚴重事故。
當(dāng)然，沒有人會說電腦故意殺人；但是，這場事故卻又的確是由電腦自動化所導(dǎo)致的悲劇，沒人預(yù)料到它會發(fā)生。再來看我們的生活，電腦自動化已日益主宰我們生活的許多方面。
《玻璃籠子：自動化和我們》（The Glass Cage: Automation and Us）的作者尼古拉斯·卡爾（Nicholas Carr）之前出版過數(shù)本有關(guān)科技的著作，他在這本新作中探討了人們對自動化越發(fā)依賴這一現(xiàn)象。“電腦正逐漸成為我們追蹤、控制、理解世界——作為物理存在的以及作為社會存在的世界——的通用工具，”卡爾寫道。不知不覺中，我們將生活中此前從未由軟件或者硬件控制的方面也交給了電腦。在書中，卡爾有許多十分敏銳的觀察，他讓我們看到自己不假思索、十分迅速地將許多生活體驗拱手讓與機器以及算法。是時候停下來反思一下我們在對自己做什么了。
二
卡爾的這本書不涉及機械、自動化軟件的技術(shù)細節(jié)，它也不對硅谷的創(chuàng)造力唱贊歌（市面上這樣的書實在太多了）。他寫的是人類與自己創(chuàng)造的自動化技術(shù)一同生活的經(jīng)驗（對于自動化技術(shù)卡爾的定義就是“讓機器、軟件為我們做事情”）。在當(dāng)代社會，我們體驗到的自動化很豐富且多元：從體檢時醫(yī)生問的問題到建筑物的設(shè)計再到自動化武器裝備（它還有一個非常引人注目的名字，“機器人殺手”，“killer robots”）再到無人駕駛汽車。毋庸置疑，自動化在許多方面令我們的生活更安全，更便捷。
然而，我們從卡爾對自動化所做的廣泛考察可以看到，接受電腦自動化會在認知、生理、政治、經(jīng)濟、道德上引發(fā)不可小覷的后果。在《玻璃籠子：自動化和我們》中，卡爾探討了我們與科技走近背后令人意想不到的后果，這也是他的舊作《淺灘》（The Shallows）所探討的主題。自動化有兩面，一面是無縫對接、便利和高效，另一面則是無意的設(shè)計漏洞、錯誤假設(shè)，最壞的即是對人類的屠殺。
以飛機駕駛艙自動化為例�？栐敿毥榻B了空客A320的設(shè)計，談及它的電傳操縱系統(tǒng)（fly-by-wire）及“玻璃座艙”（glass cockpit）所提供的顯示器和旋鈕讓飛機進入了數(shù)字時代；許多之前需要機組人員操作的任務(wù)，如控制空速和俯仰，如今都可以被自動化、常規(guī)化操作。自動化大大提升了駕駛艙內(nèi)的效率，機組人員數(shù)量從4人減少到2人。但是，如同卡爾所指出的，自動化“在人的指揮與機器的反應(yīng)中間插進電腦”，“切斷了飛行員與飛機的聯(lián)結(jié)”。如今的飛行員多數(shù)時間只是在監(jiān)測許多小機器而不在操作飛機這個大機器�？栒J為，“商業(yè)飛行員已經(jīng)變成了事實上的電腦操作員。”
然而，許多研究均表明，電腦會分散飛行員注意力，一旦發(fā)生緊急事件，飛行員將不太能夠準確感知所處的情境；另外，研究還發(fā)現(xiàn)，自動化會導(dǎo)致心理運動技能（psychomotor skills，指從感知到動作反應(yīng)的過程及其相互協(xié)調(diào)的活動——譯者注）的退化，該技能是飛機繼續(xù)正常飛行的保證�？傊詣踊瘯铒w行員的認知、運動技能消退（“skill fade”，“技能消退”是一名專家使用的術(shù)語），一旦有突發(fā)狀況，這些飛行員將不能很好地憑直覺予以應(yīng)對。
隨著飛機飛行技術(shù)的提高，空難發(fā)生的次數(shù)越來越少，對于這點卡爾樂于贊同。但是他發(fā)現(xiàn)，好消息并不是全部，也有壞消息：自動化也導(dǎo)致了新型事故。一架美國大陸聯(lián)線（Continental Connection）的班機于2009年在靠近紐約州布法羅市的地點墜毀，美國國家運輸安全委員會在對此事故的調(diào)查報告中指出，駕駛艙內(nèi)的警報響起之后，機長“應(yīng)當(dāng)給出不假思索”的反應(yīng)。然而，兩位機師卻茫然無措，他們因缺少情境感知能力，應(yīng)對失措，最終導(dǎo)致飛機墜毀，機上人員無人生還。2009年夏，法航447在從里約熱內(nèi)盧飛往巴黎的途中墜海，機組成員及乘客全部遇難，在此次墜機事故中機組成員亦表現(xiàn)出類似的茫然無措。
再回到地面上來。研究人員發(fā)現(xiàn)“自動化偏見”會干擾醫(yī)療人員：對放射科醫(yī)生的一項研究表明，當(dāng)醫(yī)生們依靠自動化軟件分析病人的掃描結(jié)果時他們更可能忽視某幾類癌癥。與之相似，有些醫(yī)生使用自動化的電子病歷記錄病人信息，最后，他們花費大量時間在電腦屏幕上，與病人互動的時間就這樣被占用掉，如此一來，一些能夠在與病人互動中發(fā)現(xiàn)的細微癥狀便被醫(yī)生遺漏掉，于診斷病情不利。研究者在退伍軍人事務(wù)部下屬的一間診所中做了一項調(diào)查，那里的病人表示，因為檢查間電腦的存在，他們來到這里“感覺不到太多人味”。
不同領(lǐng)域的知識工作者都在使用自動化的“決策支持系統(tǒng)” ，數(shù)據(jù)處理在逐漸取代“老套”的人工判斷，在更高效率的名義下，人類的自主性被剝離。我們讓自動化技術(shù)來替我們完成愈來愈多的認知工作，針對這點卡爾引用了科技史學(xué)家喬治·戴森（George Dyson）極有挑釁意味的問題：“我們獲得智能機器的代價難道就是培養(yǎng)愈發(fā)愚蠢的人類么？”
三
思考的過程離不開頭腦，也離不開身體。當(dāng)我們剛開始學(xué)習(xí)走路然后跑步，或者剛學(xué)習(xí)游泳、騎車，反復(fù)的努力以及失敗帶來的痛苦體驗最終讓我們學(xué)會做到頭腦與身體的協(xié)調(diào)一致。在書的前面，卡爾描述了自己年輕時學(xué)習(xí)駕駛安裝標準變速器汽車（standard transmission car）的經(jīng)歷：經(jīng)過許多次拋錨，離合器打滑，齒輪摩擦，他的技能逐漸提高，最終學(xué)會了開車。我們在別人一步步教授下學(xué)習(xí)的知識叫做“顯性知識”（explicit knowledge），卡爾所獲得的那種知識叫“隱性知識”（tacit knowledge）；“顯性知識”的習(xí)得過程清晰明確，而“隱性知識”的習(xí)得過程則十分模糊，然而后者的重要性不亞于前者。正是因為“隱性知識”的存在，一個人哪怕20年沒有碰過自行車，拿到車子照樣會騎。
卡爾認為，自動化正在阻撓我們習(xí)得“隱性知識”。因為自動化的存在，許多事情做起來都變得很容易，我們因而失去了獲取“隱性知識”的機會。這點即使在創(chuàng)意領(lǐng)域，如建筑行業(yè)，也十分明顯。不久以前，手繪還是訓(xùn)練設(shè)計能力的核心；然而現(xiàn)在，沒有哪家建筑公司會聘用一個不會熟練使用電腦輔助設(shè)計（CAD）軟件的人，而這種軟件幾乎可以替代手繪。
CAD可以很好地輔助人們做出非凡的建筑設(shè)計，有些人會說它能夠促使人們習(xí)得一種新的“隱性知識”，這種“隱性知識”可以讓建筑師與軟件“合作”，做出光靠手繪所無法完成的設(shè)計�？栐跁姓劶皟晌恢ㄖ䦷焸愖�·皮亞諾（Renzo Piano）和邁克爾·格雷夫斯（Michael Graves）對此發(fā)表的意見。這兩位建筑師雖然都極有創(chuàng)意地在自己的設(shè)計中運用軟件，但他們依然對手繪經(jīng)驗的缺失表示擔(dān)憂；他們強調(diào)，實際的繪圖工作能夠確定建筑物最終的外形。“繪圖不是最終的結(jié)果，它是我們做建筑設(shè)計中思維過程的一部分。” 邁克爾·格雷夫斯說。
CAD與其他形式的自動化相似，它因為強調(diào)效率，所以自然會鼓勵操作者執(zhí)行某些行動而不執(zhí)行另外一些行動；另外它不鼓勵開放式設(shè)計以及富有創(chuàng)意的探索。倫佐·皮亞諾曾將CAD比喻為“玩具鋼琴，你按一個鍵，它就開始彈恰恰，過一會兒又彈倫巴。”CAD軟件雖然不是有意搞破壞，但是其中內(nèi)置了許多我們很少質(zhì)疑的偏見，其他許多被自動化了的事物也是如此。卡爾如是警告道：“當(dāng)自動化使我們遠離我們的工作，當(dāng)它夾在我們與世界之間，我們的生活將不再有技藝。”
現(xiàn)代的自動化還奪走了我們的工作。盡管從盧德分子（Luddites，指19世紀抗議并破壞替代勞動力的機械的英國紡織工匠——譯者注）砸毀第一臺機械化織布機開始，科技進步導(dǎo)致的失業(yè)一直令人們感到恐懼，但是卡爾令人信服地指出，當(dāng)下的情況與此前都不相同：“機器取代工人的速度超過經(jīng)濟增長從而創(chuàng)造新的制造業(yè)崗位的速度。隨著工業(yè)機器人變得愈加便宜，工作能力愈加嫻熟，消失的就業(yè)機會與新增的就業(yè)機會數(shù)量之間的差距幾乎肯定會擴大。”
從雇主的角度來看，這很合乎常理。機器是完美的員工，機器不會生病或抱怨或?qū)ν逻M行性騷擾（至少目前還沒有）；偶爾的軟件升級也比人類員工所要求的健康保險和養(yǎng)老金便宜不少�？墒�，盡管我們會因為經(jīng)濟學(xué)家的發(fā)言周期性地感到焦慮，我們總體還是對這樣的趨勢所可能產(chǎn)生的影響無動于衷；毋庸置疑，這是因為我們這個民族長久以來對科技抱有熱情。卡爾引用認知科學(xué)家唐納德·諾曼（Donald Norman）的論述：“以機器為中心的視角將人與機器進行對比，這種對比的結(jié)果就是，人有太多不足，人無法完成精確、重復(fù)、準確的活動。”
四
我們沒有讓機器變得更像人，卻似乎執(zhí)意要讓人類的制度更接近機器。自由放任主義的道德觀根植在硅谷的科技樂觀主義世界觀之中；它視目的高于手段，它認為政治過程是一個需要被克服的問題，而非達成民主的解決方案的途徑。創(chuàng)立Uber和亞馬遜這樣“有求必應(yīng)”類型企業(yè)的人對僵化的參議院小組委員會的聽證會和具有黨派色彩的政治談判不會有耐心。有時候他們看起來對人類都沒有耐心，如果一架無人飛機做的事和人一樣好，那么為何不用無人飛機而用人？
這種文化上的不耐煩不僅限于硅谷，它蔓延的范圍很廣。曾任奧巴馬政府官員的彼得·奧斯?jié)筛瘢≒eter Orszag）之前主張在決策上應(yīng)當(dāng)增強“自動化程度”，從而避免僵局。此其一例�？栒J為，我們往往熱衷接受那些可以替代我們完成某些活動的科技，對那些幫助我們更好完成這些活動的科技則不感興趣；另外，解決人類問題的過程往往就是混亂的，可我們總是沒有足夠耐心堅持到最后。盡管卡爾并沒有直截了當(dāng)?shù)卣f出來，可實際上他在試圖回答這樣一個關(guān)乎存在（existential）的問題：我們對自動化科技盲目的信念是否意味著我們對人類判斷力不斷加深的不信任？我們對機器，對算法的熱情持續(xù)升溫著，因為在這些據(jù)說無情而公正的機器的幫助下，我們內(nèi)心的焦慮和責(zé)任感可以不再由我們自己承擔(dān)。（我不給那個員工升職是因為我的決策支持軟件預(yù)測他在這個崗位上干不好工作。）我們對機器寄予了太多虛妄的希望，同時又強烈地拒斥承擔(dān)個人責(zé)任。
政治關(guān)乎信任，從根本上說，自動化也關(guān)乎信任：我們信任機器以及制造它們的技術(shù)人員，我們信任可以控制它們的政府系統(tǒng)，我們信任自己可以明智得使用它們。但是這些信任是建立在一個假設(shè)之上，即：這些科技在道德上是中立的�？栐跁刑峁┝祟~外證據(jù)，這些證據(jù)表明，認為自動化在道德上具有中立性實在只是陳詞濫調(diào)，應(yīng)當(dāng)被丟棄。自動化與許多其它科技一樣，它既不是中立的也不一定是有益的。卡爾在書中提到所謂“替代神話”（substitution myth）：“一個節(jié)省人工的策略并非僅僅只是對該工作的某個孤立部分的替代，它會改變整個任務(wù)的性質(zhì)，改變所有參與者的角色、態(tài)度和技能。”
再者，在這個自動化簡易的世界，人命更會將事關(guān)倫理的決策交給機器來做。今天的自動化已達到的成熟程度令機器不再只是提供信息，而是可以提供或明確或暗示的判斷；我們變得越發(fā)能夠接受可以復(fù)制人類決斷能力的機器，比如醫(yī)生診斷病情的能力，飛行員將飛機降落地面的能力。至于自由意志，那些連道德判斷都讓機器代勞的人則根本不需要。在不遠的未來，一個刑事被告人會說：“是算法的錯，是它讓我干的！”這不是完全不可能的畫面。
最終，自動化技術(shù)將越來越不像一個樂于助人的銀行出納員，倒是越來越像放高利貸的——有一些已經(jīng)變得如此了。在亞馬遜的網(wǎng)站上，預(yù)測算法為你推薦你可能想買的書；但是假釋裁決委員會也用它來決定是否該給犯人自由。自動化技術(shù)可以輕易被設(shè)計來誤導(dǎo)其目標人群，另外它還能極為輕巧地躲避使用者的監(jiān)管，機器中無論硬件或軟件里發(fā)生什么，這些人都不會知道。我們想生活在一個由機器提供粗劣的道德判斷的世界嗎（在這個世界，“直覺將被聰明才智取代”）？如果這意味著公正的效率，風(fēng)險的降低，我們中間很多人會說想。
但是我們不能生活在這樣的世界�？柕臅呀�(jīng)告訴我們，選擇自動化不只是個人或者商業(yè)上的決定，它還是道德上的決定。如果不假思索地接受自動化，我們的人性將一點點墮落——一千個應(yīng)用程序足以令人性滅絕。“我們的數(shù)字神明希望我們視勞作為雜役，可是對我們的身體健康、快樂、幸福而言，這些勞作可能是至關(guān)重要的，”卡爾提醒道。
如果二十世紀以前我們頌揚自力更生的精神，到了二十世紀我們贊美自我表達，那么在二十一世紀，我們應(yīng)當(dāng)贊賞的是自我控制。這個世界有那么多便利與安逸，我們也就更需要強大的自控力。“刷劇”（binge-watch）、“信息過載”（information overload）這樣的詞匯很好地揭示了我們現(xiàn)在這個特殊的文化時刻。我們依賴著機器，我們期望機器能夠為我們做什么，應(yīng)該為我們做什么：比如保證我們的安全，讓我們的生活更加便利，幫助我們更好地與人交往�？柡軗�(dān)憂，這些技術(shù)會讓我們陷入習(xí)得性無助（learned helplessness）。我們不再承擔(dān)個人責(zé)任，而是將其交到硅谷的技術(shù)人員手中，這時的我們對技術(shù)人員是“恭順”的。“恭順”，是的，卡爾這個詞用的沒錯。技術(shù)不再只給我們提供引導(dǎo)，而是像成了我們的主子，控制著我們�？柺炙岢貑柕溃�“我們究竟要退到什么地步？”
五
卡爾能夠十分冷靜并慎重地處理自己的素材，這是他作為一名批評家最大的優(yōu)勢，這點在針對科技的爭論上尤其罕見。他的寫作風(fēng)格既不會蠻不講理，也不會絮絮叨叨。讀卡爾博客的人都知道他機敏、睿智，我希望在這本書里更多得看到這點。另外他很擅長言簡意賅地挑明問題，比如他說：“自動化的問題是：它常常給的是我們不需要的東西，然而我們卻要為此犧牲掉我們真正需要的。”
但是其實卡爾應(yīng)該對我們更嚴厲些。比如，卡爾談到佩戴谷歌眼鏡之類的穿戴設(shè)備會讓我們“失去存在于當(dāng)下的力量”，因為我們會不斷去查看眼前屏幕上的東西；這里，卡爾沒有對我們大加責(zé)難�？栒f得沒錯，我們?yōu)榱双@取一些信息，情愿戴上谷歌眼鏡或者強迫性地反復(fù)查看智能手機，我們?yōu)榇藖G失了“存在于當(dāng)下的力量”，對他人的情感也視而不見。自從移動科技到來以后，我們便一直在做這樣的取舍，我們這樣做不是因為我們處于“虛假意識”（false consciousness）之中。我們心甘情愿、興高采烈、荒唐可笑地去這樣做，從來沒有考慮過我們付出的代價。“當(dāng)我們將自己復(fù)雜的活動自動化以后，我們也將自己的道德選擇自動化了。”卡爾提醒我們道。
卡爾十分擅長在灰色區(qū)域中一探究竟，許多難以明確度量的東西因為自動化而丟失，他在書中將其一一為讀者闡明。他這樣寫道：“（因為自動化的影響），我們的個人努力以及在一些事情上的參與機會被剝奪，我們的決定權(quán)與自主性被削弱，我們的技能出現(xiàn)細微的衰退，這些代價怎么去衡量？無法衡量。”但是可以通過細致的研究和洞察力做好基礎(chǔ)工作，以便提出正確的問題，而卡爾的新作正很好地做到了這點。
卡爾對自動化表示的種種擔(dān)憂在科技迷看來不值得一提，在他們看來，一個頌贊長柄鐮刀為高超工具的人只會是出于絕望才會有這樣的擔(dān)憂（他的確對長柄鐮刀有過稱頌，但那是在羅伯特·弗羅斯特【RobertFrost】的一首詩的情境下做出的稱頌）。但是正如卡爾所指出的，只有真正的懷舊者才會認同這樣的說法，“新東西總比舊東西能更好地幫我們實現(xiàn)我們的目的和意圖。”認識到自動化潛在的危害不是要我們將機器人丟棄不用，而是要我們制定出一些原則，并在其引導(dǎo)下運用自動化技術(shù)。
各類應(yīng)用程序、各種小設(shè)備及其軟件都很喜歡對我們發(fā)號施令，但是它們在道德上都是近視的。不過也不奇怪，它們的發(fā)明者還相信用無人駕駛飛機送玉米餅就可以改變?nèi)祟�。我們想聽什么話，他們就說什么；比如蘋果CEO蒂姆·庫克發(fā)的一條推特：你比你自己想象的更強大。真的？我們總是期望科技能為我們做更多事情：管理我們早晨的通勤，給我們推薦館子，給館子打分；卡爾的書提醒我們，我們應(yīng)該對自己有更高期望。但他也很清楚，在使用工具和被工具使用之間尋找平衡并非易事。“一個制作精良，使用得當(dāng)?shù)墓ぞ咚械膬r值不僅僅在它為我們提供了什么，也在于它在我們身上留下了什么。”他如是寫道。
卡爾希望我們在眼下這條技術(shù)發(fā)展的道路沒有走太遠，我們還能夠停下來想想，一個自動化程度更高的世界會是什么樣子。至少，他希望技術(shù)人員在設(shè)計硬件和軟件時可以更細致，希望制造它們的公司可以承擔(dān)更多責(zé)任，畢竟我們中間許多人會花很多時間在它們上面。我（準確的說，是那個“刷劇”、悲觀、懷疑的我）擔(dān)心，技術(shù)消費者對更細致的設(shè)計、公司承擔(dān)更多責(zé)任等等不會有太大興趣。
鑒于我們對技術(shù)造成的意想不到的后果記憶不深，保持懷疑態(tài)度于是就很重要了。2014年9月，華盛頓的地鐵系統(tǒng)宣布，到2015年3月其“紅線”（華盛頓地鐵有紅、橘、藍、黃、綠五條線路——譯者注）將實現(xiàn)自動化，到2017年秋將實現(xiàn)剩余四條線路的自動化。當(dāng)?shù)毓賳T對建立在如此精密技術(shù)之上的鐵路系統(tǒng)的效率及安全性表示贊賞�！度A盛頓郵報》就此事采訪了2009年華盛頓地鐵撞車事故中年紀最小遇難者的姨母，她回答：“不能把人命交到電腦手上，實在太不值得了。”
