但是人類對電腦自動化的依賴程度不斷加深，可能要付出高昂代價。令人不安的證據(jù)表明，在我們越來越依賴于各種人造物以后，人類自身的智能正在變?nèi)�。智能軟件似乎不能提高我們的智能，而是令我們變蠢了�?/div>
自動化的歷史
這是一個緩慢的過程。第一波自動化浪潮始于二戰(zhàn)后，制造業(yè)開始在工廠安裝電子控制設(shè)備，從而顯著提升了生產(chǎn)效率和企業(yè)利潤。不僅如此，自動化被譽為是解放者，讓被替代的工人得以從事更有活力的工作，發(fā)揮更有價值的才能。
然后到了 1950 年代，哈佛商學院的 James Bright 教授開始研究自動化在不同行業(yè)（從重工業(yè)、煉油業(yè)到面包烘烤等）中收到的實效。結(jié)果他發(fā)現(xiàn)，工廠情況并未得到好轉(zhuǎn)。新機器并沒有把人往上趕，而是往往把人擠到了更單調(diào)乏味、要求更低的崗位。比方說，自動化銑床并沒有把金屬加工工人變成了富于創(chuàng)意的藝術(shù)家，而是把他變成了一個按按鈕的人。
Bright 因此得出結(jié)論認為，自動化對工人產(chǎn)生的最重要效應不是“提升技能”而是“去技術(shù)化”。“經(jīng)驗教訓越來越清晰，”他在 1966 年寫道：“高度復雜的設(shè)備并不需要熟練的操作者，技能已經(jīng)被植入到機器里面了。”
自動化浪潮開始席卷一切
今天，我們正在更廣的范圍內(nèi)再次感受到這一教訓。隨著軟件擁有了分析和決策能力，自動化已經(jīng)飛躍出了工廠，進入到白領(lǐng)世界。電腦正在接管長久以來被認為是受到過良好教育以及訓練有素的專業(yè)人士才能從事的知識工作：飛行員得靠電腦開飛機；醫(yī)生要向它們請教診斷結(jié)論；建筑師用它們來設(shè)計建筑。自動化的這波新浪潮席卷了每一個人。
電腦并沒有奪走了有才能的人的所有工作，但是卻改變了工作的完成方式。專業(yè)技能同樣的去技術(shù)化跡象正在不斷累積，甚至連高度專業(yè)的領(lǐng)域亦是如此。今天的電腦操作者就像昨天的機器操作者。
比方說天上的自動駕駛。發(fā)明 1 個世紀以來，自動駕駛已經(jīng)讓飛行更高效更安全。隨著 1970 年代電腦化“飛控系統(tǒng)”的引入，這一趨勢仍在延續(xù)。但是現(xiàn)在航空專家擔心我們走得太遠了。我們已經(jīng)把太多的駕駛艙任務交給了電腦，以至于飛行員正在失去優(yōu)勢，并開始出現(xiàn)英國飛行研究者 Matthew Ebbatson 所謂的“技能退化”。
2007 年，準備博士論文的 Ebbatson 對一組飛行員進行了一項實驗。實驗內(nèi)容是讓飛行員在飛行模擬中做出一項難度很高的機動動作—讓引擎失效的波音飛機在惡劣天氣下著陸，希望借此評估一下這些人的技能（比方說評估空速的精確度等）。
隨后他把類比結(jié)果與飛行員的實際飛行記錄進行了對比。對比發(fā)現(xiàn)飛行員對控制的熟練程度與該飛行員最近手工操作飛機的時間具有緊密聯(lián)系（注：熟能生巧嘛，這個研究似乎多此一舉）。越是不需要頻繁練習的可容錯操作，技能就退化得越快�？墒乾F(xiàn)在飛機的起飛和降落大部分已經(jīng)由電腦包辦了，因此這兩塊恰恰正是飛行員缺乏練習的地方。
自動化帶來的危機浮現(xiàn)
而人工作業(yè)能力的一點點退化都可能造成悲劇事故。手藝生疏的飛行員更有可能在緊急情況下犯錯。最近的多次飛行事故均牽扯到自動化相關(guān)的飛行員人為錯誤，其中就包括 2009 年美國大陸航空 3407 航班在布法羅的墜機事故以及法航 447 在大西洋的墜機，還是就是 2013 年韓亞航空在三藩市的著落失敗事故等。
去年，美國聯(lián)邦航空管理局（FAA）駕駛艙技術(shù)特別調(diào)查小組發(fā)布了一份報告，報告記錄了墜機與過度信賴自動化之間存在著越來越多的關(guān)聯(lián)。飛行員已經(jīng)“習慣于先觀察發(fā)生了什么事情再去做出反應而不是保持前瞻性。”現(xiàn)在 FAA 已經(jīng)敦促航空公司要讓飛行員花更多的時間去聯(lián)系人工作業(yè)。
軟件改進后，使用軟件的人也就不大愿意去磨練自己的專門技能。這應該歸咎于那些提供了大量提示的應用；而那些不那么熱心的、更簡單一些的應用卻會促使人更努力去思考、移動和學習。
10 年前，荷蘭烏特勒支大學的資訊科學家讓一群人執(zhí)行復雜的分析和規(guī)劃任務，這些人有的用不提供任何輔助的基本軟件，有的則用提供了大量輔助的復雜軟件。研究人員發(fā)現(xiàn)，使用簡單軟件的人反而制定出了更好的策略，所犯錯誤更少并且形成了更出色的工作技能。而使用更先進軟件的那些人往往卻在遭遇棘手問題時“毫無目標地亂點鼠標”。本該是有說明的軟件實際上卻令這部分人頭腦短路，不懂學習。
加州大學伯克利分校的哲學家 Hubert Dreyfus 在 2002 年寫道，人類的專門知識是“經(jīng)歷了各種情況后而形成的，觀察角度都是一樣的，但是需要不同的策略決策。”換句話說，熟能生巧，只有不斷地使用這些技能才能克服各種不同的挑戰(zhàn)。
相反，現(xiàn)代軟件的目標則是讓我們輕松面對這些挑戰(zhàn)。艱苦、費力的工作正是程序師渴望自動化的—畢竟這是立竿見影的東西。換言之，進行自動化的人的興趣點以及做工作的人的興趣點之間存在著根本性的緊張關(guān)系。
當自動化進入了醫(yī)療產(chǎn)業(yè)
但無論如何，自動化的范圍還在繼續(xù)擴大。電子病歷的推廣使得醫(yī)生越來越依賴于在軟件范本的指導下進行病人身體檢查。軟件引進了有用的檢查清單和告警資訊，但是也使得醫(yī)學愈發(fā)的程序化，并且疏遠了醫(yī)生與病人之間的距離。
2007-08 年間，紐約州立大學奧爾巴尼分校的 Timothy Hoff 進行了一項研究，研究調(diào)查了 75 名采用電腦化系統(tǒng)進行初級診療的醫(yī)生。醫(yī)生認為軟件弱化了自己對病人的了解，令其“對診療做出明智決策的能力”受到削弱。
哈佛醫(yī)學院教授 Beth Lown 2012 年的一篇合著的期刊文章也對醫(yī)生受到“屏幕驅(qū)動”的現(xiàn)象提出了警告，文章認為醫(yī)生按照電腦指示而非病人的病情敘述進行的思考是狹隘的。最糟糕的情況有可能會導致錯失重要的診斷信號。
這種風險并非理論上存在而已。診斷雜志最近的一篇論文對美國的首個埃博拉私網(wǎng)病例的誤診進行了檢查。他們認為，醫(yī)院臨床醫(yī)生用來記錄病人資訊的數(shù)碼化范本有可能對誤診起到了誤導的作用。研究人員認為，這些工具為了能捕捉資料而進行了優(yōu)化，但卻犧牲了分類診斷的實用性，所以存在很大的局限性，導致用戶只見樹木不見森林。其結(jié)論是，醫(yī)療軟件無法替代基本的病史采集、檢查技能以及批判性思維。
過度依賴自動化造成更多問題
甚至連創(chuàng)意性的工作也不斷受到自動化去技能化的影響。電腦輔助設(shè)計說明建筑師利用不同常規(guī)的形狀和材料來構(gòu)造建筑，但是設(shè)計流程引入電腦過早的話，會損害到畫草圖和建模過程中產(chǎn)生的美學敏感性以及概念性洞見。
心理學研究已經(jīng)發(fā)現(xiàn)，通過手工能夠更好地激發(fā)設(shè)計師的原創(chuàng)力，拓展其工作記憶以及增強他們的觸感。英國開放大學的設(shè)計學教授 Nigel Cross 說，畫板就是“智能放大器”。
軟件接管的事情手工技能就衰退。芬蘭建筑師 Juhani Pallasmaa 在《The Thinking Hand》一書中指出，過度依賴電腦使得設(shè)計師更難欣賞自己建筑的那些最微妙的、最具人文素質(zhì)的地方。“電腦圖像的假精確以及顯然的有限性”限制了設(shè)計師的視野，意味著做出來的東西有可能技術(shù)上極其出色但卻缺乏情感。邁阿密大學的建筑學教授 Jacob Brillhart2011 年也寫道，盡管現(xiàn)代電腦系統(tǒng)可以不可思議的速度將一組空間轉(zhuǎn)化為精確的 3D 渲染，但也孕育出來“更多懶惰的、缺乏悟性、想像力以及情感的平庸之作。”
不過我們未必一定要聽任這種情況發(fā)展。自動化不需要消除我們工作面臨的挑戰(zhàn)，不需要消滅我們的技能。那些損失源自人類工程學者等其他學者所謂的“以技術(shù)為中心的自動化”，這種設(shè)計哲學統(tǒng)治了程序師和工程師的思維。
系統(tǒng)設(shè)計師在開始專案的時候，首先考慮的是電腦的能力，想著把盡可能多的工作都交到軟件身上。而分給人類操作者的則是剩下的事情，這些事情往往是相對被動的雜事，如輸入資料、跟著范本做以及監(jiān)視屏幕等。
這種哲學讓人掉進了去技能化的惡性循環(huán)。通過讓人與艱苦工作隔絕而鈍化了人的技能并增加了犯錯的幾率。而一旦那些錯誤發(fā)生后，設(shè)計師的應對措施反而是進一步限制人的責任，從而導致新一輪的去技能化發(fā)生。
由于流行技術(shù)“強調(diào)技術(shù)需求勝過人的需求，”所以迫使人“進入到一個支撐的角色，但這種角色正好是我們最不擅長的角色之一，”加州大學學圣地牙哥分校的認知科學家以及設(shè)計研究者 Donald Norman 這樣寫道。
不過這里有一個替代方案。
自動化應為輔助而不是主要決策
“以人為中心的自動化，”人占據(jù)優(yōu)先位置。系統(tǒng)在設(shè)計上把人類操作者放在一個工程師所謂的“決策環(huán)”—即移動、回饋及判斷的持續(xù)過程上。這會讓工人時刻留意、參與和促進了此類可強化技能的挑戰(zhàn)性任務。
在這種模式下，軟件扮演的是一個必不可少但卻是次要的角色。這次它接管的是人類操作者早已掌握的常規(guī)職能，當非預期情況發(fā)生時發(fā)出告警，提供即時資訊來拓展操作者視野，并抵制往往歪曲人類思維的偏差。這時候技術(shù)變成了專家的合作伙伴而不是取代專家。
把自動化推向一個更加人性化的方向并不需要任何技術(shù)突破。只需要優(yōu)先次序的轉(zhuǎn)移并重新關(guān)注于人類的優(yōu)勢和劣勢。
比方說，航空公司可以在飛行期間設(shè)定控制權(quán)在電腦和飛行員之間不斷轉(zhuǎn)移。通過讓飛行員保持警覺和活躍的方式來讓飛行更加安全。
而會計、醫(yī)療等專業(yè)領(lǐng)域，軟件遠可以不用侵擾太多，給人留出更大的空間來實踐和做出判斷，而不是給出演算法推導出來的建議。
愛荷華大學的 John Lee 認為，知識工作的電腦化可以采取一致不那么自動化的方案，讓自動化擔任操作者的評判者的角色，相對而言，這種方法比用機器計算來替代人類判斷的做法要成功得多（例子參見Google想出了一個決定晉升的演算法，然后……就沒有然后了）。最好的決策支持系統(tǒng)向?qū)I(yè)人士提供的是“替代性的解釋、假設(shè)或選擇。”
以人為中心的自動化并不對流程做出限制。相反，它引導流程進入到一條更加人文主義的路徑，給一種太常見的推崇電腦厭惡人類的世界觀提供了一劑解毒劑。
以人為本的最令人興奮的例子之一是所謂的自我調(diào)整自動化。它采用了先進的感測器和解釋演算法來監(jiān)控人的身體和心理狀態(tài)，然后利用這一資訊來實現(xiàn)任務和責任在人與電腦之間的轉(zhuǎn)移。一旦系統(tǒng)感覺到操作者掙正在與某一困難的任務做斗爭時，就會分配更多的任務給電腦，讓操作者避免分心。而當系統(tǒng)感覺到操作者興趣正在減弱時，系統(tǒng)就會增加此人的工作量以便提高其注意力并開發(fā)他們的技能。
人類在進步與退步之間的抉擇
電腦令人贊嘆。但我們不能讓這種狂熱導致我們低估了自己的才能。哪怕是最聰明的軟件也缺乏熟練專業(yè)人士的常識，靈巧性以及神韻。在駕駛艙、辦公室或者檢查室內(nèi)，人類專家依然是不可或缺的。他們通過艱苦工作打磨出來的洞見、靈活性和直覺，以及經(jīng)驗豐富的對現(xiàn)實世界的判斷，是演算法或者機器人所無法取代的。
如果我們讓自己的技能隨過度依賴自動化而退化的話，我們自身的能力就會下降，越來越缺少韌性，對機器也會越來越屈從。然后創(chuàng)造出一個更適合機器人而不是人類自己的世界。
