我看見的世界(72)_李飛飛

七二

　　「老闆監視器」。

　　更委婉的說法是「員工監控系統」。這種新型軟件如雨後春筍般湧現，被廣泛用於倉庫和辦公室等場所。許多人認為這種審查會侵犯人的隱私，甚至是不人道的。雖然軟件的市場定位是提高工作效率和保護職業行為，但幾乎立即遭到了勞動者的反感，也很快成為科技媒體反復報道的話題。現在，我們甚至還沒有機會證明自己，研究工作就有可能被反烏托邦的聯想所吞噬。我們的技術是為了病人的安全，而不是為了績效考核，把我們的軟件與監視器混為一談起初讓人覺得不公平。然而，這種擔憂是可以理解的，而且事後看來，審查和監視之間的關聯確實顯而易見。這是我第一次接觸到人工智能會在公眾想像中引發恐慌的一種能力：監控能力。

　　回想往事，我們很容易忘記變化有多麼突然。那是2015年，人工智能對隱私的影響仍是大多數人關注的焦點，畢竟就在短短幾年前，圖像分類的準確性才開始接近實用的閾值。現在，像我們這樣的研究人員眨眼間就掌握了如此強大的能力，技術挑戰已經讓位於倫理挑戰。我們在醫療領域的探索則將這一切帶回了我們的實驗室。

　　「沒有人想安裝老闆監視器。」一位學生抱怨道。

　　團隊剛從露西爾·帕卡德兒童醫院悻悻而歸，他們本想在那裡完成推進試點研究的最後工作，卻出乎意料地遭遇了失敗。

　　我們的計劃是安裝一批傳感器原型，但我們請來參與實驗的各科室護士都無一例外地拒絕配合。項目嚴重受挫，但在與蘇珊交談之後，我早已有了心理準備。

　　這件事提醒我們，即使是一個明確的多學科團隊，也可能存在盲點。雖然我們的臨床醫生知識淵博，但他們更像研究人員，而不是一線的護理人員，這種區別產生了決定性影響。簡而言之，我們積累了深厚的醫療專業知識，但我們都不是護士。我和阿尼召開緊急會議，討論我們的選擇。

　　「我認為只有一條路可走，」一位醫生建議道，「護士需要跟你們的研究人員見面。她們需要真正的溝通。」

　　「是的，當然。要讓盡可能多的人參與進來。」另一位醫生說，「需要傾聽。瞭解他們的想法。」

　　第三個人附和道：「開個公開會怎麼樣？我可以幫忙組織。」

　　我心中感慨萬分，感謝上帝，感謝你們每一個人。我無法想像如果沒有阿尼和他的同事們，我們的研究該如何繼續下去。

　　「我們在IRB相關的陳述上必須嚴謹。」阿尼嚴厲地說，「我們的合作夥伴需要得到保證，任何人的隱私都不會被洩露。一次也不行。大家都清楚了嗎？」

　　IRB即機構審查委員會（Institutional Review Board），是對類似我們的臨床研究進行監管的機構。要達到他們的期望，確保研究獲得批准，需要技巧和外交智慧，更不用說豐富的臨床經驗了。從我和克裡斯托夫在加州理工學院進行的心理物理學研究開始，我對合規要求就已經習以為常，但對我大多數計算機科學的學生來說，這是一個全新的概念。這是真正的醫學研究，涉及真實的個體，需要遵循一套全新的專業規範。

　　然而，我們都沒預料到的是，我們的研究可能會超出IRB的範圍。在聽取學生們關於他們在醫院訪問的更多情況後，我們欣慰地得知，護士們並沒有特別擔心我們的研究本身；他們中的許多人已經瞭解我們，並且相信我們的動機，對我們的工作並沒有異議。他們擔心的是這項工作可能會導致的後果：這項技術將如何發展、供誰使用，以及它的影響範圍將會如何擴大。他們的疑慮是敏銳的，同時也強調了一個事實：我們面臨的挑戰是如何評估人工智能的未來，而不僅僅是它的現在——即使是IRB也沒有考慮到這一點。

　　為了確保設備無可非議，我們規定，任何採集到的數據都不得傳輸到遠程數據中心，或者上傳到「雲端」（這個術語剛剛開始被主流接受）。「雲」已經成為熱門詞匯，幾乎在任何情況下都能吸引媒體關注和風投資金，但對我們來說，它卻是一種詛咒。相反，我們不得不追求另一種新興趨勢：邊緣計算（edge computing），即把所有必要的計算資源都整合到設備中。這是我們的研究所需要的範式，但邊緣計算本身就是獨立的領域，我們對它的理解和把握還不夠深入。

　　儘管面臨巨大的工作挑戰，但我們知道複雜性是不可避免的。相比之下，從互聯網上批量下載圖片像是一段無憂無慮的時光。我們現在需要搜集的可能是能想像到的最敏感的數據：以視頻的形式捕捉人類群體真正的脆弱時刻。視頻的保真度足以訓練機器進行可靠的識別。而且，我們必須確保——必須絕對確保——從第一步開始就保護研究對象的安全和匿名，同時遵守IRB準則的高標準（這是我們從事相關研究工作所必備的常識和道德）以及《健康保險攜帶和責任法案》等法律框架。

　　我們的團隊不斷壯大。團隊建立之初就很多元化，包括工程師、研究人員和醫療政策專家，很快又加入了臨床醫生、生物倫理學家和斯坦福大學法學院的法學博士。我們的技術合作夥伴也越來越多樣化，包括傳感器專家、網絡安全專家等等，當然還有邊緣計算專家。我們雄心勃勃，願景宏大，尤其可喜的是，在我自己的實驗室與阿尼的臨床卓越研究中心（中心總部位於斯坦福大學，旨在提高醫療質量和可負擔性）的通力合作和資助下，我們的項目落地了。

　　研究的前沿依然廣闊無垠。雖然我們只回答了研究中的一小部分問題，但我們正在取得進展。最重要的是，我第一次認識到，如果將人工智能視為一門獨立的學科，就會錯失其最大的潛力。我們的研究表明，如果人工智能與其他領域相結合，並借助其他形式的專業知識進行推動，可能性就是無限的。

　　※

　　「媽媽，求你了。」

　　母親最近又做了一次手術，手術結果雖好，但康復之路格外漫長。康復的關鍵是進行肺部鍛煉，需要每天多次使用一種叫作誘導性肺量計的手持設備進行呼吸訓練。她剛剛做完手術，很容易出現肺部感染，而且可能是致命的，而使用肺量計是簡單有效的預防手段。

　　對經歷過多次心臟衰竭和腦出血，又剛接受了開胸手術的人來說，這本該是一項簡單的任務。然而，她拒絕了。當醫生向她展示肺量計時，她假裝按要求呼吸，但醫生離開後，她就把肺量計放在一邊。當護士來檢查時，她又重複著這個戲碼。當然，這一切我都看在眼裡，但無論我怎麼懇求，她都不願意配合。

　　這根本就說不通。一連幾天，我的焦慮與日俱增。我曉之以理，動之以情，但就是勸不動她。護士警告她時，她就點點頭；醫生責備她時，她就假裝服從。但她的表演並沒有改變現實：液體正在她的左肺中積聚，她必須再接受痛苦的肺積水引流手術。

　　最後，在重症監護室又住了幾周後，她從第二次完全不必要的手術中恢復過來，這場折磨終於結束了，我們把她接回了家。疲憊不堪的我們回到後院，享受了很久以來第一個安靜的下午。她不在的時候，我父親一直忽略了花園的打理；她回來後，他如釋重負，重新開始了自己的日常生活。

　　「媽媽，我想問你點兒事。」我不想破壞這份寧靜，但內心的困惑讓我無法釋懷，「還記得醫生們想讓你用的那個小工具嗎？那個肺量計？」

　　母親紋絲不動，默不作聲，但她的身體語言告訴我，她顯然不想談這件事——人在靜止狀態下卻能傳達這麼多信息，真是讓人驚訝。

　　「媽媽，我就是想知道為什麼。求你了，跟我說吧。」

　　過了一會兒，她終於開口說話了，但依然沒有看我：「我不記得了，當時藥勁很大，一切都很模糊。」

　　我知道這不是真的，但我沒辦法強迫她解釋。我沒有繼續追問，只是享受和她在一起的時光。天氣晴朗，梔子花盛開。

學達書庫(xuoda.com)