我看見的世界(56)_李飛飛

五六

　　「比如物體識別，真實世界中的物體識別。」無論吉滕德拉對ImageNet有什麼看法，他的確相信視覺分類的力量，這一點我在加州理工學院時就瞭解到了，「你參加過PASCAL VOC嗎？」

　　「參加了啊。但沒什麼用，他們的數據集太小了，例子不夠，所以我們給神經網絡展示新圖片的時候，泛化效果並不好。」

　　「那你就需要更大的數據集。你關注過飛飛的實驗室嗎？等你準備好迎接真正挑戰的時候，可以看看她組織的比賽。」

　　不管吉滕德拉是真的對我的項目改變了看法，還是只是想打老朋友的臉（這兩種情況似乎都有可能），辛頓都認真地聽取了建議。

　　每一個翻騰的思緒似乎瞬間彙聚，讓我從迷迷糊糊的旅行中清醒過來，我突然想到了一件事：神經網絡與ImageNet對世界的呈現是天然的契合。回顧過去，楊立昆的網絡與筆跡識別相得益彰。他的網絡對筆跡進行分析，從最小的像素簇到筆觸的紋理，再到完整的數字，在每個分析尺度上都發現了有意義的模式。這是從數據中自發產生的感知流暢性，自然而然地形成了意識的層次。休伯爾和威塞爾在貓的視覺皮質中看到了同樣的現象。而在加州大學伯克利分校的實驗室裡，我們看到了更深層次的理念。神經網絡一直都能進行物體識別，但直到現在，它們才具備了實現目標所需的計算能力。

　　ImageNet的數據廣泛而全面，覆蓋了世界上絕大多數物體。現在看來，AlexNet和ImageNet也屬於相互成就。簡而言之，這就是最大的不同——現在算法可以探索的數據範圍大大增加了。一想到訓練完成後AlexNet的層級中包含的內容，我就驚歎不已：形狀、邊緣、圖案、紋理，涵蓋我們多年來從互聯網上捕捉到的所有人物、動物和物體。現實世界中幽靈般的碎片，以恰到好處的方式組織起來，供算法來查看。

　　＊

　　飛機抵達佛羅倫薩，機輪觸地，飛機輕輕地顛簸著。我仍然難以相信AlexNet就是我們夢寐以求的進步。這個飛躍似乎太大了。但我越想越覺得它具備每一個偉大突破的特徵：瘋狂的外表包裹著一個有意義的想法。

　　※

　　第二天一早，消息就傳開了。據傳，會上將宣佈一個具有歷史意義的事件。這些含糊不清的傳言激起了與會者的好奇心。當我到達時，研討會現場已經人滿為患，楊立昆本人不得不靠後牆站著，因為他稍微晚了幾分鐘，沒能找到座位。

　　從研討會開始的那一刻起，現場的氣氛就異常緊張，人群分成了三派。第一派是ImageNet的少數支持者，包括我、亞曆克斯·伯格和辛頓實驗室的成員。第二派占絕大多數，由中立但感興趣的觀察者組成。第三派雖然人數不多，但態度強硬，也最直言不諱。他們是那些從早期就反對ImageNet理念的批評者，雖然我通常不理會他們的態度，但在會議現場很難忽視他們的存在。

　　更糟糕的是，我們並沒有形成統一戰線。辛頓無法親自參會，因為他長期患有背部疾病，幾乎不可能進行國際旅行，所以他派了亞曆克斯·克裡熱夫斯基代他出席。亞曆克斯非常有才華，也是算法的主要作者，所以可以代替辛頓。但就像許多傑出的人一樣，他的個人表現與他工作成果的高度並不相符——我不確定他是否完全理解這一點。他的表現笨拙而輕率（這在學術界並不罕見）。一個典型的例子是，我在研討會開始前多次給他發短信確認會面時間，但他完全沒有回應（但幸好，他按時到了現場）。由於聽眾的懷疑態度空前高漲，他只擺事實、不帶情感的演講更難贏得他們的認同。

　　提問環節一開始，現場的緊張氣氛就越來越濃。我們聽到了所有常見的抱怨：ImageNet太大了，不實用；沒有必要包含這麼多類別；物體識別模型還太原始，不需要如此龐大的數據集；等等。事實上，AlexNet幾乎是逐點證明了相反的觀點，但奇怪的是，觀眾卻不信服。同時，也出現了一些新的批評聲音，有些甚至非常離譜。一位與會者（來自頂尖大學的後起之秀）煞有介事地提出，描繪T恤的圖片類別多樣性不夠，因而無法可靠地訓練模型。對此我更多的是感到好笑。是認真的嗎？T恤圖片是致命弱點？會議現場的其他人也都一頭霧水。

　　但那些認真傾聽的人得到了回報。在27張幻燈片中，大多數只有黑白文字和圖表，卻以我們從未見過的清晰方式展示了神經網絡的本質，極具啟示性。繼羅森布拉特的感知機、福島的新認知機和楊立昆的LeNet之後，AlexNet實現了計算機視覺領域的新跨越。這一步早就應該邁出，卻歷經了數十年的醞釀，現在終於橫空出世，利用大型數據集充分彰顯了潛力。

　　尤其值得注意的是AlexNet的學習過程。

　　與所有神經網絡一樣，AlexNet的初始狀態是無形的、惰性的，就像虛空中的一塊掛毯。然後，學習過程就開始了：面對從ImageNet庫中隨機選擇的圖片，神經網絡的任務是從上千個標簽中選擇一個正確的標簽，對圖片進行標注。這個過程周而復始，不斷重複。一開始，標注幾乎是不可能完成的任務；AlexNet的數千萬個神經元是隨機配置的，對世界甚至連一點兒模糊的理解都沒有，只會產生錯誤的結果。把一張蘑菇圖片標注為「瓶蓋」。錯誤。把一張拖車圖片標注為「電吉他」。錯誤。把一張棱皮龜圖片標注為「浴巾」。錯誤。

　　但失敗並非無用功。錯誤會觸發糾正信號，在網絡的數千萬個組成部分中蔓延開來，同時對每個部分對於結果的貢獻進行評估，並按比例推動它們下次採取不同的行動。這是最簡單的學習方式：減少失敗的行為，增加成功的行為。但學習的規模極大，算法會仔細審查每個錯誤的每個細節：每一片光影、每一個圖案和紋理、每一個柔和的漸變和堅硬的邊緣。

　　在早期階段，效果並不明顯，當AlexNet再次看到類似它之前錯誤分類的圖片時，很可能會再次出錯。不過，錯誤會更小一些。如此循環往復，直到正確為止，哪怕只是靠運氣。這一次，信號的目的是強化，而不是削弱：強化任何看似指向正確方向的東西。訓練繼續進行。錯誤。錯誤。錯誤。正確。錯誤。錯誤。正確。正確。錯誤。

學達書庫(xuoda.com)