1. 從“感知”到“激活”一個被誤解的起點(diǎn)“都2021年了不會還有人連深度學(xué)習(xí)都不了解吧”——這話聽起來有點(diǎn)挑釁但背后其實(shí)是一個挺有意思的現(xiàn)象。深度學(xué)習(xí)這個詞現(xiàn)在幾乎成了科技新聞的標(biāo)配從手機(jī)上的美顏濾鏡到路上的自動駕駛好像不提點(diǎn)深度學(xué)習(xí)就顯得不夠“智能”。但如果你問一個剛?cè)腴T的朋友“激活函數(shù)是干嘛的”得到的回答很可能是“哦就是那個ReLU吧讓負(fù)數(shù)變0的那個?！?這個回答沒錯但它就像說“汽車就是有四個輪子的東西”一樣只觸及了最表面的形狀完全錯過了引擎、傳動和駕駛體驗(yàn)這些真正讓車跑起來的部分。我自己剛開始接觸神經(jīng)網(wǎng)絡(luò)時對激活函數(shù)的理解也停留在這個層面。當(dāng)時覺得反正大家都用ReLU照著論文和教程里的公式寫上去就行了。直到后來在調(diào)試一個圖像分類模型時遇到了著名的“神經(jīng)元死亡”問題——網(wǎng)絡(luò)訓(xùn)練到一半損失函數(shù)死活不降了。我花了整整兩天時間一層層地檢查權(quán)重、調(diào)整學(xué)習(xí)率、甚至懷疑數(shù)據(jù)出了問題最后才發(fā)現(xiàn)罪魁禍?zhǔn)拙褪悄骋粚永锍^一半的神經(jīng)元因?yàn)镽eLU的特性輸出恒為0徹底“死”掉了不再對任何梯度更新有反應(yīng)。那一刻我才恍然大悟激活函數(shù)根本不是個可以隨意套用的“零件”它是決定神經(jīng)網(wǎng)絡(luò)能否有效學(xué)習(xí)、學(xué)成什么樣的“靈魂開關(guān)”。所以這篇內(nèi)容我們不搞那些教科書式的羅列也不堆砌復(fù)雜的數(shù)學(xué)公式。我們就從一個從業(yè)者的視角掰開了揉碎了聊聊激活函數(shù)到底在神經(jīng)網(wǎng)絡(luò)里扮演什么角色為什么它如此關(guān)鍵以及面對琳瑯滿目的函數(shù)我們到底該怎么選、怎么用。無論你是剛剛打開PyTorch或TensorFlow的新手還是已經(jīng)跑過幾個模型但總覺得有些原理朦朦朧朧的實(shí)踐者希望這些從實(shí)際項(xiàng)目里踩坑得來的經(jīng)驗(yàn)?zāi)軒湍惆堰@塊“基石”墊得更穩(wěn)當(dāng)一些。2. 激活函數(shù)的本質(zhì)為什么神經(jīng)網(wǎng)絡(luò)不是“套娃”線性模型要理解激活函數(shù)我們得先回到一個根本問題上如果沒有激活函數(shù)神經(jīng)網(wǎng)絡(luò)會變成什么樣答案可能會讓很多人吃驚那它就退化成了一個無論多深、多寬都等價(jià)于單層線性模型的“紙老虎”。我們來做個簡單的思想實(shí)驗(yàn)。假設(shè)我們有一個最簡單的神經(jīng)元它接收輸入x乘以權(quán)重w加上偏置b輸出y w*x b。這是一個標(biāo)準(zhǔn)的線性變換?，F(xiàn)在我們把它堆疊起來做成一個兩層的網(wǎng)絡(luò)第一層輸出a1 w1*x b1第二層接收a1作為輸入輸出y w2*a1 b2。我們把a(bǔ)1代入第二個式子y w2*(w1*x b1) b2 (w2*w1)*x (w2*b1 b2)?？醋詈筮@個形式y(tǒng) W_new * x B_new。它依然只是一個關(guān)于x的線性函數(shù)無論你堆疊多少層只要每一層都只做線性變換那么所有這些線性變換的復(fù)合結(jié)果依然是一個線性變換。這意味著一個沒有激活函數(shù)的深度網(wǎng)絡(luò)其表達(dá)能力和一個單層線性回歸模型沒有任何區(qū)別根本無法擬合現(xiàn)實(shí)世界中那些彎彎曲曲、錯綜復(fù)雜的非線性關(guān)系。注意這里說的“非線性關(guān)系”是機(jī)器學(xué)習(xí)的核心。比如區(qū)分貓和狗的圖片像素值輸入和“貓”這個類別輸出之間絕不是一條直線或一個平面能劃分清楚的。我們需要的是一個非常復(fù)雜的、高維的決策邊界這必須由非線性函數(shù)來刻畫。這就是激活函數(shù)登場的根本原因引入非線性。它像一個安裝在每個神經(jīng)元輸出端的“扭曲器”或“過濾器”對線性加權(quán)和的結(jié)果進(jìn)行一次非線性加工。正是這一層看似簡單的加工讓神經(jīng)網(wǎng)絡(luò)獲得了“分而治之”和“逐層抽象”的超能力。我們可以用一個生活化的類比來理解想象你要教一個完全沒見過水果的人區(qū)分蘋果和橘子。如果只允許用線性規(guī)則比如“紅色的是蘋果橙色的是橘子”那遇到青蘋果或綠橘子就完全失效了。但如果你允許使用非線性規(guī)則——先判斷形狀是否接近球形再結(jié)合顏色紅、綠、黃等最后感受紋理光滑還是粗糙并且這些判斷可以層層組合“球形且紅色且光滑”大概率是蘋果那么識別的準(zhǔn)確率就會大大提升。激活函數(shù)就是允許每個神經(jīng)元做這種“非線性判斷”的數(shù)學(xué)工具。第一層的神經(jīng)元可能學(xué)會檢測一些簡單的邊緣和色塊輕微的非線性第二層的神經(jīng)元組合這些邊緣可能學(xué)會檢測眼睛、鼻子等部件更強(qiáng)的非線性更高層的神經(jīng)元再組合這些部件最終形成“貓臉”或“狗臉”的概念高度復(fù)雜的非線性。沒有激活函數(shù)這一切層次的抽象和組合都無法實(shí)現(xiàn)。所以下次當(dāng)你看到output relu(conv2d(input, weights) bias)這樣的代碼時心里應(yīng)該明白那個relu()絕不僅僅是一個“計(jì)算步驟”它是整個網(wǎng)絡(luò)能夠從數(shù)據(jù)中學(xué)習(xí)復(fù)雜模式的能力源泉。選擇不同的激活函數(shù)就是為網(wǎng)絡(luò)選擇了不同的“非線性加工廠”直接影響著信息流動的方式、梯度傳播的效率和模型最終學(xué)習(xí)到的特征表示。3. 激活函數(shù)演化史從Sigmoid的輝煌到ReLU的統(tǒng)治理解了激活函數(shù)的必要性我們來看看它的發(fā)展歷程。這不僅僅是一段技術(shù)編年史更是一面鏡子映照出人們對神經(jīng)網(wǎng)絡(luò)理解如何一步步深化以及工程實(shí)踐如何倒逼理論創(chuàng)新的過程。3.1 Sigmoid與Tanh開拓者的榮光與枷鎖在深度學(xué)習(xí)的上古時期大概21世紀(jì)初甚至更早Sigmoid函數(shù)幾乎是唯一的選擇。它的公式是σ(x) 1 / (1 e^{-x})輸出被平滑地壓縮到(0, 1)之間。這個特性非常迷人符合概率解釋輸出在0到1之間可以自然地理解為神經(jīng)元的“激活率”或概率這對于輸出層做二分類非常直觀。處處可導(dǎo)其導(dǎo)數(shù)σ(x) σ(x)(1-σ(x))也很容易計(jì)算這對于基于梯度的反向傳播算法至關(guān)重要。平滑性函數(shù)曲線光滑沒有突變。Tanh函數(shù)可以看作是Sigmoid的“中心化”版本tanh(x) (e^x - e^{-x}) / (e^x e^{-x})輸出范圍是(-1, 1)。它將數(shù)據(jù)均值拉到了0附近這在實(shí)踐中通常能加速收斂因?yàn)?中心化的輸入對下一層更友好。然而當(dāng)人們試圖用它們來構(gòu)建更深的網(wǎng)絡(luò)時噩夢開始了。這就是臭名昭著的梯度消失問題。我們來看Sigmoid的導(dǎo)數(shù)曲線當(dāng)輸入x的絕對值很大時無論是正無窮還是負(fù)無窮其導(dǎo)數(shù)σ(x)都會趨近于0。在反向傳播時梯度需要從輸出層一層層往回乘。如果每一層的激活函數(shù)梯度都小于1那么經(jīng)過多層連乘之后傳遞到前面層的梯度會指數(shù)級地衰減變得微乎其微。這導(dǎo)致網(wǎng)絡(luò)前幾層的權(quán)重幾乎得不到有效的更新學(xué)習(xí)停滯不前。Tanh雖然比Sigmoid稍好梯度在0附近最大為1但同樣存在飽和區(qū)梯度消失的問題。我早年復(fù)現(xiàn)一些經(jīng)典論文比如LeNet-5時就深刻體會過這種痛苦。網(wǎng)絡(luò)層數(shù)稍微一多比如超過5層訓(xùn)練損失就卡住不動了。當(dāng)時需要非常精細(xì)地調(diào)整權(quán)重初始化方法如Xavier初始化并且學(xué)習(xí)率要設(shè)得非常小訓(xùn)練過程如履薄冰且效率極低。Sigmoid/Tanh就像一輛老式蒸汽機(jī)車啟動和加速都很慢而且很難爬上“深度”這座大山。3.2 ReLU簡單粗暴的破局者時間來到2012年前后AlexNet橫空出世點(diǎn)燃了深度學(xué)習(xí)的“大爆炸”。除了GPU和大數(shù)據(jù)一個技術(shù)細(xì)節(jié)功不可沒ReLU。它的定義簡單到令人發(fā)指ReLU(x) max(0, x)。負(fù)數(shù)歸零正數(shù)原樣輸出。就是這么一個看似“沒文化”的函數(shù)幾乎一舉解決了深度網(wǎng)絡(luò)的訓(xùn)練難題緩解梯度消失在正區(qū)間ReLU的導(dǎo)數(shù)為1。這意味著在激活的區(qū)域梯度可以毫無衰減地直接通過極大地促進(jìn)了深層網(wǎng)絡(luò)中的梯度流動。計(jì)算效率極高只需要一個閾值比較和賦值操作比Sigmoid的指數(shù)計(jì)算快了幾個數(shù)量級。這在動輒數(shù)百萬次前向/反向傳播的訓(xùn)練中節(jié)省的時間是驚人的。帶來稀疏性讓一半的神經(jīng)元輸出為負(fù)的部分輸出為0這客觀上使得網(wǎng)絡(luò)變得稀疏。稀疏性有生物學(xué)的類比大腦神經(jīng)元通常也是稀疏激活的并且可能帶來一定的正則化效果減輕過擬合。ReLU的成功是“大道至簡”的典范。它告訴我們有時候解決復(fù)雜問題并不需要多么精巧復(fù)雜的數(shù)學(xué)設(shè)計(jì)一個符合核心工程需求梯度暢通、計(jì)算快的簡單方案可能就是最好的。從此ReLU及其變體成為了絕大多數(shù)深度學(xué)習(xí)模型默認(rèn)的激活函數(shù)尤其是在卷積神經(jīng)網(wǎng)絡(luò)中。3.3 ReLU的“阿喀琉斯之踵”與進(jìn)化變體但ReLU并非完美。它的缺點(diǎn)和它的優(yōu)點(diǎn)一樣鮮明Dead ReLU問題。如果一個神經(jīng)元在訓(xùn)練過程中其權(quán)重更新導(dǎo)致對于所有訓(xùn)練數(shù)據(jù)該神經(jīng)元的輸入都小于0那么它將永遠(yuǎn)輸出0且梯度也為0。這個神經(jīng)元就“死”了在后續(xù)訓(xùn)練中再也無法被激活。這在學(xué)習(xí)率設(shè)置過高、權(quán)重初始化不當(dāng)或數(shù)據(jù)分布有偏時尤其容易發(fā)生。為了解決這個問題研究者們提出了各種ReLU的改進(jìn)版它們可以看作是在“簡單高效”和“穩(wěn)健安全”之間尋找不同的平衡點(diǎn)Leaky ReLUf(x) max(αx, x)其中α是一個很小的正數(shù)如0.01。它為負(fù)輸入保留了一個微小的斜率確保梯度永遠(yuǎn)不會完全為0給了“將死”的神經(jīng)元一線生機(jī)。它的計(jì)算依然高效。Parametric ReLU把Leaky ReLU中的斜率α也作為一個可學(xué)習(xí)的參數(shù)。讓網(wǎng)絡(luò)自己決定負(fù)區(qū)間應(yīng)該有多“泄漏”。這增加了靈活性但也引入了少量額外的參數(shù)。Exponential Linear UnitELU(x) x if x0 else α*(e^x - 1)。它在負(fù)區(qū)間趨近于-α使得輸出均值更接近0可能加快收斂速度。同時它在負(fù)區(qū)間是平滑的可能比Leaky ReLU更魯棒。但計(jì)算涉及指數(shù)稍慢一些。這些變體各有優(yōu)劣但在實(shí)踐中標(biāo)準(zhǔn)ReLU由于其無與倫比的簡單性和在大多數(shù)情況下的良好表現(xiàn)依然是默認(rèn)的首選。我的經(jīng)驗(yàn)法則是先用ReLU如果發(fā)現(xiàn)訓(xùn)練早期就有大量神經(jīng)元輸出為0可以用鉤子函數(shù)監(jiān)控再考慮換用Leaky ReLU或ELU。對于非常深的網(wǎng)絡(luò)如ResNet-152Leaky ReLU或它的變體有時能提供更穩(wěn)定的訓(xùn)練過程。4. 現(xiàn)代激活函數(shù)新貴Swish與Mish的崛起隨著神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索和自動機(jī)器學(xué)習(xí)的發(fā)展研究者不再滿足于手工設(shè)計(jì)激活函數(shù)而是開始嘗試讓算法自己發(fā)現(xiàn)更好的函數(shù)。同時一些結(jié)合了經(jīng)典函數(shù)優(yōu)點(diǎn)的新設(shè)計(jì)也展現(xiàn)出強(qiáng)大潛力。這里重點(diǎn)聊聊兩個近年來備受關(guān)注的“新貴”。4.1 Swish谷歌大腦的“搜索”成果Swish函數(shù)是谷歌大腦團(tuán)隊(duì)通過自動搜索技術(shù)發(fā)現(xiàn)的一個激活函數(shù)其公式為swish(x) x * sigmoid(βx)其中β是一個可學(xué)習(xí)或固定的參數(shù)通常設(shè)為1。當(dāng)β1時swish(x) x * σ(x)。Swish為什么有效我們可以從幾個角度理解“無上界有下界”當(dāng)x趨向正無窮時Swish近似于線性函數(shù)x當(dāng)x趨向負(fù)無窮時Sigmoid部分趨近于0因此Swish趨近于0。它不像ReLU那樣在正區(qū)間完全線性也不像Sigmoid那樣兩端飽和。這種平滑、非單調(diào)在負(fù)半軸有一個小小的“凸起”的特性被認(rèn)為能讓梯度流更豐富。處處光滑Swish處處可導(dǎo)且導(dǎo)數(shù)比ReLU更復(fù)雜可能有助于優(yōu)化器找到更平坦的極小值點(diǎn)泛化可能更好。經(jīng)驗(yàn)性成功在一些實(shí)驗(yàn)尤其是在深層模型和圖像分類任務(wù)上Swish的表現(xiàn)略優(yōu)于或持平ReLU。但是Swish有一個明顯的缺點(diǎn)計(jì)算成本高。它需要計(jì)算Sigmoid和一次乘法比ReLU復(fù)雜得多。在移動端或?qū)ρ舆t要求極高的場景這個開銷需要仔細(xì)權(quán)衡。我的實(shí)踐感受是在大型模型如EfficientNet或Transformer的某些層中替換ReLU為Swish有時能帶來零點(diǎn)幾個百分點(diǎn)的提升但并非銀彈。它更像是一個“高級選項(xiàng)”在你已經(jīng)調(diào)優(yōu)了其他所有部分還想再擠一點(diǎn)性能時值得嘗試。4.2 Mish更平滑的Swish變體Mish函數(shù)可以看作是Swish的一個近親公式為mish(x) x * tanh(softplus(x))其中softplus(x) ln(1 e^x)。這個公式看起來更復(fù)雜但其圖像和Swish非常相似同樣具有平滑、無上界、有下界的特點(diǎn)。與Swish相比Mish在0點(diǎn)附近的曲率更平滑一些并且其梯度下降的動態(tài)特性在某些任務(wù)上表現(xiàn)得更加穩(wěn)定。有論文指出在目標(biāo)檢測等任務(wù)上Mish的表現(xiàn)優(yōu)于ReLU和Swish。然而它的計(jì)算成本比Swish還要高因?yàn)樯婕皌anh、log和exp運(yùn)算。那么在實(shí)際項(xiàng)目中該如何選擇呢我通常會遵循一個漸進(jìn)策略基準(zhǔn)模型毫不猶豫地使用ReLU。它是經(jīng)過最廣泛驗(yàn)證、最快、最可靠的默認(rèn)選擇。性能瓶頸如果模型在驗(yàn)證集上表現(xiàn)似乎達(dá)到了一個平臺可以嘗試將部分或全部ReLU替換為Swish例如在EfficientNet架構(gòu)中。這可能會帶來小幅提升但要做好計(jì)算開銷增加的心理準(zhǔn)備。特定任務(wù)實(shí)驗(yàn)在計(jì)算機(jī)視覺的下游任務(wù)特別是目標(biāo)檢測和語義分割中可以嘗試Mish。一些開源代碼庫如YOLOv4的某些實(shí)現(xiàn)已經(jīng)將其作為默認(rèn)選項(xiàng)值得借鑒。始終監(jiān)控?zé)o論用哪種都要在訓(xùn)練初期監(jiān)控激活值的分布例如使用TensorBoard或簡單的統(tǒng)計(jì)直方圖。如果發(fā)現(xiàn)大量“死神經(jīng)元”對于ReLU或激活值分布異常再考慮切換。記住激活函數(shù)的選擇是模型超參數(shù)的一部分但它通常不是影響模型性能的最主要因素。數(shù)據(jù)質(zhì)量、網(wǎng)絡(luò)架構(gòu)、損失函數(shù)和優(yōu)化器的調(diào)參往往比換一個激活函數(shù)帶來的收益大得多。不要陷入“為換而換”的陷阱。5. 激活函數(shù)實(shí)戰(zhàn)選擇、使用與調(diào)試指南理論說了一堆最后都要落到代碼和實(shí)驗(yàn)上。這部分我們拋開論文指標(biāo)聊聊在真實(shí)項(xiàng)目中關(guān)于激活函數(shù)那些“課本上不會細(xì)講”的實(shí)操細(xì)節(jié)和避坑經(jīng)驗(yàn)。5.1 如何為你的層“分配”激活函數(shù)—— 一個架構(gòu)思維新手常問“我應(yīng)該在哪里加激活函數(shù)”一個簡單的答案是在每個線性變換全連接層、卷積層之后、輸入下一層之前。但在設(shè)計(jì)網(wǎng)絡(luò)時我們需要更有層次地思考隱藏層這是激活函數(shù)的主戰(zhàn)場。如前所述ReLU是默認(rèn)且安全的首選。對于CNN卷積層后緊跟ReLU是標(biāo)準(zhǔn)操作。對于非常深的網(wǎng)絡(luò)在殘差塊內(nèi)部使用激活函數(shù)時需要注意順序。以經(jīng)典的ResNet為例它采用的是“預(yù)激活”結(jié)構(gòu)BN - ReLU - Conv而非“后激活”這被認(rèn)為能讓梯度流更順暢。輸出層這里的激活函數(shù)選擇完全取決于你的任務(wù)二分類使用Sigmoid將輸出壓縮到(0,1)表示正類的概率。多分類使用Softmax將輸出轉(zhuǎn)化為概率分布。注意Softmax不是嚴(yán)格意義上的“激活函數(shù)”而是一個歸一化層但它扮演了類似的角色?；貧w任務(wù)通常不使用非線性激活函數(shù)你希望模型輸出任意實(shí)數(shù)。直接使用線性輸出。如果確信輸出為正如房價(jià)可以使用ReLU來約束但要小心它可能帶來的梯度問題。多標(biāo)簽分類每個標(biāo)簽獨(dú)立二分類輸出層使用Sigmoid每個神經(jīng)元輸出一個獨(dú)立的概率。一個常見的錯誤是在回歸任務(wù)的輸出層使用了ReLU然后發(fā)現(xiàn)模型永遠(yuǎn)預(yù)測不出負(fù)值。另一個錯誤是在多分類任務(wù)輸出層用了Sigmoid導(dǎo)致所有類別的“概率”之和不為1與交叉熵?fù)p失不匹配。5.2 初始化與激活函數(shù)的“默契”權(quán)重初始化與激活函數(shù)是緊密耦合的。錯誤的選擇會導(dǎo)致訓(xùn)練初期梯度爆炸或消失。這里有幾個黃金法則配合ReLU系列使用He初始化也稱為Kaiming初始化。具體來說對于使用ReLU的層其權(quán)重應(yīng)從均值為0、標(biāo)準(zhǔn)差為sqrt(2 / fan_in)的正態(tài)分布中采樣其中fan_in是該層輸入的單元數(shù)。PyTorch中對應(yīng)torch.nn.init.kaiming_normal_。這種初始化專門考慮了ReLU激活后方差翻倍的特性旨在保持各層激活值方差的穩(wěn)定。配合Sigmoid/Tanh使用Xavier初始化也稱為Glorot初始化。權(quán)重從均值為0、標(biāo)準(zhǔn)差為sqrt(2 / (fan_in fan_out))的正態(tài)分布中采樣。PyTorch中對應(yīng)torch.nn.init.xavier_normal_。它適用于飽和型激活函數(shù)能幫助緩解梯度消失。現(xiàn)代框架的默認(rèn)值好消息是PyTorch和TensorFlow中大多數(shù)層如nn.Linear,nn.Conv2d的默認(rèn)初始化策略已經(jīng)考慮到了后續(xù)的激活函數(shù)。例如PyTorch的nn.Linear默認(rèn)使用Kaiming均勻初始化這通常與ReLU搭配得很好。但當(dāng)你自定義層或使用不常見的激活函數(shù)時必須手動考慮初始化。我曾經(jīng)接手過一個使用Tanh的舊項(xiàng)目訓(xùn)練一直不穩(wěn)定。檢查代碼發(fā)現(xiàn)權(quán)重初始化用的是簡單的均勻分布。將其改為Xavier初始化后訓(xùn)練收斂速度和穩(wěn)定性立刻得到了顯著改善。這個坑告訴我們初始化不是小事它和激活函數(shù)是“綁定銷售”的。5.3 訓(xùn)練中的監(jiān)控與診斷激活函數(shù)的狀態(tài)是診斷模型健康的重要指標(biāo)。以下是你應(yīng)該定期檢查的激活值分布在訓(xùn)練初期和中期可視化各層激活函數(shù)的輸出直方圖。你希望看到對于ReLU大部分值應(yīng)該是正的但也不希望有大量非常大的正值可能導(dǎo)致梯度爆炸。如果超過50%的值為0可能意味著學(xué)習(xí)率太高或初始化有問題導(dǎo)致“神經(jīng)元死亡”嚴(yán)重。對于Sigmoid/Tanh值應(yīng)該分布在有效的范圍內(nèi)Sigmoid在0-1Tanh在-1到1而不是大量堆積在飽和區(qū)接近0或1-1或1。工具TensorBoard的直方圖面板或自己用torch.histogram計(jì)算。梯度流檢查反向傳播到各層的梯度范數(shù)。如果前面層的梯度范數(shù)異常小相比后面層可能是梯度消失的跡象對于Sigmoid/Tanh網(wǎng)絡(luò)或者Dead ReLU導(dǎo)致梯度阻斷。如果梯度范數(shù)異常大可能是梯度爆炸。一個實(shí)用的調(diào)試技巧如果你懷疑是激活函數(shù)導(dǎo)致的問題比如訓(xùn)練不收斂一個快速驗(yàn)證的方法是將該層的激活函數(shù)暫時移除或替換為恒等映射Identity看網(wǎng)絡(luò)是否能夠進(jìn)行簡單的學(xué)習(xí)比如過擬合一個很小的數(shù)據(jù)集。如果移除后學(xué)習(xí)正常加上就出問題那么問題很可能就出在激活函數(shù)、初始化或這層的數(shù)據(jù)分布上。5.4 關(guān)于“激活函數(shù)放在BN前還是BN后”的爭論這是一個經(jīng)典的細(xì)節(jié)問題。在批歸一化出現(xiàn)后網(wǎng)絡(luò)層的常見順序變成了Conv - BN - Activation - Dropout或Conv - BN - Dropout - Activation。但究竟哪種更好主流實(shí)踐Conv - BN - Activation這是目前大多數(shù)框架和論文的默認(rèn)做法。其邏輯是先通過BN將輸入數(shù)據(jù)歸一化到穩(wěn)定分布均值為0方差為1然后再送入激活函數(shù)。這對于ReLU尤其重要因?yàn)锽N確保了輸入不會有過大的正值或負(fù)值減少了陷入飽和區(qū)或?qū)е翫ead ReLU的風(fēng)險(xiǎn)。我強(qiáng)烈推薦這種順序。另一種觀點(diǎn)Conv - Activation - BN有人認(rèn)為先激活再歸一化可以讓BN層學(xué)習(xí)到包含非線性變換后的分布的參數(shù)。但在實(shí)踐中這種順序較少見且理論優(yōu)勢不明確。在PyTorch中你可以很方便地使用nn.Sequential來組合層# 主流推薦順序 layer nn.Sequential( nn.Conv2d(in_channels, out_channels, kernel_size3, padding1), nn.BatchNorm2d(out_channels), nn.ReLU(inplaceTrue), # inplaceTrue可以節(jié)省內(nèi)存但需確保沒有其他地方引用該輸入 nn.Dropout2d(p0.5) )堅(jiān)持使用“Conv/Linear - BN - Activation”這個順序能幫你避免很多因?qū)有虿划?dāng)引起的隱晦bug。6. 超越默認(rèn)選擇何時需要跳出ReLU的舒適區(qū)盡管ReLU是萬能默認(rèn)選項(xiàng)但有些特定場景和架構(gòu)下其他激活函數(shù)可能才是“正確答案”。6.1 循環(huán)神經(jīng)網(wǎng)絡(luò)中的“門控”與Tanh在RNN、LSTM、GRU中Tanh函數(shù)仍然占據(jù)著核心地位。為什么呢因?yàn)镽NN處理的是序列數(shù)據(jù)需要將歷史信息進(jìn)行壓縮和傳遞。Tanh的輸出范圍是(-1, 1)它是一個零中心化的飽和函數(shù)。零中心化有助于緩解梯度在時間步上傳播時的偏置問題使訓(xùn)練更穩(wěn)定。飽和性在RNN的語境下飽和性不一定是壞事。它像一個“壓限器”能將隱藏狀態(tài)的值限制在一個有界的范圍內(nèi)防止在長序列傳播過程中發(fā)生數(shù)值爆炸。LSTM和GRU中精巧的“門”結(jié)構(gòu)使用Sigmoid負(fù)責(zé)控制信息流而Tanh負(fù)責(zé)產(chǎn)生候選記憶二者配合得天衣無縫。在這里如果把Tanh換成ReLU網(wǎng)絡(luò)很容易在長序列上產(chǎn)生梯度爆炸。6.2 生成式模型與輸出范圍的匹配在生成對抗網(wǎng)絡(luò)或變分自編碼器中生成器的最后一層激活函數(shù)需要與數(shù)據(jù)的自然范圍匹配。如果生成圖像像素值通常在[0, 1]或[-1, 1]。因此輸出層常使用Tanh輸出到[-1,1]或Sigmoid輸出到[0,1]。在WaveNet等音頻生成模型中輸出可能使用Softmax來建模離散的音頻樣本值如μ律編碼。6.3 輕量化網(wǎng)絡(luò)與計(jì)算瓶頸在移動端或邊緣設(shè)備上部署模型時計(jì)算量和能耗是首要考慮。ReLU及其變體如Leaky ReLU因其極低的計(jì)算成本而成為不二之選。一些更激進(jìn)的輕量化設(shè)計(jì)甚至使用量化感知訓(xùn)練將ReLU替換為更簡單的Hard-Sigmoid或Hard-Swish用分段線性函數(shù)近似以更好地適配整數(shù)運(yùn)算單元。6.4 一個綜合案例構(gòu)建一個簡單的CNN分類器讓我們把上面的知識串起來用PyTorch快速搭建一個用于CIFAR-10圖像分類的微型CNN并融入我們的選擇邏輯import torch import torch.nn as nn import torch.nn.functional as F class TinyCNN(nn.Module): def __init__(self, num_classes10): super(TinyCNN, self).__init__() # 特征提取部分Conv - BN - ReLU - Pooling 標(biāo)準(zhǔn)流程 self.features nn.Sequential( # 第一層輸入3通道(RGB) 輸出32個特征圖 nn.Conv2d(3, 32, kernel_size3, padding1), nn.BatchNorm2d(32), # BN在卷積后激活前 nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size2, stride2), # 下采樣 nn.Conv2d(32, 64, kernel_size3, padding1), nn.BatchNorm2d(64), nn.ReLU(inplaceTrue), nn.MaxPool2d(2, 2), nn.Conv2d(64, 128, kernel_size3, padding1), nn.BatchNorm2d(128), nn.ReLU(inplaceTrue), nn.MaxPool2d(2, 2), ) # 分類頭部分 self.classifier nn.Sequential( nn.Dropout(p0.5), # Dropout在全連接層之前使用 nn.Linear(128 * 4 * 4, 256), # 假設(shè)經(jīng)過3次2x2池化32x32圖像變?yōu)?x4 nn.ReLU(inplaceTrue), nn.Linear(256, num_classes) # 注意這里沒有在最后加Softmax因?yàn)镃rossEntropyLoss內(nèi)部包含了LogSoftmax ) def forward(self, x): x self.features(x) x torch.flatten(x, 1) # 展平特征圖 x self.classifier(x) return x # 初始化模型 model TinyCNN() # 使用Kaiming初始化配合ReLU (PyTorch默認(rèn)已大致做到但顯式初始化更穩(wěn)妥) def init_weights(m): if isinstance(m, nn.Conv2d) or isinstance(m, nn.Linear): nn.init.kaiming_normal_(m.weight, modefan_out, nonlinearityrelu) if m.bias is not None: nn.init.constant_(m.bias, 0) model.apply(init_weights) # 損失函數(shù)CrossEntropyLoss已經(jīng)包含了Softmax操作 criterion nn.CrossEntropyLoss()在這個例子中我們嚴(yán)格遵循了“Conv - BN - ReLU - Pooling”的順序在全連接層也使用了ReLU并在輸出層沒有使用任何激活函數(shù)因?yàn)閚n.CrossEntropyLoss期望的是原始的“l(fā)ogits”未歸一化的分?jǐn)?shù)。這是一個非常典型且穩(wěn)健的現(xiàn)代CNN設(shè)計(jì)模式。7. 總結(jié)與個人心得把激活函數(shù)用“活”聊了這么多最后分享幾點(diǎn)我從無數(shù)個項(xiàng)目、成功和失敗中總結(jié)出的關(guān)于激活函數(shù)的“玄學(xué)”與“科學(xué)”ReLU是基準(zhǔn)線不是終點(diǎn)線。它就像深度學(xué)習(xí)界的“Hello World”簡單、有效、無處不在。任何新項(xiàng)目從ReLU開始準(zhǔn)沒錯。但要知道它的局限性當(dāng)模型很深、訓(xùn)練不穩(wěn)定時要能想到可能是Dead ReLU在作祟并知道如何切換到Leaky ReLU或ELU去驗(yàn)證。激活函數(shù)的選擇是“系統(tǒng)工程”的一環(huán)。它和權(quán)重初始化、批歸一化、殘差連接、優(yōu)化器選擇等緊密相關(guān)。不要孤立地看待它。例如有了BN很多激活函數(shù)的飽和問題得到了緩解有了殘差連接梯度流更加順暢對激活函數(shù)的苛求也降低了。監(jiān)控比猜測更重要。不要憑感覺說“我用Swish肯定比ReLU好”。在TensorBoard里打開激活值和梯度的直方圖看看數(shù)據(jù)在網(wǎng)絡(luò)中流動的真實(shí)情況。如果ReLU層后面跟的BN層輸入全是0那問題就顯而易見了。在輸出層任務(wù)決定一切。這是鐵律?；貧w用線性二分類用Sigmoid多分類讓CrossEntropyLoss幫你做Softmax。這里搞錯整個模型的方向就錯了。保持好奇但保持務(wù)實(shí)。像Swish、Mish這些新函數(shù)很有趣代表了研究的方向。在實(shí)際工業(yè)級項(xiàng)目中除非有非常明確的證據(jù)如權(quán)威論文在相同任務(wù)上的提升或你自己做了嚴(yán)謹(jǐn)?shù)腁/B測試證明有效否則不要輕易將穩(wěn)定的ReLU基線替換掉。那零點(diǎn)幾個百分點(diǎn)的提升可能遠(yuǎn)不如多清洗一些數(shù)據(jù)、多做一些數(shù)據(jù)增強(qiáng)來得實(shí)在。深度學(xué)習(xí)的世界里沒有一勞永逸的“銀彈”。激活函數(shù)從Sigmoid到ReLU的演進(jìn)本質(zhì)上是從追求“數(shù)學(xué)優(yōu)雅”到追求“工程有效”的思維轉(zhuǎn)變。作為實(shí)踐者我們的目標(biāo)不是記住所有函數(shù)的公式而是理解它們背后的設(shè)計(jì)邏輯它們?nèi)绾斡绊懱荻攘魅绾斡绊懩Ｐ捅磉_(dá)能力如何與網(wǎng)絡(luò)的其他部分協(xié)同工作有了這些理解你就能在遇到問題時有的放矢地進(jìn)行選擇和調(diào)整而不是盲目地試錯。這才是真正“了解”了深度學(xué)習(xí)中的這一塊基石。