引言
卷積(Convolution)是神經(jīng)網(wǎng)絡(luò)的核心計算之一,它在計算機視覺方面的突破性進展引領(lǐng)了深度學習的熱潮。卷積的變種豐富,計算復雜,神經(jīng)網(wǎng)絡(luò)運行時大部分時間都耗費在計算卷積,網(wǎng)絡(luò)模型的發(fā)展在不斷增加網(wǎng)絡(luò)的深度,因此優(yōu)化卷積計算就顯得尤為重要。
隨著技術(shù)的發(fā)展,研究人員提出了多種優(yōu)化算法,包括 Im2col、Winograd 等等。本文首先定義卷積神經(jīng)網(wǎng)絡(luò)的概念,繼而簡要介紹幾種常見的優(yōu)化方法,并討論作者在該領(lǐng)域的一些經(jīng)驗。
卷積神經(jīng)網(wǎng)絡(luò)的概念
卷積神經(jīng)網(wǎng)絡(luò)(Convolution Neural Networks, CNN)的概念拓展自信號處理領(lǐng)域的卷積。信號處理的卷積定義為
(1)
由于對稱性圖片 卷積計算在直覺上不易理解,其可視化后如圖一所示。圖中紅色滑塊在移動過程中與藍色方塊的積繪制成的三角圖案即為卷積結(jié)果 (
本文鏈接:http://m.www897cc.com/showinfo-119-2258-0.html卷積神經(jīng)網(wǎng)絡(luò)性能優(yōu)化
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com