日期:2016-03-29 15:17
经元细胞彼此之间发生的抑制作用让神经网络(特别是深度学习)的设计者们创造出了各种技巧。视觉上的侧抑制效应则催生了局部响应归一化层的构造;而我们从ReLU、Dropout等设计上不难看出神经元细胞之间互补性控制的影子。
深度学习算法则是基于上述事实对人脑进一步的仿生方式。人类的大脑皮层由四个区域构成:额叶、顶叶、枕叶、颞叶。神经生物学研究表明,在枕叶中存在着两条信息处理通路:腹侧通路与背侧通路,其中腹侧通路从枕叶向下延伸至颞叶下部,加工对象或场景的视觉外观,如形状、颜色、亮度、质地和大小等。进一步的研究表