深度学习的概念（深度学习基本概念）
今天菲菲来为大家解答以上的问题。深度学习的概念，深度学习基本概念相信很多小伙伴还不知道,现在让我们一起来看看吧！
1、从一个输入中产生一个输出所涉及的计算可以通过一个流向图(flow graph)来表示：流向图是一种能够表示计算的图，在这种图中每一个节点表示一个基本的计算并且一个计算的值(计算的结果被应用到这个节点的孩子节点的值)。
2、考虑这样一个计算集合，它可以被允许在每一个节点和可能的图结构中，并定义了一个函数族。
3、输入节点没有孩子，输出节点没有父亲。
4、这种流向图的一个特别属性是深度(depth)：从一个输入到一个输出的最长路径的长度。
5、传统的前馈神经网络能够被看做拥有等于层数的深度(比如对于输出层为隐层数加1)。
6、SVMs有深度2(一个对应于核输出或者特征空间，另一个对应于所产生输出的线性混合)。
7、 需要使用深度学习解决的问题有以下的特征：深度不足会出现问题。
8、人脑具有一个深度结构。
9、认知过程逐层进行，逐步抽象。
10、深度不足会出现问题在许多情形中深度2就足够表示任何一个带有给定目标精度的函数。
11、但是其代价是：图中所需要的节点数(比如计算和参数数量)可能变的非常大。
12、理论结果证实那些事实上所需要的节点数随着输入的大小指数增长的函数族是存在的。
13、我们可以将深度架构看做一种因子分解。
14、大部分随机选择的函数不能被有效地表示，无论是用深的或者浅的架构。
15、但是许多能够有效地被深度架构表示的却不能被用浅的架构高效表示。
16、一个紧的和深度的表示的存在意味着在潜在的可被表示的函数中存在某种结构。
17、如果不存在任何结构，那将不可能很好地泛化。
18、大脑有一个深度架构例如，视觉皮质得到了很好的研究，并显示出一系列的区域，在每一个这种区域中包含一个输入的表示和从一个到另一个的信号流(这里忽略了在一些层次并行路径上的关联，因此更复杂)。
19、这个特征层次的每一层表示在一个不同的抽象层上的输入，并在层次的更上层有着更多的抽象特征，他们根据低层特征定义。
20、需要注意的是大脑中的表示是在中间紧密分布并且纯局部：他们是稀疏的：1%的神经元是同时活动的。
21、给定大量的神经元，仍然有一个非常高效地(指数级高效)表示。
22、认知过程逐层进行，逐步抽象人类层次化地组织思想和概念；人类首先学习简单的概念，然后用他们去表示更抽象的；工程师将任务分解成多个抽象层次去处理；学习/发现这些概念(知识工程由于没有反省而失败？)是很美好的。
23、对语言可表达的概念的反省也建议我们一个稀疏的表示：仅所有可能单词/概念中的一个小的部分是可被应用到一个特别的输入(一个视觉场景)。
本文就为大家分享到这里，希望小伙伴们会喜欢。
猜你喜欢