深度学习：不同的深度学习模型 自动编码

自动编码器是能够学习各种编码模式的人工神经网络。自动编码器的简单形式就像包含输入层，一个或多个隐藏层和输出层的多层感知器一样。典型的多层感知器和前馈神经网络与自动编码器之间的主要区别在于输出层的节点数量。在自动编码器的情况下，输出层包含与输入层中相同数量的节点。而不是根据输出向量预测目标值，自动编码器必须预测其自己的输入。学习机制的大致如下。

对于每个输入x，

– 执行前馈传递以计算在所有隐藏层和输出层提供的激活函数

– 使用适当的误差函数找出计算值与输入之间的偏差

– 反向传播错误以更新权重

重复任务直到满意的输出。

如果隐藏层中的节点数少于输入/输出节点，则最后隐藏层的激活被视为输入的压缩表示。当隐藏层节点多于输入层时，自动编码器可能潜在地学习身份功能并且在大多数情况下变得无用。