下面是我们在推导sparse autoencoder时使用的符号一览表:
符号 | 含义 |
![]() | 训练样本的输入特征,![]() |
![]() | 输出值/目标值. 这里 ![]() ![]() |
![]() | 第 ![]() |
![]() | 输入为 ![]() ![]() ![]() |
![]() | 连接第 ![]() ![]() ![]() ![]() |
![]() | 第 ![]() ![]() ![]() ![]() ![]() |
![]() | 参数向量. 可以认为该向量是通过将参数 ![]() |
![]() | 网络中第 ![]() ![]() 另外,由于 |
![]() | 激活函数. 本文中我们使用 ![]() |
![]() | 第 ![]() ![]() ![]() |
![]() | 学习率 |
![]() | 第 ![]() |
![]() | 网络中的层数. 通常 ![]() ![]() |
![]() | 权重衰减系数. |
![]() | 对于一个autoencoder,该符号表示其输出值;亦即输入值 ![]() ![]() |
![]() | 稀疏值,可以用它指定我们所需的稀疏程度 |
![]() | (sparse autoencoder中)隐藏单元 ![]() |
![]() | (sparse autoencoder目标函数中)稀疏值惩罚项的权重. |