堆叠自动编码器(Stacked Autoencoder)

我有一个基本的自动编码结构。 我想将其更改为堆叠的自动编码。 据我所知堆叠AE区别2种方式：

1. 它是由稀疏香草不良的层高达
2. 它逐层的培训。

我想知道，如果稀疏是堆叠不良的必需品或只是越来越多的隐藏层的香草AE结构将使其堆积AE？

class Autoencoder(Chain):
  def __init__(self):
    super().__init__()
    with self.init_scope():
  # encoder part
      self.l1 = L.Linear(1308608,500)
      self.l2 = L.Linear(500,100)
  # decoder part
      self.l3 = L.Linear(100,500)
      self.l4 = L.Linear(500,1308608)

  def forward(self,x):
      h = self.encode(x)
      x_recon = self.decode(h)
      return x_recon

  def __call__(self,x):
      x_recon = self.forward(x)
      loss = F.mean_squared_error(h, x)
      return loss

  def encode(self, x, train=True):
      h = F.dropout(self.activation(self.l1(x)), train=train)
      return self.activation(self.l2(x))

  def decode(self, h, train=True):
      h = self.activation(self.l3(h))
      return self.l4(x)

Answer 1:

这似乎是这样的情况稀疏，如果经常在堆叠自动编码器的情况下提，但不一定。 因此，我不认为这是必要的。

文章来源: Stacked Autoencoder