최근에 나온 뉴럴 네트워크 페이퍼들을 텐서플로우로 구현한 깃허브 레파지토리를 소개해 드립니다. 특히 RNN과 NLP에 관련된 페이퍼들인데 7월에 나온 페이퍼도 포함되어 있습니다. 아파치 2.0 라이센스이고 앞으로도 구현이 추가될 수 있을 것으로 기대해 봅니다. 아래는 이 레파지토리에서 텐서플로우로 구현한 페이퍼 리스트입니다.
- Highway Networks (https://arxiv.org/abs/1505.00387)
- Recurrent Highway Networks (http://arxiv.org/abs/1607.03474)
- Multiplicative Integration Within RNNs (https://arxiv.org/abs/1606.06630)
- Recurrent Dropout Without Memory Loss (http://arxiv.org/pdf/1603.05118v1.pdf)
- GRU Mutants (http://www.jmlr.org/proceedings/papers/v37/jozefowicz15.pdf)
(업데이트)
- Layer Normalization (http://arxiv.org/abs/1607.06450)
- Layer Normalization & Multiplicative Integration (http://arxiv.org/abs/1607.06450)
- LSTM With Multiple Memory Arrays (https://arxiv.org/abs/1607.03085)