월간 보관물: 2016 9월

Google opensource new image captioning model-im2txt

example_captions

출처: 텐서플로우 모델 깃허브

구글이 그동안 개발해 온 이미지 캡셔닝 모델을 텐서플로우 모델로 만들어 공개했습니다. 이 시스템은 2014년 처음 개발되어 2015년 마이크로소프트 이미지 캡셔닝 대회에서 가장 좋은 성과를 냈었습니다. 처음에는 디스트빌리프(DistBelief) 프레임워크를 사용하여 Inception V1 모델을 사용했다가 V2로 바꾸었고 프레임워크를 텐서플로우로 바꾸어서 공개한 이번 버전은 Inception V3 모델을 사용하였습니다. 모델의 소스는 텐서플로우 모델의 깃허브에서 확인하실 수 있으며 자세한 설명이 담긴 관련 페이퍼도 함께 릴리즈 되었습니다.

서울대학교 딥러닝 세미나 동영상

서울대학교 컴퓨터공학부 BI lab 석박사과정의 학생들이 주도가 되어 진행하는 CM(Connectionist Model) 세미나의 동영상이 유튜브에 꾸준히 공유되고 있습니다. 내부적으로 진행하는 세미나를 공개하는 게 쉽지 않은 일인데 정말 반갑네요. 감사합니다!

모두연의 강화학습 튜토리얼

모두의연구소 이웅원님이 만드신 강화학습(reinforcement learning) 튜토리얼이 깃북으로 공개되었습니다. 이 튜토리얼은 무려 160여 페이지 분량입니다. 한글로 된 강화학습 자료가 많지 않은 가운데 이런 자료가 공개되어 매우 반갑네요. 이 튜토리얼은 데이빗 실버(David Silver) 교수의 강의와 리처드 서튼(Richard S. Sutton) 교수의 ‘Introduction to Reinforcement Learning‘ 책, 유다시티(Udacity)의 강화학습 강의등을 참고했다고 합니다.

참고로 데이빗 실버 교수의 강의는 유튜브에서 볼 수 있으며 리처드 서튼 교수의 Introduction to Reinforcement Learning 책은 2판을 무료로 드롭박스에서 읽을 수 있습니다. 2판은 2012년 부터 쓰여져서 최근까지 마무리 작업이 진행되었는데 지금은 거의 완결된 상태입니다. pdf 버전은 여기서 다운 받을 수 있습니다.

(업데이트) Reinforcement Learning: An Introduction 의 새로운 드래프트가 공개되었습니다. 이 버전은 2016년 9월 입니다.

BayLearn 2016 Registration Open

baylearn2016

베이런(BayLearn. Bay Area Machine Learning Symposium) 2016 심포지엄의 등록이 시작되었습니다. 베이런은 2012년부터 시작된 심포지엄으로 올해에는 10월 6일에 열립니다. 올해에는 딥러닝 분야에 할애가 많이 되지 않을까 생각됩니다. 실리콘 밸리에 살고 있는 사람들이 부럽네요. 🙂

카이스트 머신러닝 워크샵 강의 동영상

지난 8월 22~23일에 열린 카이스트 머신러닝 워크샵에서 1일차와 2일차에 각각 한시간씩 진행된 동영상 강의가 유튜브에 공개되었습니다. 첫째날 강의는 ‘Introduction to Machine Learning’ 입니다. 둘째날 영상도 공개되면 업데이트 하겠습니다.

conda supports TensorFlow

파이썬의 서드파티 패키지 관리 툴인 콘다(conda)가 텐서플로우 패키지를 제공하기 시작했습니다. 현재는 리눅스 64비트 버전만 제공되며 파이썬 2.7, 3.4, 3.5 버전을 지원합니다. 컴파일된 텐서플로우 버전은 0.10.0rc 의 CPU 버전입니다. 이제 64비트 리눅스에서 텐서플로우는 간단히 conda install tensorflow 명령으로 설치할 수 있습니다.

콘다를 포함하고 있는 아나콘다(anaconda) 인스톨러는 scipy, numpy, pandas 같은 수치, 과학 패키지들을 플랫폼에 맞게 컴파일하여 제공하고 있어서 인기가 많습니다. 콘다에서 씨아노(Theano)에 이어 텐서플로우까지 제공하니 훨씬 편해질 것 같습니다. 하지만 윈도우와 맥용 패키지가 만들어질지는 아직 미지수 입니다.

Keras 1.1.0 Release

딥러닝 래퍼 라이브러리인 케라스(Keras)의 1.1.0 버전이 릴리즈 되었습니다. 이번 버전부터 디폴트 백엔드(backend)가 씨아노(Theano)에서 텐서플로우로 변경되었습니다. 텐서플로우가 인기가 높기도 하지만 케라스 개발자 프랑소와 숄레(François Chollet)가 구글에 있으니 예상되는 변화라고 보여집니다.

torch-twrl: RL for Torch

resultsvideo

트위터 Cortex 팀에서 토치(Torch)를 이용한 강화학습 프레임워크인 torch-twrl를 오픈소스로 공개한다고 발표하였습니다. torch-twrl은 OpenAI Gym과도 함께 쓸 수 있으며 소스는 깃허브에 공개되어 있습니다. 토치를 사용한 강화학습 프레임워크로는 rltorch가 이미 있지만 torch-twrl이 외부 라이브러리 의존성이 적다고 합니다. 토치와 관련된 뉴스가 페이스북이 아니고 트위터에서 들려왔네요. 어쨋든 토치 커뮤니티에는 반가운 소식입니다.

Neural Network Zoo

neuralnetworks

딥러닝 연구를 전문으로 하는 아시모프 인스튜티트(The Asimov Institute)에서 뉴럴 네트워크 아키텍처를 그래픽 요소를 사용하여 뉴런과 레이어의 기능을 구분할 수 있도록 표현한 블로그를 공개하였습니다. 비교적 널리 알려진 뉴럴 네트워크를 한 눈에 볼 수 있고 부가적인 설명도 곁들여 있습니다.

새로운 아키텍처가 계속 발표되고 있고 사람마다 네트워크를 해석하는 시각이 조금씩 다르기 때문에 모든 뉴럴 네트워크의 종류를 명확히 구분지어 표현하는 것은 어쩌면 불가능할지도 모르겠습니다. 하지만 대중적으로 수용될 수 있는 대표적인 표현 방법이 존재한다면 연구자들이나 배우는 사람 모두에게 많은 도움이 될 것 같습니다.

Academic Torrents

academic-torrents

연구자들을 위한 대량의 데이터와 유명 강좌들을 토렌트로 제공하는 아카데믹 토렌츠(Academic Torrents)가 있습니다. 데이터 셋은 물론 코세라나 스탠포드 등의 대학 강의 영상도 받을 수 있습니다. 다만 토렌트의 특성상 시드가 원활하지 않을 경우에는 다소 시간이 많이 걸릴 수 있습니다.