카테고리 보관물: Lecture

CS224n: NLP with DL’s Lecture Notes

스탠포드 대학의 CS224n: NLP with Deep Learning 코스(CS224d가 CS224n으로 통합되었습니다)는 강의 동영상이 공개되지 않습니다. 하지만 강의 슬라이드, 특히 강의 노트가 공개되고 있습니다. 현재 까지 총 7개의 노트가 공개되었으며 모두 합치면 대략 100여쪽이 됩니다. 강의 노트는 CS224n 스케줄 페이지에서 다운받을 수 있고 깃허브에서도 다운받을 수 있습니다. 스케줄 페이지에서는 강의 노트외에 추천 자료등 풍성한 읽을 거리(!)가 있습니다. 현재까지 강의 노트를 하나로 합친 것은 여기에서 다운받을 수 있습니다.

버클리 대학의 유투브 강좌가 삭제됩니다.

작년 장애인 평등법에 따라 온라인에 무료로 공개된 버클리 대학의 컨텐츠가 삭제될 것이라는 뉴스가 있었습니다. 이 삭제 조치가 이번달 3월 15일부터 유투브와 아이튠즈U 에 대해 시행된다는 기사가 게재되었습니다. 혹시 유투브에 있는 버클리 강의 중에 필요한 것이 있다면 다운받아 놓는 게 좋습니다. 이 조치가 강화학습 강의를 진행하고 있는 Cal ESG에도 적용되는 것인지는 확실하지 않습니다. 혹시 모르니 미리 받아두는 것도 나쁘지는 않을 것 같습니다. edX에 있는 강의에는 영향을 받지 않습니다.

(업데이트) 파이썬의 youtube-dl 패키지를 이용하면 손쉽게 동영상 리스트를 다운받을 수 있습니다. 아래 명령은 CS294: Deep RL 동영상 리스트로 부터 강의 동영상을 모두 다운받는 명령입니다. 동영상에 자동으로 생성되는 캡션이 있으면 같이 다운 받습니다. 이 자막은 기본 파일 형식에 vtt 인데 저는 VLC로 재생이 됩니다.

$ pip install youtube-dl
$ youtube-dl --yes-playlist --write-auto-sub https://www.youtube.com/playlist?list=PLkFD6_40KJIwTmSbCv9OVJB3YaO4sFwkX

CS 20SI, DL Seminar UPC TelecomBCN, Practical DL For Coders-Part 1

스탠포드 대학 강좌 ‘CS 20SI: Tensorflow for Deep Learning Research’의 강의 노트깃허브가 공개되어 있습니다. 아쉽지만 영상은 공개되지 않았습니다. 텐서플로우를 집중적으로 다루는 커리큘럼은 아마도 이 강좌가 처음인 것 같습니다.

작년에 서머 스쿨을 열었던 UPC TelecomBCN 에서 다시 겨울 세미나를 지난달 말에 개최했습니다. 이번 세미나는 NLP, RNN 을 집중적으로 다루었다고 합니다. 세미나의 영상과 슬라이드가 공개되었습니다.

fast.ai 에서 만든 온라인 강좌인 ‘Practical Deep Learning For Coders, Part 1‘의 동영상에 영어 자막이 추가되었고 강의 노트가 만들어졌습니다. 온라인 강좌를 위해 강의노트를 만들다니 정말 대단합니다! 이 강좌는 씨아노(Theano)를 사용하며 사용한 예제는 깃허브에 올라가 있습니다.

(업데이트) 스탠포드의 20SI 강의 녹화본은 아니지만 이 슬라이드를 이용한 동영상 강의가 진행되고 있습니다.

MILA DL Summer School

mila-dlss-2017

작년에 이어 올해에도 몬트리올 밀라(MILA)랩에서 주최하는 딥러닝 서머 스쿨이 6월 26일 부터 7월 4일 까지 열립니다. 이번에는 조금 더 확장되어 딥러닝 파트가 6/26~7/1, 강화학습 파트가 7/2~7/4 까지 열리며 두 세션을 각각 등록할 수 있도록 되어 있습니다. 올해 강좌도 녹화되어 공개될 것으로 예상됩니다. 그런데 작년 강의도 아직도 못봤다는 게 문제네요. 😦

DL for NLP by Oxford & DeepMind

지난달 말에 데미스 하사비스가 딥마인드에서 대학에 강의를 제공한다는 글을 블로그에 올렸었습니다. 이 때 언급한 강좌가 두개인데요. 하나는 유니버시티 칼리지 런던(UCL)의 ‘Advanced Topics in Machine Learning‘이고 다른 하나는 옥스포드 대학의 ‘Deep Learning for Natural Language Processing‘입니다. 이 중에 옥스포드 대학의 강의가 온라인으로 공개되고 있습니다! 이 강좌의 깃허브에 슬라이드와 함께 동영상 링크가 포함되어 있습니다. 그리고 이 강좌의 실습은 파이토치나 텐서플로우를 권장하고 있네요! 딥마인드는 여러 가지 방식으로 독일, 중국, 아프리카 등에 교육 지원을 할 것이라고 합니다. 우리나라에서는 꿈 같은 일이겠죠? 😎

(무슨 이유인지 제 맥북 크롬에서는 동영상 플레이가 되지 않고, 사파리 브라우저에서는 강좌 플레이가 잘 되었습니다. 참고하세요.)

MIT 6.S094: DL for Self-Driving Cars

screen-shot-2017-01-03-at-16-02-05-1024x640

MIT의 새로운 강좌인 ‘Deep Learning for Self-Driving Cars‘ 가 온라인으로 제공되고 있습니다. 슬라이드와 유투브 동영상 뿐만 아니라 코스 페이지에 누구나 가입을 할 수 가 있는데요. 가입을 하게 되면 실제 과제에 참여할 수 있습니다. 과제는 자바스크립트 기반으로 자율 주행 시뮬레이션을 하는 딥트래픽(DeepTraffic) 프로젝트이며 이미 리더보드에 순위가 매겨지기 시작했습니다. 딥트래픽은 OpenAI의 안드레이 카패시(Andrej Karpathy)가 만든 ConvNetJS 라이브러리를 사용합니다. 이런 이유는 이 강좌가 심지어 프로그래머가 아닌 사람들까지도 대상으로 하기 때문입니다. 브라우저와 텍스트 편집기만 있으면 필요한 모든 것이 준비가 된 셈입니다. 실제 핸들 스티어링의 데모인 딥테슬라(DeepTesla)도 볼 수 있습니다. 전체 강좌는 2회가 진행되었으므로 아직 늦지 않았습니다!

CS294: Deep RL Start!

지난번에 소개했던 버클리 대학의 CS294: Deep Reinforcement Learning의 2017년 봄 강좌가 시작되었습니다. 전 강좌가 녹화될 것이라고 예고했던 대로, 1월 18일 첫강좌가 유투브에 올려졌습니다. 그리고 앞으로의 강의도 모두 차례대로 플레이스 리스트에 추가될 것 같습니다. 또한 강의 시간에 맞추어 라이브로도 제공됩니다! 강의 시간은 매주 월, 수 오전 9시~10시 30분까지로 우리 시각은 화, 목 새벽 2시 부터입니다.

강의 스케줄과 슬라이드 및 과제물 등 더 자세한 내용은 코스 페이지에서 확인할 수 있고 강의와 관련된 포럼은 레딧으로 진행합니다. 동영상과 슬라이드 링크는 강의가 진행되는 대로 이 포스트에 업데이트하겠습니다.

CS294: Deep RL, Spring 2017

cs294

버클리 대학의 강화학습 강좌인 CS294 Deep Reinforcement Learning 의 올해 봄(2017 Spring) 강의가 녹화될 예정이라고 합니다! 이 강의는 버클리 대학의 세르게이 레빈(Sergey Levine) 교수외에 OpenAI의 존 슐만(John Schulman)이 함께 진행합니다. 강화 학습에 관심있다면 한껏 기대해 봐도 좋을 것 같습니다.

강의 페이지에 올려져 있는 맛보기 동영상은 존 슐만이 작년 머신러닝 서머스쿨에서 진행했던 강화 학습 강의입니다.

ML Boot Camp, CS229T Lecture Note, Berkeley ML Blog

버클리 대학의 Simons Institute for the Theory of Computing 연구소에서 1월 23일 부터 27일 까지 머신러닝 부트 캠프를 진행합니다. 카네기 멜론 대학의 러슬랜 살라쿠디노프(Ruslan Salakhutdinov)를 비롯하여 머신러닝과 딥러닝 분야의 많은 연구자들이 강사로 참여합니다. 반가운 것은 이 부트 캠프의 슬라이드와 동영상이 행사가 종료되고 1 주일 남짓 후에 공개될 예정이라는 것입니다. 자세한 스케줄은 이곳을 참고하세요.

덧붙여 스탠포드 대학의 CS229T(Statistical Learning Theory) 2016 겨울 클래스의 강의 노트와 버클리 ML 블로그의 머신러닝 Crash Course #1, #2 도 최근에 나온 좋은 자료인 것 같습니다.

(업데이트) 버클리 ML 블로그 Crash Course #3 이 나왔습니다.

딥러닝북 스터디, Chapter 12: Applications

샌프란시스코의 딥러닝북 스터디 그룹(Deep Learning Textbook Study Group)의 다음 스터디 일정이 나왔습니다. 한국시간 11일 오전 10시 30분이고 챕터는 딥러닝북12장 어플리케이션입니다. 이번에도 유튜브에서 실시간 스트리밍 됩니다. 스트리밍이 시작되면 유튜브 주소를 추가하도록 하겠습니다. 이번에 발표할 사람은 UC 버클리의 Ph.D 학생인 조슈아 아키암(Joshua Achiam)으로 알려졌습니다.

발표 슬라이드는 이곳에서 다운로드 받을 수 있습니다.