얼마전 파이토치 컨퍼런스에서 버전 2.0에 대한 발표가 있었습니다. 내년에는 새로운 버전의 파이토치와 텐서플로가 또 한번 각축전을 벌일 것 같네요. 때마침 파이토치와 라이트닝 라이브러리를 배울 수 있는 좋은 온라인 코스가 새롭게 오픈되었습니다. <머신 러닝 교과서 3판>의 저자 세바스찬 라시카가 위스콘신 대학교를 떠나 합류한 파이토치 라이트닝에서 그동안 준비한 딥러닝 온라인 코스를 어제 공개했습니다. 딥러닝 기초부터, 수학, 파이토치, 라이트닝까지 한 번에 배우고 싶은 분들에게 딱 맞는 코스같네요! 물론 모두 무료입니다! 😀
카테고리 보관물: Lecture
“Do It! 딥러닝 입문” 인프런 강의가 등록되었습니다!
유튜브에 올린 <Do It! 딥러닝 입문> 강의가 인프런(inflearn.com)에 등록되었습니다! 인프런에서 진도를 관리하면 놓치는 강의 없이 재미있게 들을 수 있습니다. 강의를 게재하도록 도와주신 인프런 담당자님에게 감사드립니다! 😀

DL for CV & Tiny ML 강의
흥미로운 두 개의 강의를 소개해 드립니다.
스탠포드에서 cs231n Convolutional Neural Networks for Visual Recognition을 진행했던 Justin Johnson이 미시간 대학교로 옮겼군요. 미시간 대학에서 진행하는 강의는 Deep Learning for Computer Vision입니다. 지난해 가을 강의가 유투브에 모두 올라왔습니다. 최신 기술들도 많이 추가했다고 하니 이전에 cs231n을 들었더라도 리프레시하는 겸 들어보면 좋을 것 같네요. 삽엽충으로 시작하는 페이페이 리 교수의 슬라이드보다 시작부분이 좋습니다. 딥러닝 역사를 두 개의 타임라인으로 나란히 놓고 설명하는게 좋네요.
edx.org에서 HarvardX와 함께 Tiny ML 과정을 가을에 연다고 합니다(https://programs.edx.org/harvard-tiny-ml). 올 가을에 개강한다고 하니 관심이 있다면 메일링 리스트에 등록하는 것도 좋습니다. 임베디드 장치를 위한 머신러닝 강좌로 직접 아두이노를 활용하여 강의를 진행할 것으로 보입니다. 아마도 텐서플로 Lite를 사용하리라 생각됩니다! 🙂
New Coursera Specialization with Google
코세라Coursera에 새로운 전문 과정 Machine Learning with TensorFlow on Google Cloud Platform이 개설되었습니다. 이름에서 알 수 있듯이 구글과 함께 제작한 것 같습니다. 총 다섯 개의 강좌로 이루어져 있으며 구글 클라우드와 텐서플로에 촛점이 맞추어진 머신러닝 강좌입니다. 이상한 것은 개별 강좌에 무료 옵션(Audit)이 없다는 점입니다. 앞으로 모든 전문 과정이 이렇게 되는 것인지는 모르겠지만 상당히 아쉽네요. 😦 시도해 볼 수 있는 것은 7일 무료 체험이고 그 이후에는 한달에 $49를 지불해야 합니다.
앤드류 응 박사가 만든 deeplearning.ai 코스는 개별 강좌로 계속 무료 수강이 가능합니다. 혹시 영어가 부담이 되신다면 반가운 소식이 하나 있습니다. edwith에서 카이스트 대학 자원봉사 학생들과 함께 이 강좌의 자막을 번역하고 있습니다! 저도 숟가락 얹고 있는데요. 아마 뜨거운 여름이 되면 edwith에서 만나 보실 수 있을 것 같습니다. 당연히 무료입니다. 🙂
(업데이트) Machine Learning with TensorFlow on Google Cloud 전문과정 중에 첫 번째 강의인 ‘How Google does Machine Learning‘는 무료로 수강이 가능합니다. 강의 등록 버튼을 누르고 중간에 조그만 글씨의 ‘무료 감사’ 링크를 선택하시면 됩니다. 다른 강의도 무료로 제공될지는 아직 확실하지 않네요. 이 정보는 skshin 님이 알려 주셨습니다.
DL & RL Summer School Video Out!
몬트리올 대학의 MILA 랩이 주관하는 2017 DL & RL 서머 스쿨 강의 동영상이 VideoLectures를 통해 공개되었습니다. 이번 서머 스쿨의 강의는 총 36개로 이 중에 2개는 공개되지 못하고 딥러닝 25개와 강화학습 9개가 공개되었습니다. 강의자들의 이름만 봐도 후덜덜하네요. : )
- Deep Learning Summer School
- Machine Learning(1:26:30), Doina Precup
- Neural Networks(3:03:15), Hugo Larochelle
- Recurrent Neural Networks (RNNs)(1:25:47), Yoshua Bengio
- Probabilistic numerics for deep learning(1:30:25), Michael Osborne
- Generative Models I(1:18:03), Ian Goodfellow
- Theano(34:51), Pascal Lamblin
- AI Impact on Jobs(1:05:58), Michael Osborne
- Introduction to CNNs(1:28:54), Richard Zemel
- Structured Models/Advanced Vision(1:28:22), Raquel Urtasun
- Torch/PyTorch(55:15), Soumith Chintala
- Generative Models II(1:28:25), Aaron Courville
- Natural Language Understanding(1:24:30), Phil Blunsom
- Natural Language Processing(1:23:42), Phil Blunsom
- Bayesian Hyper Networks(15:25), David Scott Krueger
- Gibs Net(14:01), Alex Lamb
- Pixel GAN autoencoder(12:23), Alireza Makhzani
- CRNN’s(16:16), Rémi Leblond, Jean-Baptiste Alayrac
- Deep learning in the brain(1:23:34), Blake Aaron Richards
- Theoretical Neuroscience and Deep Learning Theory(1:32:38), Surya Ganguli
- Marrying Graphical Models & Deep Learning(1:23:14), Max Welling
- Learning to Learn(1:21:05), Nando de Freitas
- Automatic Differentiation(1:18:12), Matthew James Johnson
- Combining Graphical Models and Deep Learning(1:30:25), Matthew James Johnson
- Domain Randomization for Cuboid Pose Estimation(12:52), Jonathan Tremblay
- tbd(15:48), Rogers F. Silva
- What Would Shannon Do? Bayesian Compression for DL(16:26), Karen Ullrich
- On the Expressive Efficiency of Overlapping Architectures of Deep Learning(13:13), Or Sharir
- Reinforcement Learning Summer School
- Reinforcement Learning(1:29:32), Joelle Pineau
- Policy Search for RL(1:28:26), Pieter Abbeel
- TD Learning(1:26:24), Richard S. Sutton
- Deep Reinforcement Learning(1:21:20), Hado van Hasselt
- Deep Control(1:23:52), Nando de Freitas
- Theory of RL(1:23:58), Csaba Szepesvári
- Reinforcement Learning(1:29:02), Satinder Singh
- Safe RL(1:21:44), Philip S. Thomas
- Applications of bandits and recommendation systems(43:54), Nicolas Le Roux
CS231n new lectures(Spring 2017)!
Andrew Ng launch New DL Courses!
바이두에서 나온 앤드류 응이 세가지 프로젝트를 진행한다고 합니다. 그 중에 먼저 첫 번째로 선을 보이는 것이 deeplearning.ai로 예고했던 코세라의 Deep Learning Specialization 코스입니다! 파이썬과 텐서플로를 사용하는 이 커리큘럼은 총 다섯개의 코스로 이루어져 있습니다.
- Neural Networks and Deep Learning
- Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization
- Structuring Machine Learning Projects
- Convolutional Neural Networks
- Sequence Models
작년부터 시작한 코세라의 구독 모델이 적용되는 specialization으로 월 $49를 내고 빠른 속도(!)로 주파를 하면 Certificate를 받을 수 있습니다. 돈을 내지 않고 청강을 할 수도 있는데요. 각 코스의 링크로 직접 들어가서 Enroll을 하면 팝업 화면 아래 조그맣게 쓰인 Audit 링크를 누르시면 됩니다. 자세히는 아직 모르지만 전체 커리큘럼의 수준은 intermediate 정도로 보입니다.
눈에 익은 책상과 모니터네요! 🙂
NYU 조경현 교수의 Intro. to ML 강의 노트
뉴욕 대학교의 조경현 교수가 머신러닝 커리큘럼인 Introduction to Machine Learning을 위해 작성한 강의 노트를 깃허브에 공개하였습니다. 이 강좌는 올 봄 뉴욕대학교의 학부생을 위해 열렸습니다. 강의 노트의 제목 ‘Brief Introduction to Machine Learning without Deep Learning’으로 알 수 있듯이 딥러닝을 제외한 머신러닝의 핵심을 담았습니다. 깃허브에는 파이썬 도구를 이용한 연습문제와 주피터 노트북, 숙제도 포함되어 있습니다! 또 블로그에서 강의 노트를 작성하게 된 경위와 참고할만한 자료도 같이 소개하고 있습니다. 이 강의 노트는 pdf 62 페이지로 탐독하기에 아주 적당한 것 같습니다. 🙂
CS 228: Probabilistic Graphical Models Lecture Notes
확률 그래프 모델(Probabilistic Graphical Models)의 유명한 강의로는 벤처 회사 칼리코(Calico)로 간 다프네 콜러Daphne Koller 스탠포드 교수의 코세라 강의 ‘Probabilistic Graphical Models‘가 있습니다. 또 다프네 콜러의 동명의 저서도 유명합니다. 이보다 조금 더 부드럽게 시작할 수 있는 자료로 스탠포드 CS 228 강의 노트가 웹 사이트로 공개되었습니다. 동영상 보다 글을 좋아하지만 책은 부담스러운(정말 부담스럽습니다:) 경우에 딱 좋은 것 같습니다.
CS224n: NLP with DL’s Lecture Notes
스탠포드 대학의 CS224n: NLP with Deep Learning 코스(CS224d가 CS224n으로 통합되었습니다)는 강의 동영상이 공개되지 않습니다. 하지만 강의 슬라이드, 특히 강의 노트가 공개되고 있습니다. 현재 까지 총 7개의 노트가 공개되었으며 모두 합치면 대략 100여쪽이 됩니다. 강의 노트는 CS224n 스케줄 페이지에서 다운받을 수 있고 깃허브에서도 다운받을 수 있습니다. 스케줄 페이지에서는 강의 노트외에 추천 자료등 풍성한 읽을 거리(!)가 있습니다. 현재까지 강의 노트를 하나로 합친 것은 여기에서 다운받을 수 있습니다.
(업데이트) 2017 Winter 강의 영상이 유투브에 공개되었습니다. 전체 강의는 총 18편으로 자막이 함께 제공됩니다.