태그 보관물: Yann LeCun

ICCV GAN Tutorial & Yann’s Video at Tsinghua Univ.

컴퓨터 비전 컨퍼런스인 ICCV(International Conference on Computer Vision) 2017이 오는 10월 이탈리아 베니스에서 열립니다. 이번 ICCV 에서 이안 굿펠로우Ian Goodfellow가 1-day GANs 튜토리얼을 연다고 합니다. 얀 리쿤Yann LeCun, 서미스 친탈라Soumith Chintala 등 유명한 GANs 연구자들이 발표자로 참가합니다. 다루는 주제는 대략 아래와 같습니다.

  • Introduction to GANs
  • Semi-supervised learning with GANs
  • Practical tricks and tips for training GANs
  • Plug and Play Generative Models
  • Latent variable inference for GANs
  • Approximate Nash equilibria in neural net GANs
  • Evaluating generative models
  • Interactive image generation with GANs
  • Connections between adversarial training and reinforcement learning

다른 건 몰라도 GANs 팁은 서미스 친탈라가 하지 않을까 생각됩니다. 이안 굿펠로우는 GANs 연구에 집중하기 위해 OpenAI에서 다시 구글 브레인으로 옮겼다고 하더니 최근 활동을 보면 맞는것 같습니다.

자세한 내용은 모르지만 지난달 말 칭화대에서 “Deep Learning and The Future of AI”란 행사가 열렸던 것 같습니다. 여기서 발표한 얀 리쿤 교수의 동영상이 유투브에 올라왔습니다. 부럽네요. 🙂

Quora Sessions, RedditAMA

최근 갑자기 온라인 질의 응답 세션이 많이 생기는 것 같습니다. 전체를 다 읽어 보기에는 시간이 없지만 일부라도 시간을 할해해서 보아둠직 할 것 같습니다. 페이스북의 얀 레쿤(Yann LeCun), OpenAI의 이안 굿펠로우(Ian Goodfellow), 구글 브레인팀, 케라스(Keras) 개발자인 구글의 프랑소와 숄레(François Chollet)까지 연타입니다! 이들도 서로 약간 의식을 하는 걸까요? 🙂

DarkForest, the Facebook Go engine

figure

처: 페이스북 다크포레스트 깃허브

페이스북이 ICLR 2016에서 발표한 인공지능 바둑 엔진인 다크포레스트(DarkForest)를 깃허브에 공개하였습니다. 다크포레스트는 토치로 개발되었으며 알파고와 유사하게 딥 콘볼루션 뉴럴 네트워크와 몬테 카를로 트리 검색 방식을 함께 사용합니다. 다크포레스트는 올해 초에 네이처지를 통해 발표한 것으로 강화학습을 사용한 구글의 알파고보다는 크게 뒤지는 것으로 보입니다. 얀 리쿤(Yann LeCun) 교수의 페이스북 글을 참고하면 다크포레스트는 대략 아마 5단의 실력을 가지고 있어서 프로 5단 정도의 실력으로 평가되는 알파고와는 차이가 많이 난다고 합니다. 얼마전 이세돌과의 대국을 봐서는 알파고의 수준은 프로 5단 이상으로 보입니다.

다크포레스트의 페이퍼는 여기서 받으실 수 있으며 ICLR에 올려진 포스터는 여기서 보실 수 있습니다.

Facebook’s FAIR and AML

fastcompany.com에 페이스북의 FAIR(Facebook AI Research) 팀과 AML(Applied Machine Learning) 팀에 대한 기사가 게재되었습니다. FAIR는 얀 리쿤(Yann LeCun) 교수가 2014년 초에 페이스북에 합류하면서 만들어진 팀이고 AML은 Joaquin Candela가 리더로서 그 이후에 만들어 졌다고 합니다.

FAIR는 리서치와 개발을 7:3의 비율로 가지고 있어 좀 더 장기적인 연구를 수행하고 있고 AML은 그 반대의 비율로 페이스북 서비스에 적용할 제품을 위해 수개월 정도의 단기 개발을 주로 합니다. 페이스북은 AI 분야에 많은 투자를 하고 있고 주커버그의 최대 관심사이기도 합니다. 또 페이스북 전체적으로 오픈 소스에 기여하려고 노력한다고 합니다. 특히 뉴욕대학의 교수인 리쿤은 연구자가 결과물을 공개하지 않고 기업의 이익을 쫓을 경우 낙오가 되고 실패하게 된다고 말합니다. FAIR 그룹의 현재 최대 프로젝트는 애플의 시리, 구글의 어시스턴트, 아마존의 알렉사 같은 인공지능 비서를 위한 텍스트, 음성 인식 분야 입니다.

그런데 페이스북의 AI에 대한 미래 청사진이나 어떤 사람들이 연구에 참여하고 있는 지 보다 이 기사에서 더 눈에 띄는 것은 The Master Algorithm의 저자인 워싱톤 대학교의 페드로 도밍고스(Pedro Domingos) 교수의 말입니다. “They were a late comer, Companies like Google and Microsoft were far a head(페이스북은 뒤 늦게 시작했습니다. 구글이나 마이크로소프트가 많이 앞서 있습니다.)

구글은 2011년 구글 브레인 팀을 시작했습니다. 넉넉잡아도 페이스북과 3년정도의 차이인데 그 갭이 작지 않은 것 같습니다. 페이스북이 조급증을 버리고 AI의 강자로 자리매김할 수 있을지 기대해 봅니다.

Yann LeCun의 꼴레주 드 프랑스 강의

페이스북의 Yann LeCun 박사가 꼴레주 드 프랑스(Collège de France)에서 한 강의가 온라인으로 공개되었습니다. 2016년에 꼴레주 드 프랑스 교수가 되었다고 합니다. Yann LeCun 박사가 원래 프랑스 태생인줄 몰랐네요. 다행히 영어 더빙판이 있습니다. ^^

ICML@NYC 2016 Paper List

ny

이미지출처: icml.cc

2016년 6월 19~24일에 열리는 뉴욕 ICML(International Conference on Machine Learning)에 등록된 논문 리스트가 게시되었습니다. 많은 양이지만 관심있는 주제가 있는지 한번 살펴 보는 것도 좋을 것 같습니다. 논문에 사용된 코드의 레파지토리를 모아둔 페이지도 참고하세요.

(추가: 2016-05-08) OpenAI의 창립 위원(founding member)에서 풀타임 연구원이 된 것으로 보이는 Durk Kingma가 어제 ICML 2015의 딥러닝 워크샵 동영상을 공개했습니다. ICML 2016이 곧 열리는데 이제야 공개되는 이유는 관련 이해 당사자들의 확인을 모두 받아야 했기 때문이라고 하네요.

slide_0002_full

이 동영상 리스트는 Yoshua Bengio, Yann Lecun, Demis Hassabis 등이 참여한 패널 토크 외에 Ian Goodfellow 외에 7명의 발표로 구성되어 있습니다. 발표 자료는 슬라이드와 함께 보실 수 있으며 슬라이드가 없는 동영상은 조경현 박사의 유투브 채널에서 보실 수 있습니다. 또한 드롭박스에서 다운로드 받으실 수도 있습니다.

Durk는 이 동영상 자료를 뉴욕대학의 조교수인 조경현 박사와 함께 구성했다고 합니다. 조경현 박사는 카이스트 출신으로 이 분야에 관련된 자료를 검색할 때 종종 확인할 수 있는 한국인 입니다.

OpenAI first Work – Gym

openai-gym

OpenAI가 오늘 첫번째 작업물인 강화학습(Reinforcement Learning) 툴킷인 Gym블로그를 통해 공개했습니다. 소스는 깃허브를 통해 확인하실 수 있습니다.

Gym은 강화학습 알고리즘을 평가하고 개발하는 데 도움을 주는 툴킷으로 OpenAI에서 앞으로 연구할 강화학습 분야에 도움이 되기위해 만들었다고 합니다. Gym은 파이썬으로 작성되어 있고 특별한 프레임워크에 종속적이지 않으므로 TensorFlowTheano와도 함께 사용할 수 있습니다. 다만 현재는 파이썬 2.7.x 버전용입니다.

Gym은 강화학습을 위한 다양한 테스트 환경(environment)을 제공하여 누구나 자신의 에이전트(agent)를 개발할 수 있도록 하고 그 결과를 업로드하여 다 같이 공유할 수 있도록 하고 있습니다. 이런 접근 방법은 일전에 소개해 드렸던 Gradientzoo와 일맥상통합니다.

Gym이 발표되고 나서 흥미로운 기사가 와이어드에 실렸습니다. 기사에 의하면 지난 여름 OpenAI 설립을 준비하면서 몬트리올 대학교의 Yoshua Bengio 교수에게 자문을 구했고(Geoff Hinton은 구글, Yann LeCun은 페이스북을 위해 이미 일하고 있으므로) 업계 최고의 연구자 목록을 뽑아 컨택하기 시작했다고 합니다. 그래서 최종 10명중 9명이 OpenAI에 합류하게 되었다고 합니다.

OpenAI는 이보다 하루 더 전에 UC 버클리의 Pieter Abbeel 교수를 풀타임으로 고용하게 되었다고 밝혔습니다. Pieter Abbeel 교수는 강화학습 개발을 위한 프레임워크인 rllab을 만들었으며 로봇과 강화학습 분야에 권위자로 알려져 있습니다. 그의 랩의 학생들도 이번 여름에 OpenAI에서 인턴을 할 거라는 소문입니다.

Yan Le Cun의 강의 – “딥러닝 그리고 AI 의 미래”

yannlecun-cern

지난 달 24일 얀리쿤(Yan Le Cun) 박사가 취리히 CERN에서 강의한 ‘Deep Learning and the Future of AI’ 의 동영상이 공개되었습니다.

https://mediastream.cern.ch/MediaArchive/Video/Public2/weblecture-player/index.html?year=2016&lecture=510372#

발표 슬라이드는 아래 주소에서 다운받으실 수 있습니다.

https://indico.cern.ch/event/510372/attachments/1245509/1840815/lecun-20160324-cern.pdf

(추가) 비슷한 자료를 이용하여 1월 24일에 캘리포니아 Lawrence Livermore National Laboratory에서 진행한 발표 동영상이 유튜브에 있습니다. 유튜브에서는 자막이 지원되어 조금 더 쉽게 들으실 수 있을 것 같습니다.