카테고리 보관물: Deep Learning

텐서플로 2.9 버전이 릴리스되었습니다.

며칠 전 텐서플로 2.9버전이 릴리스되었습니다. 주요 변경 사항을 텐서플로 블로그에 소개했습니다. 요약하면 다음과 같습니다.

  • 텐서플로 2.5버전에서 실험적으로 포함되었던 인텔 oneDNN 라이브러리에 대한 최적화가 2.9버전에서 기본적으로 활성화됩니다(리눅스 패키지와 캐스케이드 레이크 이후의 CPU).
  • 모델 병렬화를 위한 DTensor API가 추가되었습니다. 자세한 내용은 DTensor Concepts, Distributed ML with DTensors, Using DTensors with Keras 문서를 참고하세요.
  • tf.function의 트레이싱 방식을 개선했습니다.
  • 텐서플로 2.8 버전에서 소개된 tf.config.experimental.enable_op_determinism()의 기능을 개선하여 실행마다 동일한 결과를 얻을 수 있습니다.
  • 옵티마이저 커스터마이징을 용이하게 하기 위해 tf.keras.optimizers.experimental API가 추가되었습니다. 향후 tf.keras.optimizers.experimentaltf.keras.optimizers.Optimizer를 대체합니다.

이 외에도 다양한 기능이 추가되고 변경되었습니다. Revisiting ResNets 모델인 tf.keras.applications.resnet_rs, L2 정규화 층인 tf.keras.layers.UnitNormalization, 새로운 규제 층인 tf.keras.regularizers.OrthogonalRegularizer, 새로운 이미지 전처리 층인 tf.keras.layers.RandomBrightness가 추가되었습니다. 더 자세한 내용은 텐서플로 릴리스 노트를 참고하세요!

<혼자 공부하는 머신러닝+딥러닝> 7장부터 시작하는 딥러닝 파트의 코드를 텐서플로 2.9 버전에서 모두 테스트하여 깃허브에 업데이트했습니다!

항상 최신 버전의 라이브러리에서 테스트하여 예제 코드에 문제가 없도록 하겠습니다! 감사합니다!

“구글 브레인 팀에게 배우는 딥러닝 with TensorFlow.js”가 출간되었습니다!

유일무이한 자바스크립트 딥러닝 라이브러리인 TensorFlow.js를 다룬 <구글 브레인 팀에게 배운 딥러닝 with TensorFlow.js>가 출간되었습니다.

이 책은 구글 브레인 팀에서 TensorFlow.js를 개발하고 지원하는 에릭 닐슨, 스탠 바일시, 샨칭 차이 그리고 케라스를 만든 프랑소와 숄레가 쓴 책입니다. TensorFlow.js 뿐만 아니라 일반적인 딥러닝에 대해서도 폭 넓은 주제를 담고 있습니다.

심층 신경망, 합성곱 신경망, 자연어 처리, 전이 학습, 시퀀스 모델링, 생성 모델, 강화 학습까지 20여개가 넘는 예제를 통해 딥러닝을 배워 보세요. 이 외에도 과대적합과 과소적합은 물론 일반적인 머신러닝의 워크플로에 대해서도 빠지지 않고 설명합니다.

자바스크립트 월드와 딥러닝 던전을 연결하는 멋진 세계를 지금 바로 경험해 보세요!

  • 온라인 서점에서 판매중입니다. [Yes24], [교보문고], [알라딘]
  • 648페이지, 풀컬러: 44,000원 –> 39,600원, 전자책 35,200원
  • 이 책에 실린 코드는 깃허브에 있습니다.
  • 이 책에 실린 예제의 온라인 데모를 제공합니다.

“혼자 공부하는 머신러닝+딥러닝”과 “파이토치로 배우는 자연어 처리”가 교보문고 2021년 올해의 책에 선정되었습니다!

교보문고 2021 올해의 책에 <혼자 공부하는 머신러닝+딥러닝>과 <파이토치로 배우는 자연어 처리> 책이 선정되었습니다. <혼자 공부하는 머신러닝+딥러닝>은 AI/ML 분야에서 1등을 했고 <파이토치로 배우는 자연어 처리>는 자연어 처리 분야에서 1등을 했습니다! (머신 러닝 교과서도 후보에 들었네요! 🙂 )

한 해 동안 제 책을 애독해 주신 모든 분들께 정말 감사드립니다!

TensorFlow 2.7.0이 릴리스되었습니다.

얼마전 케라스 2.7.0 버전이 릴리스된 후 이어서 텐서플로 2.7.0 버전이 릴리스되었습니다. 당연하지만 텐서플로 2.7.0은 케라스 2.7.0 버전을 사용합니다. 주요 변경 사항으로는 서브클래싱으로 만든 케라스 모델에서 스칼라 입력을 자동으로 2D 텐서로 확장하지 않습니다. to_yaml()model_from_yaml()을 사용하지 못하며 대신 json이나 h5 포맷을 사용해야 합니다. 합성곱 층에 convolution_op() 메서드가 추가되어 커스텀 합성곱 층을 만들기 쉬워 집니다. 디버깅에 용이하도록 에러 메시지가 읽기 쉽게 제공됩니다.

더 자세한 내용은 텐서플로 2.7.0의 릴리스 노트를 참고하세요! 감사합니다. 🙂

[핸즈온 머신러닝 2], [GAN 인 액션], [파이썬을 활용한 머신러닝 쿡북], [케라스 창시자에게 배우는 딥러닝], [파이토치로 배우는 자연어 처리] 텐서플로 2.6과 파이토치 1.9 버전 테스트 완료

[핸즈온 머신러닝 2], [GAN 인 액션], [파이썬을 활용한 머신러닝 쿡북], [케라스 창시자에게 배우는 딥러닝]의 주피터 코드를 텐서플로 2.6, 케라스 2.6 버전에서 테스트하여 깃허브에 반영하였습니다. [파이토치로 배우는 자연어 처리]는 파이토치 1.9 버전에서 테스트하여 깃허브에 반영하였습니다. 책을 보실 때 참고하세요. 감사합니다!

[혼자 공부하는 머신러닝+딥러닝], [Do It! 딥러닝 입문], [머신 러닝 교과서 3판], [딥러닝 일러스트레이티드] 텐서플로/케라스 2.6 테스트 완료

[혼자 공부하는 머신러닝+딥러닝], [Do It! 딥러닝 입문], [머신 러닝 교과서 3판], [딥러닝 일러스트레이티드]의 주피터 노트북 코드를 최신 텐서플로 2.6, 케라스 2.6 버전에서 모두 테스트하여 깃허브에 반영하였습니다. 책을 보실 때 참고하세요. 감사합니다!

TensorFlow 2.6.0, Keras 2.6.0 Release

텐서플로 2.6.0과 케라스 2.6.0 버전이 릴리스되었습니다. 앞서 포스팅에서도 소개했듯이 텐서플로 2.6.0 버전부터 케라스가 다시 분할되어 별개 패키지로 관리됩니다. 이로 인해 멀티백엔드 케라스 버전은 사라지고 github.com/kears-team/keras 저장소는 텐서플로 백엔드 케라스를 호스팅합니다. 의도한 것인지는 모르겠지만 텐서플로와 케라스 버전이 모두 2.6.0이라서 혼돈이 줄어들 것 같습니다. 텐서플로 2.6.0에는 케라스 버전 뭐가 맞아요 같은 질문이 없으려면 앞으로도 두 패키지의 버전이 같게 나왔으면 좋겠습니다. 🙂

기존의 tf.keras를 사용하는 코드는 그대로 두어도 괜찮습니다. 자동으로 keras 패키지를 사용합니다. tensorflow.python.kreas는 텐서플로 2.7 버전에서 삭제되므로 이렇게 임포트하는 경우에는 tf.kreas로 바꾸어야 됩니다.

그외 자세한 내용은 텐서플로 2.6.0 릴리스 노트케라스 2.6.0 릴리스 노트를 참고하세요.

TensorFlow 2.6.0 RC0

텐서플로 2.6.0 RC0 버전이 릴리스되었습니다. 예상대로 텐서플로 2.6 버전에서 케라스 코드가 기존 멀티백엔드 케라스 저장소인 keras-team/keras로 이동합니다. 이제 텐서플로의 케라스 tf.keras는 keras 패키지로 리다이렉션하는 역할만 수행합니다.

keras-team/keras에서 tensorflow/tensorflow로 텐서플로 백엔드 케라스가 분기했고 이제 다시 keras-team/keras로 이전합니다. 멀티백엔드 케라스는 이제 정말 안녕이라고 말해야겠군요. 😦

그 외에도 실험적인 케라스 전처리 층이 코어 모듈로 승격되었습니다. 자세한 내용은 텐서플로 2.6.0 RC0 릴리스 노트를 참고하세요.

“혼자 공부하는 머신러닝+딥러닝”, “머신 러닝 교과서 3판”, “딥러닝 일러스트레이티드” 주피터 노트북 텐서플로 2.5 테스트 완료

<혼자 공부하는 머신러닝+딥러닝>, <머신 러닝 교과서 3판>, <딥러닝 일러스트레이티드>의 주피터 노트북을 최신 텐서플로 2.5에서 테스트하여 깃허브에 업데이트했습니다! 감사합니다! 🙂

“파이토치로 배우는 자연어 처리”가 출간되었습니다.

<파이토치로 배우는 자연어 처리>는 델립 라오Delip Rao, 브라이언 맥머핸Brian McMahan이 지은 <Natural Language Processing with PyTorch>의 번역서입니다.

저의 첫 번째 파이토치 책이네요. 부족한 점이 많지만 재미있게 봐주세요. 책을 내기까지 도와 주신 모든 분들께 정말 감사드립니다!

  • 온라인/오프라인 서점에서 판매중입니다. [Yes24], [교보문고], [알라딘]
  • 296페이지, 풀 컬러: 26,000원 –> 23,400원, 전자책: 20,800원
  • 이 책에 실린 코드는 깃허브에 있습니다.
  • 이 책의 코드는 사이킷런 0.24, 파이토치 1.8에서 테스트되었고 구글 코랩(Colab)을 사용해 무료로 실행할 수 있습니다.