자연어 처리(NLP)는 인공지능의 가장 빠르게 성장하는 분야 중 하나입니다. 이 강의는 NLP의 기초부터 시작하여, 딥러닝을 이용한 최신 NLP 기술까지 폭넓게 다룹니다. 특히, ChatGPT와 같은 최첨단 생성 모델에 대한 심도 있는 이해를 제공합니다.
130_Transformer 실습 code 문제점 해결
최근 Google 이 Tensorflow 최신 버전을 기존 source 와 back testing 완전히 안된 불완전한 상태로 release 하고 있는 것 같습니다. 다음과 같이 tensorflow 를 현재의 2.17.0 에서 이전의 안정된 2.15.0 version 으로 downgrade 하여 문제를 해결하였습니다. github source 도 update 해 놓았습니다.
# 현재의 tensorflow version 삭제
!pip uninstall --y tensorflow
# tensorflow version downgrade
!pip install tensorflow==2.15.0
# downgrade 되었는지 확인
import tensorflow as tf
print(tf.__version__)
# Downgrade된 TensorFlow의 버전에 맞는 package 설치
!apt install --allow-change-held-packages libcudnn8=8.1.0.77-1+cuda11.2
# Install the compatible cuDNN version for CUDA 11.8
!apt install --allow-change-held-packages libcudnn8=8.1.0.77-1+cuda11.2
# Uninstall existing TensorFlow and related packages
!pip uninstall -y -q tensorflow keras tensorflow-estimator tensorflow-text
# Install the required protobuf version
!pip install protobuf~=3.20.3
# Install TensorFlow Datasets
!pip install -q tensorflow_datasets
# Install TensorFlow 2.15.0 and TensorFlow Text 2.15.0
!pip install -q -U tensorflow-text==2.15.0
이렇게 하시면 T4 GPU 기준 Colab 으로 1시간 이내에 training 작업 끝낼 수 있습니다.