自然言語処理の様々なタスクで高い性能を発揮する、「BERT」を学ぶ講座です。
BERT(Bidirectional Encoder Representations from Transformers )は2018年10月にGoogleが公開して以来、世界中のAI関係者の注目を集めています。
Section1. 講座とBERTの概要
→ 自然言語処理、Transformer、BERTについて概要を学びます。
Section2. シンプルなBERTの実装
→ 最小限のPythonのコードでBERTを実装します。
Section3. BERTの仕組み
→ Transformer、BERTなどについて仕組みを詳しく学びます。
Section4. ファインチューニングの活用
→ ファインチューニングの概要、そしてBERTにおける活用について解説します。
Section5. BERTの応用
→ BERTを使って、自然言語処理のタスクに取り組みます。