日 時： 2023年10月31日（火） 14:55-16:40
会 場： オンライン開催
題 目： 先端人工知能論II 特別講演
講師名： 秋葉 拓哉氏（Stability AI Japan株式会社）
タイトル：大規模言語モデル

概要：
大規模言語モデル(LLM)の開発について、基礎的な話からはじめ、最新の動向や今後の展望について説明します。まず、subword tokenizerやtransformerのような基本的な部品について復習します。次に、pretraining, SFT, RLHF等のLLMの学習ステップについて説明します。その後、我々Stability AIが開発したStableLMシリーズやOpenAIが開発したGPT-3.5/4などの具体的なLLMの開発の実情に迫ります。最後に、今後の展望について触れます。

略歴：
東京大学大学院情報理工学系研究科で博士号を取得後、国立情報学研究所で特任助教、PFN機械学習基盤担当VPを経て、現職。Stability AI入社後は複数の生成基盤モデル構築プロジェクトを手掛ける。共著書に『Kaggleに挑む深層学習プログラミングの極意』（講談社）などがある。

参加登録はこちら（https://forms.gle/ojL7KaAe3sitXUkm8）からお願いします。
（締切： 10月31日（火）14:55まで）

※ 登録できないなどの問題が生じた際は、 faire.ai.u.tokyo▲gmail.com (▲を@にかえて）まで、お問い合わせください。

※ 過去のリンク
第1回：https://www.ai.u-tokyo.ac.jp/ja/activities/ai-seminar
第2回：https://www.ai.u-tokyo.ac.jp/ja/activities/426
第3回：https://www.ai.u-tokyo.ac.jp/ja/activities/756
第4回：https://www.ai.u-tokyo.ac.jp/ja/activities/1206
第5回：https://www.ai.u-tokyo.ac.jp/ja/activities/1581
第6回：https://www.ai.u-tokyo.ac.jp/ja/activities/2349