2019

概要

深層学習の基礎を身につけるために、「深層学習による自然言語処理」を輪読します。

勉強会の前までに各自で本文を読んで来てください。

勉強会では適当に指名して本文を読んでもらい、必要に応じて解説もしてもらいます。

メンバー

TA

    • 本間

参加者

    • 高橋

    • 中澤

    • 平尾

    • 山下

    • 小山(B3)

    • 喜友名(B3)

スケジュール

開催コマは、毎週木曜日の16:20〜です。

    • 2019-04-18 #1 キックオフ、第1章 自然言語処理のアプローチ

    • 2019-04-25 #2 (平尾) 第2章 ニューラルネットの基礎 ①(2.1.教師あり学習、2.2.順伝播型ニューラルネット、2.3.活性化関数)

    • 2019-05-02 GWのためお休み

  • 2019-05-09 #3 (中澤) 第2章 ニューラルネットの基礎 ②(2.4.勾配法、2.5.誤差逆伝播法)

    • 2019-05-16 #4 (山下) 第2章 ニューラルネットの基礎 ③(2.6.再帰ニューラルネット、2.7.ゲート付き再帰ニューラルネット、2.8.木構造再帰ニューラルネット)

    • 2019-05-23 #5 (高橋) 第3章 言語処理における深層学習の基礎 ①(3.1.準備、3.2.言語モデル)

    • 2019-05-30 #6 (王) 第3章 言語処理における深層学習の基礎 ②(3.3.分散表現)

    • 2019-06-06 JSAI のためお休み

    • 2019-06-13 #7 (小山) 第3章 言語処理における深層学習の基礎 ③(3.4.系列変換モデル)

    • 2019-06-20 #8 (喜友名)第4章 言語処理特有の深層学習の発展 ①(4.1.注意機構、4.2.記憶ネットワーク)

    • 2019-06-27 #9 (平尾) 第4章 言語処理特有の深層学習の発展 ①(4.3.出力層の高速化)、第5章 応用 ①(5.1.機械翻訳)

    • 2019-07-04 #10 (中澤) 第5章 応用 ②(5.2.文書要約)

    • 2019-07-11 #11 (山下) 第5章 応用 ③(5.3.対話、5.4.質問応答)

    • 2019-07-18 #12 (喜友名)第6章 汎化性能を向上させる技術 ①(6.1.汎化誤差の分解、6.2.推定誤差低減に効く手法)

    • 2019-07-25 #13 (高橋) 第6章 汎化性能を向上させる技術 ②(6.3.最適化誤差低減に効く手法、6.4.超パラメータ選択)、第7章 実装 ①(7.1.GPUとGPGPU、7.2.RNNにおけるミニバッチ化)

    • 2019-08-01 13:00~ #14 (王) 第7章 実装 ②(7.3.無作為抽出、7.4.メモリ使用量の削減、7.5.誤差逆伝播法の実装)、第8章 おわりに

  • 2019-08-08 #15 (高橋) 第7章 実装 ②(7.3.無作為抽出、7.4.メモリ使用量の削減、7.5.誤差逆伝播法の実装)、第8章 おわりに

過去ログ

    • 2019-04-18 16:20-17:10 #1 キックオフ、第1章 自然言語処理のアプローチ

    • 2019-04-25 16:20-17:20 #2 (平尾) 第2章 ニューラルネットの基礎 ①(2.1.教師あり学習、2.2.順伝播型ニューラルネット、2.3.活性化関数)

    • 2019-05-09 16:20-17:10 #3 (中澤) 第2章 ニューラルネットの基礎 ②(2.4.勾配法、2.5.誤差逆伝播法)

    • 2019-05-16 16:20-17:40 #4 (山下) 第2章 ニューラルネットの基礎 ③(2.6.再帰ニューラルネット、2.7.ゲート付き再帰ニューラルネット、2.8.木構造再帰ニューラルネット、2.9.畳み込みニューラルネット)

    • 2019-05-23 16:20-18:15 #5 (高橋) 第3章 言語処理における深層学習の基礎 ①(3.1.準備、3.2.言語モデル)

    • 2019-05-30 16:20-17:40 #6 (王) 第3章 言語処理における深層学習の基礎 ②(3.3.分散表現)

    • 2019-06-13 16:20-18:15 #7 (小山) 第3章 言語処理における深層学習の基礎 ③(3.4.系列変換モデル)

    • 2019-06-20 16:20-18:05 #8 (喜友名)第4章 言語処理特有の深層学習の発展 ①(4.1.注意機構、4.2.記憶ネットワーク)

    • 2019-06-27 16:20-17:35 #9 (平尾) 第4章 言語処理特有の深層学習の発展 ①(4.3.出力層の高速化)、第5章 応用 ①(5.1.機械翻訳)

    • 2019-07-04 16:20-17:30 #10 (中澤) 第5章 応用 ②(5.2.文書要約)

    • 2019-07-11 16:20-17:45 #11 (山下) 第5章 応用 ③(5.3.対話、5.4.質問応答)

    • 2019-07-18 16:20-17:35 #12 (喜友名)第6章 汎化性能を向上させる技術 ①(6.1.汎化誤差の分解、6.2.推定誤差低減に効く手法)

    • 2019-07-25 16:20-17:55 #13 (高橋) 第6章 汎化性能を向上させる技術 ②(6.3.最適化誤差低減に効く手法、6.4.超パラメータ選択)、第7章 実装 ①(7.1.GPUとGPGPU、7.2.RNNにおけるミニバッチ化)

    • 2019-08-01 13:00-14:30 #14 (王) 第7章 実装 ②(7.3.無作為抽出、7.4.メモリ使用量の削減、7.5.誤差逆伝播法の実装)、第8章 おわりに