file
stringlengths 9
16
| audio
audioduration (s) 0.22
9.6
| transcription
stringlengths 3
48
|
|---|---|---|
0_3_6.mp3 | 好 那 我 們 就 繼 續 講 吧 |
|
0_7_8.mp3 | 我 們 就 繼 續 講 吧 |
|
0_10_12.mp3 | 好 那 我 們 接 下 來 呢 |
|
0_12_17.mp3 | 就 是 要 講 三 個 lifelong learning 的 可 能 解 法 |
|
0_17_19.mp3 | 那 第 一 個 解 法 |
|
0_19_24.mp3 | 叫 做 selective synaptic plasticity |
|
0_24_25.mp3 | 那 從 字 面 上 |
|
0_25_28.mp3 | 你 可 能 一 下 子 沒 有 辦 法 get 到 說 |
|
0_28_30.mp3 | 這 個 方 法 到 底 想 要 做 什 麼 |
|
0_31_34.mp3 | 這 個 synaptic 是 突 觸 的 意 思 |
|
0_37_39.mp3 | 神 經 跟 神 經 之 間 的 連 結 |
|
0_39_41.mp3 | 這 個 叫 做 突 觸 |
|
0_41_43.mp3 | plasticity 呢 |
|
0_43_45.mp3 | 是 可 塑 性 的 意 思 |
|
0_45_46.mp3 | 所 以 簡 單 來 說 |
|
0_48_53.mp3 | 我 們 只 讓 我 們 的 這 個 類 神 經 網 路 中 |
|
0_53_55.mp3 | 某 一 些 神 經 元 |
|
0_55_58.mp3 | 或 某 一 些 神 經 元 間 的 連 結 |
|
0_58_59.mp3 | 具 有 可 塑 性 |
|
0_59_61.mp3 | selective 的 意 思 就 是 說 |
|
0_61_64.mp3 | 只 有 部 分 的 連 結 是 有 可 塑 性 的 |
|
0_64_66.mp3 | 有 一 些 連 結 必 須 被 固 化 |
|
0_66_68.mp3 | 它 必 須 不 能 夠 再 移 動 |
|
0_68_71.mp3 | 不 能 夠 再 改 變 它 的 數 值 |
|
0_72_74.mp3 | 那 像 這 樣 的 方 法 又 叫 做 |
|
0_74_77.mp3 | regularization based 的 方 法 |
|
0_77_79.mp3 | 那 這 個 面 向 |
|
0_79_80.mp3 | 這 個 研 究 的 面 向 |
|
0_80_82.mp3 | 在 lifelong learning 的 領 域 裡 面 |
|
0_82_85.mp3 | 我 覺 得 是 發 展 得 最 完 整 的 |
|
0_85_87.mp3 | 所 以 等 一 下 我 們 會 花 比 較 多 的 時 間 |
|
0_87_90.mp3 | 來 講 selective synaptic plasticity |
|
0_90_91.mp3 | 那 另 外 兩 個 面 向 呢 |
|
0_91_95.mp3 | 我 們 都 只 用 一 兩 頁 投 影 片 很 快 地 帶 過 |
|
0_95_98.mp3 | 那 你 會 發 現 作 業 裡 面 主 要 的 問 題 |
|
0_98_99.mp3 | 也 都 集 中 在 |
|
0_99_102.mp3 | 跟 regularization based 有 關 的 方 法 上 面 |
|
0_103_105.mp3 | 好 那 我 們 先 來 想 一 下 |
|
0_105_108.mp3 | 為 什 麼 catastrophic forgetting 這 件 事 情 |
|
0_108_109.mp3 | 會 發 生 呢 |
|
0_110_113.mp3 | 我 們 假 設 有 任 務 一 跟 任 務 二 |
|
0_113_114.mp3 | 這 兩 個 任 務 |
|
0_114_115.mp3 | 而 這 兩 個 任 務 呢 |
|
0_115_118.mp3 | 我 們 假 設 我 們 的 模 型 只 有 兩 個 參 數 |
|
0_118_120.mp3 | θ1 跟 θ2 |
|
0_120_122.mp3 | 那 當 然 一 個 模 型 通 常 有 上 |
|
0_122_124.mp3 | 上 百 萬 上 億 個 參 數 |
|
0_124_126.mp3 | 不 過 我 們 假 設 只 有 兩 個 參 數 |
|
0_127_130.mp3 | 好 那 這 個 投 影 片 上 這 兩 張 圖 |
|
0_130_135.mp3 | 代 表 的 是 任 務 一 跟 任 務 二 的 loss function |
|
0_135_137.mp3 | 也 就 是 在 任 務 一 上 面 |
|
0_137_141.mp3 | 如 果 你 的 θ1 跟 θ2 |
|
0_141_142.mp3 | 設 不 一 樣 的 值 |
|
0_142_144.mp3 | 你 就 會 有 不 一 樣 的 loss |
|
0_144_148.mp3 | 那 我 們 用 顏 色 來 代 表 loss 的 大 小 |
|
0_149_151.mp3 | 如 果 顏 色 越 偏 藍 色 |
|
0_153_154.mp3 | 顏 色 越 偏 白 色 |
|
0_156_157.mp3 | 不 好 意 思 我 剛 才 說 反 |
|
0_157_158.mp3 | 顏 色 越 偏 藍 色 |
|
0_158_160.mp3 | 代 表 loss 越 小 |
|
0_160_162.mp3 | 顏 色 越 偏 白 色 |
|
0_164_167.mp3 | 好 所 以 左 右 兩 張 圖 分 別 就 是 任 務 一 |
|
0_167_170.mp3 | 跟 任 務 二 的 loss function |
|
0_170_172.mp3 | 也 就 是 他 們 的 error surface |
|
0_176_178.mp3 | 那 模 型 怎 麼 訓 練 任 務 一 呢 |
|
0_178_180.mp3 | 你 要 有 一 個 隨 機 初 始 化 的 參 數 |
|
0_180_183.mp3 | 我 們 這 邊 叫 它 θ0 |
|
0_184_186.mp3 | 然 後 我 們 會 用 gradient descent 的 方 法 |
|
0_186_189.mp3 | 去 調 整 θ0 的 參 數 |
|
0_189_192.mp3 | 那 你 就 按 照 gradient 的 方 向 呢 |
|
0_192_194.mp3 | 去 update θ0 的 參 數 |
|
0_194_196.mp3 | 得 到 θb |
|
0_196_198.mp3 | 好 那 假 設 update 夠 多 次 數 |
|
0_198_200.mp3 | 你 覺 得 loss 降 得 夠 低 了 |
|
0_200_203.mp3 | 那 你 就 等 於 是 把 任 務 一 學 完 了 |
|
0_203_205.mp3 | 那 假 設 任 務 一 學 完 後 |
|
0_205_208.mp3 | 我 們 得 到 的 參 數 是 θb |
|
0_208_212.mp3 | 接 下 來 我 們 得 繼 續 解 任 務 二 |
|
0_212_213.mp3 | 你 就 把 θb |
|
0_213_215.mp3 | 同 樣 的 參 數 拷 貝 過 來 |
|
0_215_219.mp3 | 拷 貝 到 任 務 二 的 這 個 error surface 上 面 |
|
0_219_220.mp3 | 注 意 一 下 |
|
0_220_223.mp3 | 雖 然 左 右 兩 邊 error surface 是 不 一 樣 的 |
|
0_223_226.mp3 | 但 是 θb 我 們 這 邊 指 的 是 同 一 組 參 數 |
|
0_226_230.mp3 | θb 是 用 任 務 一 訓 練 出 來 的 參 數 |
|
0_230_233.mp3 | 我 們 現 在 把 它 用 在 任 務 二 上 |
|
0_233_236.mp3 | 我 們 現 在 把 θb 放 在 任 務 二 上 |
|
0_236_238.mp3 | 繼 續 去 做 訓 練 |
|
0_240_244.mp3 | 我 們 有 另 外 一 個 不 一 樣 的 error surface |
|
0_246_248.mp3 | 去 再 update 參 數 |
|
0_248_252.mp3 | 那 我 們 可 能 會 把 θb 往 右 上 角 移 |
|
0_255_258.mp3 | θ* 是 訓 練 完 任 務 一 |
|
0_258_260.mp3 | 接 下 來 又 訓 練 完 任 務 二 |
|
0_260_264.mp3 | 依 序 訓 練 兩 個 任 務 以 後 所 得 到 的 參 數 |
|
0_264_265.mp3 | 現 在 用 θ* 來 代 表 |
|
0_265_268.mp3 | 依 序 訓 練 完 兩 個 任 務 以 後 所 得 到 的 參 數 |
|
0_269_270.mp3 | 這 個 θ* |
|
0_270_272.mp3 | 它 在 任 務 二 上 |
|
0_272_275.mp3 | 是 在 一 個 error surface 比 較 低 |
|
0_277_280.mp3 | 所 以 它 在 任 務 二 上 會 得 到 好 的 表 現 |
End of preview. Expand
in Dataset Viewer.
- Downloads last month
- 44