file
stringlengths 9
16
| audio
audioduration (s) 0.22
9.6
| transcription
stringlengths 3
54
|
|---|---|---|
0_745_747.mp3 | 所 以 bi 是 人 為 設 的 |
|
0_748_751.mp3 | 但 是 接 下 來 最 關 鍵 的 研 究 問 題 就 是 |
|
0_751_754.mp3 | bi 到 底 要 怎 麼 找 到 呢 |
|
0_754_755.mp3 | 我 們 怎 麼 知 道 |
|
0_755_758.mp3 | 哪 些 參 數 對 舊 的 任 務 是 重 要 的 |
|
0_758_762.mp3 | 哪 些 參 數 對 舊 的 任 務 是 不 重 要 的 呢 |
|
0_762_764.mp3 | 這 個 就 是 研 究 的 重 點 |
|
0_764_767.mp3 | 我 們 這 邊 呢 只 跟 大 家 用 提 示 的 方 式 |
|
0_767_769.mp3 | 簡 單 地 跟 大 家 說 |
|
0_769_772.mp3 | bi 設 計 的 大 概 念 是 什 麼 |
|
0_773_775.mp3 | 好 那 怎 麼 知 道 某 一 個 參 數 |
|
0_775_778.mp3 | 對 某 一 個 任 務 到 底 重 不 重 要 呢 |
|
0_778_781.mp3 | 那 你 可 以 在 訓 練 完 一 個 模 型 之 後 |
|
0_781_782.mp3 | 我 們 得 到 θb 之 後 |
|
0_782_785.mp3 | 看 看 θb 裡 面 每 一 個 參 數 |
|
0_785_787.mp3 | 對 這 個 任 務 的 影 響 |
|
0_787_788.mp3 | 舉 例 來 說 |
|
0_788_792.mp3 | 你 把 θb 在 θ1 這 個 方 向 做 一 下 移 動 |
|
0_793_796.mp3 | 在 θ1 這 個 方 向 上 做 移 動 |
|
0_796_798.mp3 | 好 像 對 loss 沒 有 什 麼 影 響 |
|
0_799_800.mp3 | 那 我 們 就 知 道 說 |
|
0_800_803.mp3 | θ1 沒 有 很 重 要 |
|
0_803_805.mp3 | θ1 對 任 務 一 沒 有 很 重 要 |
|
0_805_806.mp3 | 可 以 隨 便 給 它 一 個 值 |
|
0_806_809.mp3 | 那 既 然 θ1 對 任 務 一 沒 有 很 重 要 |
|
0_809_810.mp3 | 在 新 的 任 務 上 |
|
0_810_812.mp3 | θ1 就 可 以 任 意 改 變 |
|
0_812_817.mp3 | 所 以 我 們 就 可 以 給 θ1 比 較 小 的 bi 的 值 |
|
0_817_820.mp3 | 也 就 是 b1 的 值 就 會 比 較 小 |
|
0_821_822.mp3 | 反 過 來 說 |
|
0_822_824.mp3 | 如 果 我 們 觀 察 θ2 這 個 方 向 |
|
0_824_825.mp3 | 你 會 發 現 說 |
|
0_825_828.mp3 | 當 我 們 改 變 θ2 的 值 的 時 候 |
|
0_828_829.mp3 | 對 loss 的 影 響 是 大 的 |
|
0_829_832.mp3 | 我 們 改 變 θ2 的 值 的 時 候 |
|
0_832_833.mp3 | 對 loss 的 影 響 是 大 的 |
|
0_833_837.mp3 | 代 表 說 θ2 是 一 個 很 重 要 的 參 數 |
|
0_837_839.mp3 | θ2 對 task 1 是 重 要 的 參 數 |
|
0_839_841.mp3 | 所 以 你 就 不 要 去 動 它 |
|
0_841_844.mp3 | 所 以 你 要 把 θ2 的 b 設 得 大 一 點 |
|
0_844_847.mp3 | 你 要 把 b2 設 得 大 一 點 |
|
0_847_849.mp3 | 好 這 個 就 是 |
|
0_849_852.mp3 | selective synaptic plasticity 的 基 本 概 念 |
|
0_854_858.mp3 | 而 如 果 我 們 今 天 把 b1 呢 設 小 一 點 |
|
0_858_860.mp3 | b2 設 大 一 點 |
|
0_860_862.mp3 | 那 如 果 在 task 2 訓 練 的 時 候 |
|
0_862_864.mp3 | 會 發 生 什 麼 事 呢 |
|
0_864_866.mp3 | 因 為 b1 比 較 小 |
|
0_866_870.mp3 | 代 表 說 我 們 可 以 把 模 型 在 這 個 方 向 上 |
|
0_870_871.mp3 | 自 由 地 移 動 |
|
0_871_873.mp3 | 而 b2 比 較 大 |
|
0_873_876.mp3 | 代 表 說 在 這 個 方 向 上 自 由 地 移 動 |
|
0_876_878.mp3 | 是 沒 有 辦 法 的 |
|
0_878_880.mp3 | 所 以 如 果 我 們 把 b1 設 小 一 點 |
|
0_880_881.mp3 | b2 設 大 一 點 |
|
0_881_884.mp3 | 那 你 把 θb 做 update 的 時 候 |
|
0_884_886.mp3 | 它 就 不 會 往 這 個 方 向 走 |
|
0_886_889.mp3 | 它 就 會 傾 向 於 往 這 個 方 向 走 |
|
0_889_892.mp3 | 因 為 我 們 只 希 望 模 型 去 更 新 這 個 θ1 就 好 |
|
0_892_894.mp3 | 盡 量 不 要 動 到 θ2 |
|
0_894_897.mp3 | 那 你 就 可 能 把 你 的 這 個 gradient 的 方 向 呢 |
|
0_897_898.mp3 | 本 來 是 這 樣 update 的 |
|
0_898_900.mp3 | 那 就 變 成 這 樣 子 update |
|
0_900_902.mp3 | 得 到 θ* |
|
0_902_905.mp3 | 然 後 再 把 θ* 拿 回 來 原 來 的 任 務 一 |
|
0_905_908.mp3 | 那 因 為 任 務 一 呢 在 這 個 方 向 上 移 動 |
|
0_908_910.mp3 | 對 loss 的 影 響 是 小 的 |
|
0_910_911.mp3 | 所 以 你 在 任 務 二 上 |
|
0_911_913.mp3 | 假 設 只 有 在 這 個 方 向 上 移 動 |
|
0_913_916.mp3 | 那 對 任 務 一 的 loss 的 影 響 就 小 了 |
|
0_916_919.mp3 | 那 所 以 新 的 θ* 用 在 這 個 地 方 |
|
0_919_922.mp3 | 它 的 對 task 1 的 傷 害 就 不 大 |
|
0_922_924.mp3 | 也 許 你 就 可 以 藉 此 做 到 |
|
0_924_926.mp3 | 避 免 catastrophic forgetting 的 問 題 |
|
0_929_930.mp3 | 好 那 接 下 來 這 個 呢 |
|
0_930_932.mp3 | 是 一 個 文 獻 上 真 正 的 實 驗 結 果 |
|
0_932_934.mp3 | 那 這 個 結 果 呢 |
|
0_934_936.mp3 | 是 來 自 於 ewc 這 篇 paper |
|
0_936_938.mp3 | ewc paper 的 連 結 |
|
0_938_940.mp3 | 也 有 放 在 下 一 頁 投 影 片 裡 面 |
|
0_940_942.mp3 | 如 果 你 有 興 趣 的 話 再 自 己 參 考 |
|
0_942_944.mp3 | 好 那 這 個 圖 怎 麼 看 呢 |
|
0_944_946.mp3 | 你 在 看 那 個 lifelong learning 的 文 獻 的 時 候 |
|
0_946_949.mp3 | 這 種 類 似 的 圖 是 非 常 常 出 現 的 |
|
0_949_952.mp3 | 常 常 paper 幾 乎 都 會 放 類 似 這 樣 子 的 圖 |
|
0_952_954.mp3 | 這 個 橫 軸 是 什 麼 |
|
0_954_957.mp3 | 橫 軸 代 表 依 序 訓 練 的 過 程 |
|
0_957_959.mp3 | 在 第 一 個 虛 線 左 邊 |
|
0_959_961.mp3 | 這 個 指 的 是 訓 練 任 務 a |
|
0_961_963.mp3 | 就 我 們 有 a b c 三 個 任 務 |
|
0_963_964.mp3 | 我 們 先 訓 練 任 務 a |
|
0_965_967.mp3 | 然 後 呢 再 訓 練 任 務 b |
|
0_967_968.mp3 | 再 訓 練 任 務 c |
|
0_968_971.mp3 | 這 三 個 任 務 依 序 訓 練 的 結 果 |
|
0_971_974.mp3 | 那 縱 軸 呢 這 邊 有 三 個 縱 軸 |
|
0_974_978.mp3 | 第 一 個 縱 軸 代 表 任 務 a 的 正 確 率 |
|
0_978_980.mp3 | 第 二 個 縱 軸 是 任 務 b 的 正 確 率 |
|
0_980_983.mp3 | 第 三 個 縱 軸 是 任 務 c 的 正 確 率 |
|
0_983_985.mp3 | 那 畫 這 樣 一 個 圖 你 就 可 以 看 出 說 |
|
0_985_989.mp3 | 當 我 們 依 序 學 a b c 三 個 任 務 的 時 候 |