file
stringlengths 9
16
| audio
audioduration (s) 0.22
9.6
| transcription
stringlengths 3
54
|
|---|---|---|
0_511_513.mp3 | 越 接 近 越 好 |
|
0_513_513.mp3 | 所 以 我 們 呢 |
|
0_513_518.mp3 | 把 θi 跟 θ 上 標 b 下 標 i 相 減 |
|
0_518_519.mp3 | 然 後 取 它 們 的 平 方 |
|
0_520_521.mp3 | 那 我 們 在 前 面 呢 |
|
0_521_524.mp3 | 會 乘 上 一 個 數 值 叫 做 bi |
|
0_524_526.mp3 | 這 個 bi 就 是 要 告 訴 我 們 說 |
|
0_526_529.mp3 | 到 底 我 們 有 多 強 烈 地 希 望 |
|
0_529_533.mp3 | θi 跟 θ 上 標 b 下 標 i |
|
0_533_534.mp3 | 越 靠 近 越 好 |
|
0_534_536.mp3 | 如 果 bi 的 值 很 大 |
|
0_536_539.mp3 | 就 代 表 說 我 們 希 望 θi 跟 θbi 非 常 靠 近 |
|
0_539_541.mp3 | 如 果 bi 的 值 很 小 |
|
0_541_545.mp3 | 代 表 我 們 覺 得 θi 沒 有 跟 θbi 很 靠 近 |
|
0_545_546.mp3 | 也 無 所 謂 |
|
0_547_548.mp3 | 好 那 這 個 呢 |
|
0_548_550.mp3 | 就 是 我 們 要 optimize |
|
0_550_551.mp3 | 這 個 l' 呢 |
|
0_551_553.mp3 | 就 是 我 們 真 正 要 optimize 的 對 象 |
|
0_553_555.mp3 | 它 裡 面 有 兩 項 |
|
0_555_557.mp3 | 一 個 是 原 來 的 新 的 任 務 的 loss |
|
0_557_558.mp3 | 另 外 一 項 呢 |
|
0_558_562.mp3 | 就 是 要 讓 θi 跟 θbi 越 接 近 越 好 |
|
0_562_564.mp3 | 但 是 要 注 意 一 下 |
|
0_564_565.mp3 | 我 們 並 不 是 |
|
0_566_568.mp3 | 平 等 地 去 看 待 |
|
0_568_571.mp3 | 所 有 的 參 數 要 不 要 接 近 這 件 事 |
|
0_571_575.mp3 | 我 們 其 實 只 要 求 θ 跟 θbi |
|
0_575_577.mp3 | 在 某 些 參 數 上 接 近 就 好 |
|
0_577_580.mp3 | 並 不 需 要 所 有 參 數 都 接 近 |
|
0_580_582.mp3 | 只 要 某 些 參 數 接 近 就 好 |
|
0_582_584.mp3 | 那 哪 些 參 數 要 接 近 |
|
0_584_586.mp3 | 就 由 bi 來 控 制 |
|
0_586_587.mp3 | 如 果 某 一 個 參 數 i |
|
0_587_589.mp3 | 第 i 個 參 數 它 的 bi 很 大 |
|
0_589_591.mp3 | 就 代 表 我 們 希 望 第 i 個 參 數 |
|
0_591_593.mp3 | 它 跟 舊 的 參 數 |
|
0_593_594.mp3 | 之 前 的 任 務 learn 出 來 的 那 個 參 數 |
|
0_594_595.mp3 | 要 非 常 接 近 |
|
0_595_597.mp3 | 反 之 bi 等 於 0 就 代 表 |
|
0_597_599.mp3 | 我 們 根 本 不 care 新 的 參 數 跟 舊 的 參 數 |
|
0_599_601.mp3 | 到 底 要 不 要 接 近 |
|
0_602_604.mp3 | 好 所 以 如 果 今 天 呢 |
|
0_604_605.mp3 | bi 設 為 0 |
|
0_605_607.mp3 | 所 有 的 參 數 它 的 i |
|
0_607_610.mp3 | 所 有 的 參 數 它 的 bi 我 們 都 設 為 0 |
|
0_610_611.mp3 | 那 意 味 著 什 麼 |
|
0_611_612.mp3 | 那 意 味 著 就 是 |
|
0_612_616.mp3 | 我 們 沒 有 給 我 們 的 θi 任 何 限 制 |
|
0_616_619.mp3 | 我 們 完 全 沒 有 要 求 新 的 learn 出 來 的 參 數 |
|
0_619_623.mp3 | 跟 過 去 學 出 來 的 參 數 有 什 麼 樣 的 關 係 |
|
0_623_625.mp3 | 那 這 個 時 候 就 是 一 般 的 training |
|
0_625_628.mp3 | 就 會 有 catastrophic forgetting 的 問 題 |
|
0_628_631.mp3 | 但 是 你 可 能 會 想 說 既 然 bi 設 0 是 不 好 的 |
|
0_631_634.mp3 | 那 我 們 就 把 bi 給 它 設 一 個 非 常 大 的 值 |
|
0_634_636.mp3 | 所 有 的 i |
|
0_636_639.mp3 | 所 有 的 參 數 都 給 它 一 個 非 常 大 的 bi |
|
0_639_641.mp3 | 那 這 樣 就 不 會 有 forgetting 的 問 題 |
|
0_641_643.mp3 | 但 是 你 會 進 入 另 外 一 個 極 端 |
|
0_643_646.mp3 | 這 個 極 端 叫 做 intransigence |
|
0_646_648.mp3 | 這 個 極 這 個 intransigence 的 意 思 就 是 |
|
0_648_651.mp3 | 這 個 不 肯 妥 協 不 肯 讓 步 |
|
0_651_653.mp3 | 頑 固 的 意 思 |
|
0_653_656.mp3 | 所 以 intransigence 的 意 思 是 說 |
|
0_656_658.mp3 | 假 設 你 現 在 bi 非 常 地 |
|
0_658_659.mp3 | 非 常 地 大 |
|
0_659_661.mp3 | 那 你 最 後 learn 出 來 的 結 果 |
|
0_661_664.mp3 | θi 跟 θb 就 會 非 常 地 接 近 |
|
0_664_667.mp3 | 你 的 新 的 參 數 跟 舊 的 參 數 會 非 常 接 近 |
|
0_667_668.mp3 | 那 你 的 模 型 |
|
0_668_670.mp3 | 可 能 在 舊 的 任 務 上 不 會 遺 忘 |
|
0_670_672.mp3 | 但 新 的 任 務 它 學 不 好 |
|
0_672_674.mp3 | 它 沒 有 能 力 去 把 新 的 任 務 學 好 |
|
0_674_677.mp3 | 那 這 種 狀 況 就 叫 做 intransigence |
|
0_678_679.mp3 | 好 講 到 這 邊 |
|
0_679_681.mp3 | 我 們 來 看 一 下 有 沒 有 同 學 有 問 題 要 問 的 |
|
0_688_690.mp3 | 好 有 同 學 說 |
|
0_690_691.mp3 | 聲 音 還 是 炸 |
|
0_691_693.mp3 | 希 望 現 在 有 好 很 多 |
|
0_693_696.mp3 | 現 在 希 望 現 在 有 好 很 多 |
|
0_698_700.mp3 | 好 有 同 學 問 說 |
|
0_700_703.mp3 | bi 是 要 人 為 設 定 |
|
0_703_709.mp3 | 還 是 可 以 作 為 參 數 的 一 部 分 給 機 器 訓 練 |
|
0_709_711.mp3 | 好 那 再 等 一 下 |
|
0_711_712.mp3 | 在 文 獻 上 |
|
0_712_716.mp3 | 這 個 bi 都 是 人 為 設 定 的 |
|
0_716_718.mp3 | 在 lifelong learning 的 研 究 裡 面 |
|
0_718_720.mp3 | 關 鍵 的 技 術 就 在 於 |
|
0_720_723.mp3 | 我 們 怎 麼 設 定 這 個 bi |
|
0_723_726.mp3 | 那 如 果 bi 用 learn 的 到 底 行 不 行 呢 |
|
0_726_728.mp3 | 你 可 以 想 見 說 在 這 個 任 務 裡 面 |
|
0_728_731.mp3 | 你 恐 怕 不 能 讓 bi 用 learn 的 |
|
0_731_733.mp3 | 如 果 你 讓 bi 自 己 學 |
|
0_733_734.mp3 | 它 會 學 出 什 麼 |
|
0_734_737.mp3 | 對 它 來 說 它 要 讓 loss 越 小 越 好 嘛 |
|
0_737_738.mp3 | 那 怎 麼 讓 loss 最 小 |
|
0_738_739.mp3 | 直 接 bi 等 於 0 |
|
0_739_740.mp3 | loss 就 最 小 了 |
|
0_740_743.mp3 | 所 以 如 果 你 讓 bi 直 接 用 learn 的 |
|
0_743_745.mp3 | 你 並 沒 有 辦 法 達 到 lifelong learning 的 效 果 |