關注機制

喺人工神經網絡嘅意涵上，關注機制，粵文又可以叫注意力機制，係一種模仿注意力呢種認知功能嘅技術。腦嘅注意力系統做嘅簡單講係將個腦嘅資訊處理資源集中用嚟處理緊要嘅資訊源，而關注機制重點在於教一個人工智能程式由輸入數據嗰度揀一部份嚟集中處理，並且忽略或者淡化輸入數據當中冇咁緊要嗰啲。個諗頭就係「個神經網絡應該俾多啲運算資訊落去數據裏面細婗又重要嘅部分」。「乜嘢數據算係緊要」呢一樣可以用梯度下降法等嘅方法嚟教個程式睇上下文學。

關注機制喺多種機械學習技術當中都有用，好似係自然語言處理同電腦視覺都會用到關注機制 。

Transformer 網絡有廣泛噉使用開關注機制嚟實現表現力，基於卷積神經網絡嘅電腦視覺系統亦都可以用到關注機制。 

最廣泛噉俾人用嘅關注技術有點積關注同埋多頭關注兩種，前者使用向量之間嘅點積嚟確定「要關注邊一點」；後者就結合唨幾種唔同嘅關注機制，嚟指導網絡或者子網絡「要關注邊一點」。

語言翻譯示例 
想像家陣要整一部識將英文翻譯做法文嘅機械，首先可以用編碼器-解碼器模型挃啲關注單元入去：一個關注單元係一個完全連埋嘅細神經網絡，個單元捉編碼器輸出嘅加權組合饋入解碼器。

結構示意圖

逐步分析 
下低張表顯示到每個時步入便嘅計算。由於英文同法文喺某啲句子有語序上嘅分別，所以示例入便用唨英文當中一句「I love you」當輸入，期望輸出法文「je t'aime」。為唨清晰，當中使唨特定嘅數值同形狀而唔係純字母。嵌套嘅形狀描述唨h嘅包含性質，其中每隻h包含有佢前面啲單詞嘅歷史記錄。關注分值喺度着料理好嚟獲得所需嘅關注權重。

關注權重矩陣 
用矩陣形式表示返上述翻譯示例嘅關注權重，可以睇到個網絡係點樣根據上下文較返佢個關注焦點嘅。

呢種關注權重嘅表示形式有助於解決神經網絡經常着批評到嘅「可解釋性」問題。用呢種方式分析返啲逐字翻譯而唔考慮語序嘅網絡，就會有對角線佔優嘅矩陣，之唔同於關注機制得到嘅非對角線佔優嘅矩陣。呢種非對角線佔優嘅矩陣表明關注機制喺分析句子成份嗰陣顯得更加熹微細緻。喺第一次通過解碼器嗰陣，94％嘅關注權重擺喺第一個英語單詞「I」度，噉網絡就畀出單詞「je」。喺解碼器嘅第二遍，88％嘅關注權重擺喺第三個英語單詞「you」度，噉就唔係提供「aime」、而係提供「t'」。喺最後一次傳遞嗰陣，關注權重嘅95％落返第二個英語單詞「love」度，噉就提供「aime」。

變體

考

圖神經網絡

Alex Graves ，深度學習入便嘅關注與及記憶 ， DeepMind / UCL ，透過YouTube進行。
 Rasa算法白板-關注喺YouTube

機械學習