ΠŸΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½Ρ‹Π΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΈ Π½Π°Π±ΠΎΡ€Ρ‹ Π΄Π°Π½Π½Ρ‹Ρ… для классификации Π·Π²ΡƒΠΊΠ°

Hugging Face Hub содСрТит Π±ΠΎΠ»Π΅Π΅ 500 ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½Ρ‹Ρ… ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ для классификации Π·Π²ΡƒΠΊΠ°. Π’ этом Ρ€Π°Π·Π΄Π΅Π»Π΅ ΠΌΡ‹ рассмотрим нСсколько Π½Π°ΠΈΠ±ΠΎΠ»Π΅Π΅ распространСнных Π·Π°Π΄Π°Ρ‡ классификации Π·Π²ΡƒΠΊΠ° ΠΈ ΠΏΡ€Π΅Π΄Π»ΠΎΠΆΠΈΠΌ для ΠΊΠ°ΠΆΠ΄ΠΎΠΉ ΠΈΠ· Π½ΠΈΡ… подходящиС ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½Ρ‹Π΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ. ИспользованиС `pipeline()` позволяСт Π»Π΅Π³ΠΊΠΎ ΠΏΠ΅Ρ€Π΅ΠΊΠ»ΡŽΡ‡Π°Ρ‚ΡŒΡΡ ΠΌΠ΅ΠΆΠ΄Ρƒ модСлями ΠΈ Π·Π°Π΄Π°Ρ‡Π°ΠΌΠΈ - ΠΊΠ°ΠΊ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ Π²Ρ‹ ΡƒΠ·Π½Π°Π΅Ρ‚Π΅, ΠΊΠ°ΠΊ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ `pipeline()` для ΠΎΠ΄Π½ΠΎΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ, Π²Ρ‹ смоТСтС ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ Π΅Π³ΠΎ для любой ΠΌΠΎΠ΄Π΅Π»ΠΈ Π½Π° Hugging Face Hub Π±Π΅Π· ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠΉ ΠΊΠΎΠ΄Π°! Π­Ρ‚ΠΎ Π΄Π΅Π»Π°Π΅Ρ‚ экспСримСнты с `pipeline()` Ρ‡Ρ€Π΅Π·Π²Ρ‹Ρ‡Π°ΠΉΠ½ΠΎ быстрыми, позволяя быстро Π²Ρ‹Π±Ρ€Π°Ρ‚ΡŒ Π½Π°ΠΈΠ»ΡƒΡ‡ΡˆΡƒΡŽ ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½ΡƒΡŽ модСль для Π²Π°ΡˆΠΈΡ… Π½ΡƒΠΆΠ΄.

ΠŸΡ€Π΅ΠΆΠ΄Π΅ Ρ‡Π΅ΠΌ ΠΏΠ΅Ρ€Π΅ΠΉΡ‚ΠΈ ΠΊ Ρ€Π°ΡΡΠΌΠΎΡ‚Ρ€Π΅Π½ΠΈΡŽ Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Ρ… Π·Π°Π΄Π°Ρ‡ классификации Π·Π²ΡƒΠΊΠ°, Π΄Π°Π²Π°ΠΉΡ‚Π΅ ΠΊΡ€Π°Ρ‚ΠΊΠΎ пСрСчислим ΠΎΠ±Ρ‹Ρ‡Π½ΠΎ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌΡ‹Π΅ Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Ρ‹ трансформСров. Бтандартная Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π° классификации Π·Π²ΡƒΠΊΠ° обусловлСна Ρ…Π°Ρ€Π°ΠΊΡ‚Π΅Ρ€ΠΎΠΌ Π·Π°Π΄Π°Ρ‡ΠΈ; ΠΌΡ‹ Ρ…ΠΎΡ‚ΠΈΠΌ ΠΏΡ€Π΅ΠΎΠ±Ρ€Π°Π·ΠΎΠ²Π°Ρ‚ΡŒ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ Π²Ρ…ΠΎΠ΄Π½Ρ‹Ρ… аудиосигналов (Ρ‚.Π΅. наш Π²Ρ…ΠΎΠ΄Π½ΠΎΠΉ массив аудиосигналов) Π² прСдсказаниС ΠΌΠ΅Ρ‚ΠΊΠΈ ΠΎΠ΄Π½ΠΎΠ³ΠΎ ΠΈΠ· классов. МодСли, Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π° ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… состоит Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΈΠ· ΠΊΠΎΠ΄ΠΈΡ€ΠΎΠ²Ρ‰ΠΈΠΊΠ°, сначала ΠΏΡ€Π΅ΠΎΠ±Ρ€Π°Π·ΡƒΡŽΡ‚ Π²Ρ…ΠΎΠ΄Π½ΡƒΡŽ Π·Π²ΡƒΠΊΠΎΠ²ΡƒΡŽ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ Π² ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ прСдставлСний скрытых состояний, пропуская Π²Ρ…ΠΎΠ΄Π½Ρ‹Π΅ сигналы Ρ‡Π΅Ρ€Π΅Π· Π±Π»ΠΎΠΊ трансформации. ΠŸΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ прСдставлСний скрытых состояний прСобразуСтся Π² Π²Ρ‹Ρ…ΠΎΠ΄Π½ΡƒΡŽ ΠΌΠ΅Ρ‚ΠΊΡƒ класса ΠΏΡƒΡ‚Π΅ΠΌ взятия срСднСго значСния ΠΏΠΎ скрытым состояниям ΠΈ пропускания ΠΏΠΎΠ»ΡƒΡ‡Π΅Π½Π½ΠΎΠ³ΠΎ Π²Π΅ΠΊΡ‚ΠΎΡ€Π° Ρ‡Π΅Ρ€Π΅Π· слой Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎΠΉ классификации. ΠŸΠΎΡΡ‚ΠΎΠΌΡƒ для классификации аудиосигналов ΠΏΡ€Π΅Π΄ΠΏΠΎΡ‡Ρ‚Π΅Π½ΠΈΠ΅ отдаСтся модСлям, Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π° ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… состоит Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΈΠ· ΠΊΠΎΠ΄ΠΈΡ€ΠΎΠ²Ρ‰ΠΈΠΊΠ°.

МодСли, Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π° ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… состоит Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΈΠ· Π΄Π΅ΠΊΠΎΠ΄ΠΈΡ€ΠΎΠ²Ρ‰ΠΈΠΊΠ° излишнС ΡƒΡΠ»ΠΎΠΆΠ½ΡΡŽΡ‚ Π·Π°Π΄Π°Ρ‡Ρƒ, ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ ΠΏΡ€Π΅Π΄ΠΏΠΎΠ»Π°Π³Π°ΡŽΡ‚ Ρ‡Ρ‚ΠΎ Π²Ρ‹Ρ…ΠΎΠ΄Ρ‹ ΠΌΠΎΠ³ΡƒΡ‚ Π±Ρ‹Ρ‚ΡŒ Π² Ρ‚ΠΎΠΌ числС ΠΈ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒΡŽ прСдсказаний (Π° Π½Π΅ ΠΎΠ΄Π½ΠΈΠΌ прСдсказаниСм ΠΌΠ΅Ρ‚ΠΊΠΈ класса), ΠΈ поэтому Π³Π΅Π½Π΅Ρ€ΠΈΡ€ΡƒΡŽΡ‚ нСсколько Π²Ρ‹Ρ…ΠΎΠ΄ΠΎΠ². ΠŸΠΎΡΡ‚ΠΎΠΌΡƒ ΠΎΠ½ΠΈ ΠΈΠΌΠ΅ΡŽΡ‚ Π±ΠΎΠ»Π΅Π΅ Π½ΠΈΠ·ΠΊΡƒΡŽ ΡΠΊΠΎΡ€ΠΎΡΡ‚ΡŒ Π²Ρ‹Π²ΠΎΠ΄Π° ΠΈ, ΠΊΠ°ΠΊ ΠΏΡ€Π°Π²ΠΈΠ»ΠΎ, Π½Π΅ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡŽΡ‚ΡΡ. По этой ΠΆΠ΅ ΠΏΡ€ΠΈΡ‡ΠΈΠ½Π΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΊΠΎΠ΄Π΅Ρ€ΠΎΠ²Ρ‰ΠΈΠΊ-Π΄Π΅ΠΊΠΎΠ΄ΠΈΡ€ΠΎΠ²Ρ‰ΠΈΠΊ Π² Π·Π½Π°Ρ‡ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠΉ стСпСни Π½Π΅ Ρ€Π°ΡΡΠΌΠ°Ρ‚Ρ€ΠΈΠ²Π°ΡŽΡ‚ΡΡ. Π’Π°ΠΊΠΎΠΉ Π²Ρ‹Π±ΠΎΡ€ Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Ρ‹ Π°Π½Π°Π»ΠΎΠ³ΠΈΡ‡Π΅Π½ Π²Ρ‹Π±ΠΎΡ€Ρƒ Π² NLP, Π³Π΄Π΅ для Π·Π°Π΄Π°Ρ‡ классификации ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚Π΅ΠΉ ΠΏΡ€Π΅Π΄ΠΏΠΎΡ‡Ρ‚Π΅Π½ΠΈΠ΅ отдаСтся Ρ‚ΠΎΠ»ΡŒΠΊΠΎ модСлям-ΠΊΠΎΠ΄ΠΈΡ€ΠΎΠ²Ρ‰ΠΈΠΊΠ°ΠΌ, Ρ‚Π°ΠΊΠΈΠΌ ΠΊΠ°ΠΊ BERT, Π° для Π·Π°Π΄Π°Ρ‡ Π³Π΅Π½Π΅Ρ€Π°Ρ†ΠΈΠΈ ΠΏΠΎΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚Π΅ΠΉ - Ρ‚ΠΎΠ»ΡŒΠΊΠΎ модСлям-Π΄Π΅ΠΊΠΎΠ΄ΠΈΡ€ΠΎΠ²Ρ‰ΠΈΠΊΠ°ΠΌ, Ρ‚Π°ΠΊΠΈΠΌ ΠΊΠ°ΠΊ GPT.

Π’Π΅ΠΏΠ΅Ρ€ΡŒ, ΠΊΠΎΠ³Π΄Π° ΠΌΡ‹ рассказали ΠΎ стандартной Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Π΅ трансформСров для классификации Π·Π²ΡƒΠΊΠ°, ΠΏΠ΅Ρ€Π΅ΠΉΠ΄Π΅ΠΌ ΠΊ Ρ€Π°ΡΡΠΌΠΎΡ‚Ρ€Π΅Π½ΠΈΡŽ Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Ρ… подмноТСств классификации Π·Π²ΡƒΠΊΠ° ΠΈ Π½Π°ΠΈΠ±ΠΎΠ»Π΅Π΅ популярных ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ!

πŸ€— Установка Π±ΠΈΠ±Π»ΠΈΠΎΡ‚Π΅ΠΊΠΈ Transformers

На ΠΌΠΎΠΌΠ΅Π½Ρ‚ написания ΡΡ‚Π°Ρ‚ΡŒΠΈ послСдниС обновлСния, Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΡ‹Π΅ для Ρ€Π°Π±ΠΎΡ‚Ρ‹ ΠΊΠΎΠ½Π²Π΅ΠΉΠ΅Ρ€Π° классификации Π·Π²ΡƒΠΊΠ°, находятся Ρ‚ΠΎΠ»ΡŒΠΊΠΎ Π² main Π²Π΅Ρ‚ΠΊΠ΅ рСпозитория πŸ€— Transformers, Π° Π½Π΅ Π² послСднСй вСрсии PyPi. Π§Ρ‚ΠΎΠ±Ρ‹ ΡƒΠ±Π΅Π΄ΠΈΡ‚ΡŒΡΡ Π² Π½Π°Π»ΠΈΡ‡ΠΈΠΈ этих ΠΎΠ±Π½ΠΎΠ²Π»Π΅Π½ΠΈΠΉ локально, ΠΌΡ‹ установим Transformers ΠΈΠ· Π²Π΅Ρ‚ΠΊΠΈ main ΡΠ»Π΅Π΄ΡƒΡŽΡ‰Π΅ΠΉ ΠΊΠΎΠΌΠ°Π½Π΄ΠΎΠΉ:

pip install git+https://github.com/huggingface/transformers

Поиск ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… слов

Поиск ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… слов (Keyword Spotting, KWS) - это Π·Π°Π΄Π°Ρ‡Π° ΠΈΠ΄Π΅Π½Ρ‚ΠΈΡ„ΠΈΠΊΠ°Ρ†ΠΈΠΈ ΠΊΠ»ΡŽΡ‡Π΅Π²ΠΎΠ³ΠΎ слова Π² произносимой Ρ€Π΅Ρ‡ΠΈ. Набор Π²ΠΎΠ·ΠΌΠΎΠΆΠ½Ρ‹Ρ… ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… слов Ρ„ΠΎΡ€ΠΌΠΈΡ€ΡƒΠ΅Ρ‚ Π½Π°Π±ΠΎΡ€ ΠΏΡ€ΠΎΠ³Π½ΠΎΠ·ΠΈΡ€ΡƒΠ΅ΠΌΡ‹Ρ… ΠΌΠ΅Ρ‚ΠΎΠΊ классов. ΠŸΠΎΡΡ‚ΠΎΠΌΡƒ для использования ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½ΠΎΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ выдСлСния ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… слов Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ ΡƒΠ±Π΅Π΄ΠΈΡ‚ΡŒΡΡ, Ρ‡Ρ‚ΠΎ ваши ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Π΅ слова ΡΠΎΠ²ΠΏΠ°Π΄Π°ΡŽΡ‚ с Ρ‚Π΅ΠΌΠΈ, Π½Π° ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… модСль Π±Ρ‹Π»Π° ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π°. НиТС ΠΌΡ‹ прСдставим Π΄Π²Π° Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ ΠΌΠΎΠ΄Π΅Π»ΠΈ для выявлСния ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… слов.

Minds-14

Π’ΠΎΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌΡΡ Ρ‚Π΅ΠΌ ΠΆΠ΅ Π½Π°Π±ΠΎΡ€ΠΎΠΌ Π΄Π°Π½Π½Ρ‹Ρ… MINDS-14, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π²Ρ‹ исслСдовали Π² ΠΏΡ€Π΅Π΄Ρ‹Π΄ΡƒΡ‰Π΅ΠΌ Ρ€Π°Π·Π΄Π΅Π»Π΅. Если Π²Ρ‹ ΠΏΠΎΠΌΠ½ΠΈΡ‚Π΅, MINDS-14 содСрТит записи людСй, Π·Π°Π΄Π°ΡŽΡ‰ΠΈΡ… вопросы систСмС дистанционного банковского обслуТивания Π½Π° Π½Π΅ΡΠΊΠΎΠ»ΡŒΠΊΠΈΡ… языках ΠΈ Π΄ΠΈΠ°Π»Π΅ΠΊΡ‚Π°Ρ…, ΠΈ для ΠΊΠ°ΠΆΠ΄ΠΎΠΉ записи ΠΈΠΌΠ΅Π΅Ρ‚ Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅ intent_class. ΠœΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΊΠ»Π°ΡΡΠΈΡ„ΠΈΡ†ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ записи ΠΏΠΎ Π½Π°ΠΌΠ΅Ρ€Π΅Π½ΠΈΡŽ звонящСго.

from datasets import load_dataset

minds = load_dataset("PolyAI/minds14", name="en-AU", split="train")

Π—Π°Π³Ρ€ΡƒΠ·ΠΈΠΌ ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒΠ½ΡƒΡŽ Ρ‚ΠΎΡ‡ΠΊΡƒ "anton-l/xtreme_s_xlsr_300m_minds14", которая прСдставляСт собой XLS-R-модСль, Π΄ΠΎΠΎΠ±ΡƒΡ‡Π΅Π½Π½ΡƒΡŽ Π½Π° MINDS-14 Π² Ρ‚Π΅Ρ‡Π΅Π½ΠΈΠ΅ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π½ΠΎ 50 эпох. На ΠΎΡ†Π΅Π½ΠΎΡ‡Π½ΠΎΠΉ Π²Ρ‹Π±ΠΎΡ€ΠΊΠ΅ Π½Π°Π±ΠΎΡ€Π° MINDS-14 ΠΎΠ½Π° достигаСт 90% ΠΏΠΎ ΠΌΠ΅Ρ‚Ρ€ΠΈΠΊΠ΅ accuracy ΠΏΠΎ всСм языкам.

from transformers import pipeline

classifier = pipeline(
    "audio-classification",
    model="anton-l/xtreme_s_xlsr_300m_minds14",
)

НаконСц, ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‚ΡŒ сэмпл Π² ΠΊΠΎΠ½Π²Π΅ΠΉΠ΅Ρ€ классификации, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΡΠ΄Π΅Π»Π°Ρ‚ΡŒ прСдсказаниС:

classifier(minds[0]["path"])

Output:

[
    {"score": 0.9631525278091431, "label": "pay_bill"},
    {"score": 0.02819698303937912, "label": "freeze"},
    {"score": 0.0032787492964416742, "label": "card_issues"},
    {"score": 0.0019414445850998163, "label": "abroad"},
    {"score": 0.0008378693601116538, "label": "high_value_payment"},
]

ΠžΡ‚Π»ΠΈΡ‡Π½ΠΎ! ΠœΡ‹ ΠΎΠΏΡ€Π΅Π΄Π΅Π»ΠΈΠ»ΠΈ, Ρ‡Ρ‚ΠΎ Ρ†Π΅Π»ΡŒΡŽ Π·Π²ΠΎΠ½ΠΊΠ° Π±Ρ‹Π»Π° ΠΎΠΏΠ»Π°Ρ‚Π° счСта, с Π²Π΅Ρ€ΠΎΡΡ‚Π½ΠΎΡΡ‚ΡŒΡŽ 96%. МоТно ΠΏΡ€Π΅Π΄ΡΡ‚Π°Π²ΠΈΡ‚ΡŒ, Ρ‡Ρ‚ΠΎ подобная систСма выявлСния ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… слов ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ Π² качСствС ΠΏΠ΅Ρ€Π²ΠΎΠ³ΠΎ этапа Π°Π²Ρ‚ΠΎΠΌΠ°Ρ‚ΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Π½Π½ΠΎΠ³ΠΎ Ρ†Π΅Π½Ρ‚Ρ€Π° ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ Π²Ρ‹Π·ΠΎΠ²ΠΎΠ² (call-Ρ†Π΅Π½Ρ‚Ρ€), Π³Π΄Π΅ ΠΌΡ‹ Ρ…ΠΎΡ‚ΠΈΠΌ ΠΊΠ»Π°ΡΡΠΈΡ„ΠΈΡ†ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ входящиС Π·Π²ΠΎΠ½ΠΊΠΈ ΠΊΠ»ΠΈΠ΅Π½Ρ‚ΠΎΠ² Π² зависимости ΠΎΡ‚ ΠΈΡ… запроса ΠΈ ΠΏΡ€Π΅Π΄Π»ΠΎΠΆΠΈΡ‚ΡŒ ΠΈΠΌ ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‰ΡƒΡŽ ΠΊΠΎΠ½Ρ‚Π΅ΠΊΡΡ‚Π½ΡƒΡŽ ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΊΡƒ.

Speech Commands

Speech Commands - это Π½Π°Π±ΠΎΡ€ устных слов, ΠΏΡ€Π΅Π΄Π½Π°Π·Π½Π°Ρ‡Π΅Π½Π½Ρ‹ΠΉ для ΠΎΡ†Π΅Π½ΠΊΠΈ ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ классификации Π·Π²ΡƒΠΊΠ° Π½Π° простых ΠΊΠΎΠΌΠ°Π½Π΄Π½Ρ‹Ρ… словах. Набор Π΄Π°Π½Π½Ρ‹Ρ… состоит ΠΈΠ· 15 классов ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… слов, класса молчания ΠΈ нСизвСстного класса, Π²ΠΊΠ»ΡŽΡ‡Π°ΡŽΡ‰Π΅Π³ΠΎ Π»ΠΎΠΆΠ½Ρ‹Π΅ срабатывания. 15 ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… слов - это ΠΎΡ‚Π΄Π΅Π»ΡŒΠ½Ρ‹Π΅ слова, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΎΠ±Ρ‹Ρ‡Π½ΠΎ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡŽΡ‚ΡΡ Π² настройках устройства для управлСния основными Π·Π°Π΄Π°Ρ‡Π°ΠΌΠΈ ΠΈΠ»ΠΈ запуска Π΄Ρ€ΡƒΠ³ΠΈΡ… процСссов.

Аналогичная модСль постоянно Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ Π² вашСм мобильном Ρ‚Π΅Π»Π΅Ρ„ΠΎΠ½Π΅. Π—Π΄Π΅ΡΡŒ вмСсто ΠΎΡ‚Π΄Π΅Π»ΡŒΠ½Ρ‹Ρ… ΠΊΠΎΠΌΠ°Π½Π΄Π½Ρ‹Ρ… слов ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡŽΡ‚ΡΡ β€œΡΠ»ΠΎΠ²Π° пробуТдСния”, Ρ…Π°Ρ€Π°ΠΊΡ‚Π΅Ρ€Π½Ρ‹Π΅ для ΠΊΠΎΠ½ΠΊΡ€Π΅Ρ‚Π½ΠΎΠ³ΠΎ устройства, Π½Π°ΠΏΡ€ΠΈΠΌΠ΅Ρ€ β€œΠŸΡ€ΠΈΠ²Π΅Ρ‚, Google” ΠΈΠ»ΠΈ β€œΠŸΡ€ΠΈΠ²Π΅Ρ‚, Siri”. Когда модСль классификации Π·Π²ΡƒΠΊΠ° ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠΈΠ²Π°Π΅Ρ‚ эти слова, ΠΎΠ½Π° заставляСт Ρ‚Π΅Π»Π΅Ρ„ΠΎΠ½ Π½Π°Ρ‡Π°Ρ‚ΡŒ ΠΏΡ€ΠΎΡΠ»ΡƒΡˆΠΈΠ²Π°Π½ΠΈΠ΅ ΠΌΠΈΠΊΡ€ΠΎΡ„ΠΎΠ½Π° ΠΈ Ρ‚Ρ€Π°Π½ΡΠΊΡ€ΠΈΠ±ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Π²Π°ΡˆΡƒ Ρ€Π΅Ρ‡ΡŒ с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ ΠΌΠΎΠ΄Π΅Π»ΠΈ распознавания Ρ€Π΅Ρ‡ΠΈ.

МодСль классификации Π·Π²ΡƒΠΊΠ° Π³ΠΎΡ€Π°Π·Π΄ΠΎ мСньшС ΠΈ Π»Π΅Π³Ρ‡Π΅, Ρ‡Π΅ΠΌ модСль распознавания Ρ€Π΅Ρ‡ΠΈ, Π·Π°Ρ‡Π°ΡΡ‚ΡƒΡŽ Π² Π½Π΅ΠΉ всСго нСсколько ΠΌΠΈΠ»Π»ΠΈΠΎΠ½ΠΎΠ² ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ΠΎΠ² ΠΏΠΎ ΡΡ€Π°Π²Π½Π΅Π½ΠΈΡŽ с нСсколькими сотнями ΠΌΠΈΠ»Π»ΠΈΠΎΠ½ΠΎΠ² ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ΠΎΠ² Π² ΠΌΠΎΠ΄Π΅Π»ΠΈ для распознавания Ρ€Π΅Ρ‡ΠΈ. Π’Π°ΠΊΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ, ΠΎΠ½Π° ΠΌΠΎΠΆΠ΅Ρ‚ Π½Π΅ΠΏΡ€Π΅Ρ€Ρ‹Π²Π½ΠΎ Ρ€Π°Π±ΠΎΡ‚Π°Ρ‚ΡŒ Π½Π° вашСм устройствС, Π½Π΅ разряТая аккумулятор! Π‘ΠΎΠ»Π΅Π΅ крупная модСль распознавания Ρ€Π΅Ρ‡ΠΈ запускаСтся Ρ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΏΡ€ΠΈ ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠ΅Π½ΠΈΠΈ слова-пробуТдСния, послС Ρ‡Π΅Π³ΠΎ ΠΎΠ½Π° снова ΠΎΡ‚ΠΊΠ»ΡŽΡ‡Π°Π΅Ρ‚ΡΡ. Π’ ΡΠ»Π΅Π΄ΡƒΡŽΡ‰Π΅ΠΌ Ρ€Π°Π·Π΄Π΅Π»Π΅ ΠΌΡ‹ рассмотрим ΠΌΠΎΠ΄Π΅Π»ΠΈ трансформСров для распознавания Ρ€Π΅Ρ‡ΠΈ, Ρ‚Π°ΠΊ Ρ‡Ρ‚ΠΎ ΠΊ ΠΊΠΎΠ½Ρ†Ρƒ курса Ρƒ вас Π΄ΠΎΠ»ΠΆΠ½Ρ‹ Π±Ρ‹Ρ‚ΡŒ всС Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΡ‹Π΅ инструмСнты для создания собствСнного голосового ΠΏΠΎΠΌΠΎΡ‰Π½ΠΈΠΊΠ°!

Как ΠΈ Π² случаС с Π»ΡŽΠ±Ρ‹ΠΌ Π½Π°Π±ΠΎΡ€ΠΎΠΌ Π΄Π°Π½Π½Ρ‹Ρ… Π½Π° Hugging Face Hub, ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΡ‚ΡŒ прСдставлСниС ΠΎ Ρ‚ΠΎΠΌ, ΠΊΠ°ΠΊΠΈΠ΅ Π°ΡƒΠ΄ΠΈΠΎΠ΄Π°Π½Π½Ρ‹Π΅ Π² Π½Π΅ΠΌ ΠΏΡ€ΠΈΡΡƒΡ‚ΡΡ‚Π²ΡƒΡŽΡ‚, Π½Π΅ скачивая ΠΈ Π½Π΅ сохраняя ΠΈΡ… Π² памяти ΠΊΠΎΠΌΠΏΡŒΡŽΡ‚Π΅Ρ€Π°. ΠŸΠ΅Ρ€Π΅ΠΉΠ΄Ρ ΠΊ ΠΊΠ°Ρ€Ρ‚ΠΎΡ‡ΠΊΠ΅ Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ… Speech Commands’ dataset Π½Π° Hugging Face Hub, ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π²ΠΎΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒΡΡ срСдством просмотра Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ… (Dataset Viewer), Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΏΡ€ΠΎΠ»ΠΈΡΡ‚Π°Ρ‚ΡŒ ΠΏΠ΅Ρ€Π²Ρ‹Π΅ 100 ΠΎΠ±Ρ€Π°Π·Ρ†ΠΎΠ² Π½Π°Π±ΠΎΡ€Π°, ΠΏΡ€ΠΎΡΠ»ΡƒΡˆΠ°Ρ‚ΡŒ Π°ΡƒΠ΄ΠΈΠΎΡ„Π°ΠΉΠ»Ρ‹ ΠΈ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ Π»ΡŽΠ±Ρ‹Π΅ Π΄Ρ€ΡƒΠ³ΠΈΠ΅ ΠΌΠ΅Ρ‚Π°Π΄Π°Π½Π½Ρ‹Π΅:

Diagram of datasets viewer.

ΠŸΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹ΠΉ просмотр Π΄Π°Π½Π½Ρ‹Ρ… - это ΠΎΡ‚Π»ΠΈΡ‡Π½Ρ‹ΠΉ способ ΠΎΠ·Π½Π°ΠΊΠΎΠΌΠΈΡ‚ΡŒΡΡ с Π½Π°Π±ΠΎΡ€Π°ΠΌΠΈ Π°ΡƒΠ΄ΠΈΠΎΠ΄Π°Π½Π½Ρ‹Ρ…, ΠΏΡ€Π΅ΠΆΠ΄Π΅ Ρ‡Π΅ΠΌ ΠΏΡ€ΠΈΡΡ‚ΡƒΠΏΠΈΡ‚ΡŒ ΠΊ ΠΈΡ… использованию. Π’Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ Π²Ρ‹Π±Ρ€Π°Ρ‚ΡŒ любой Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… Π½Π° Hugging Face Hub, ΠΏΡ€ΠΎΠ»ΠΈΡΡ‚Π°Ρ‚ΡŒ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Ρ‹ ΠΈ ΠΏΡ€ΠΎΡΠ»ΡƒΡˆΠ°Ρ‚ΡŒ аудиозаписи для Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Ρ… подмноТСств ΠΈ Ρ€Π°Π·Π±ΠΈΠ΅Π½ΠΈΠΉ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΏΠΎΠ½ΡΡ‚ΡŒ, ΠΏΠΎΠ΄Ρ…ΠΎΠ΄ΠΈΡ‚ Π»ΠΈ этот Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… для Π²Π°ΡˆΠΈΡ… Π½ΡƒΠΆΠ΄. Π’Ρ‹Π±Ρ€Π°Π² Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ…, нСслоТно Π·Π°Π³Ρ€ΡƒΠ·ΠΈΡ‚ΡŒ Π΄Π°Π½Π½Ρ‹Π΅, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π½Π°Ρ‡Π°Ρ‚ΡŒ ΠΈΡ… ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ.

Π”Π°Π²Π°ΠΉΡ‚Π΅ сдСлаСм ΠΈΠΌΠ΅Π½Π½ΠΎ это ΠΈ Π·Π°Π³Ρ€ΡƒΠ·ΠΈΠΌ ΠΎΠ±Ρ€Π°Π·Π΅Ρ† Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ… Speech Commands Π² ΠΏΠΎΡ‚ΠΎΠΊΠΎΠ²ΠΎΠΌ Ρ€Π΅ΠΆΠΈΠΌΠ΅:

speech_commands = load_dataset(
    "speech_commands", "v0.02", split="validation", streaming=True
)
sample = next(iter(speech_commands))

Π—Π°Π³Ρ€ΡƒΠ·ΠΈΠΌ ΠΎΡ„ΠΈΡ†ΠΈΠ°Π»ΡŒΠ½ΡƒΡŽ ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒΠ½ΡƒΡŽ Ρ‚ΠΎΡ‡ΠΊΡƒ Audio Spectrogram Transformer, ΠΏΡ€ΠΎΡˆΠ΅Π΄ΡˆΡƒΡŽ Π΄ΠΎΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ Π½Π° Π½Π°Π±ΠΎΡ€Π΅ Π΄Π°Π½Π½Ρ‹Ρ… Speech Commands, Π² пространствС ΠΈΠΌΠ΅Π½ "MIT/ast-finetuned-speech-commands-v2":

classifier = pipeline(
    "audio-classification", model="MIT/ast-finetuned-speech-commands-v2"
)
classifier(sample["audio"])

Output:

[{'score': 0.9999892711639404, 'label': 'backward'},
 {'score': 1.7504888774055871e-06, 'label': 'happy'},
 {'score': 6.703040185129794e-07, 'label': 'follow'},
 {'score': 5.805884484288981e-07, 'label': 'stop'},
 {'score': 5.614546694232558e-07, 'label': 'up'}]

Класс! ΠŸΠΎΡ…ΠΎΠΆΠ΅, Ρ‡Ρ‚ΠΎ ΠΏΡ€ΠΈΠΌΠ΅Ρ€ с высокой Π²Π΅Ρ€ΠΎΡΡ‚Π½ΠΎΡΡ‚ΡŒΡŽ содСрТит слово β€œΠ½Π°Π·Π°Π΄β€. ΠœΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΏΡ€ΠΎΡΠ»ΡƒΡˆΠ°Ρ‚ΡŒ ΠΏΡ€ΠΈΠΌΠ΅Ρ€ ΠΈ ΡƒΠ±Π΅Π΄ΠΈΡ‚ΡŒΡΡ Ρ‡Ρ‚ΠΎ это Π΄Π΅ΠΉΡΡ‚Π²ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ Ρ‚Π°ΠΊ:

from IPython.display import Audio

classifier(sample["audio"].copy())
Audio(sample["audio"]["array"], rate=sample["audio"]["sampling_rate"])

Π’Π΅ΠΏΠ΅Ρ€ΡŒ Π²Π°ΠΌ, Π²ΠΎΠ·ΠΌΠΎΠΆΠ½ΠΎ, интСрСсно, ΠΊΠ°ΠΊ ΠΌΡ‹ Π²Ρ‹Π±Ρ€Π°Π»ΠΈ эти ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½Ρ‹Π΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΏΠΎΠΊΠ°Π·Π°Ρ‚ΡŒ ΠΈΡ… Π½Π° этих ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π°Ρ… классификации Π·Π²ΡƒΠΊΠ°. На самом Π΄Π΅Π»Π΅, Π½Π°ΠΉΡ‚ΠΈ ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½Ρ‹Π΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ для вашСго Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ Π·Π°Π΄Π°Ρ‡ΠΈ ΠΎΡ‡Π΅Π½ΡŒ просто! ΠŸΠ΅Ρ€Π²ΠΎΠ΅, Ρ‡Ρ‚ΠΎ Π½Π°ΠΌ Π½ΡƒΠΆΠ½ΠΎ ΡΠ΄Π΅Π»Π°Ρ‚ΡŒ, это Π·Π°ΠΉΡ‚ΠΈ Π² Hugging Face Hub ΠΈ ΠΏΠ΅Ρ€Π΅ΠΉΡ‚ΠΈ Π½Π° Π²ΠΊΠ»Π°Π΄ΠΊΡƒ β€œModels” (МодСли): https://huggingface.co/models

Π’ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Π΅ Π±ΡƒΠ΄ΡƒΡ‚ ΠΎΡ‚ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½Ρ‹ всС ΠΌΠΎΠ΄Π΅Π»ΠΈ Π½Π° Hugging Face Hub, отсортированныС ΠΏΠΎ количСству Π·Π°Π³Ρ€ΡƒΠ·ΠΎΠΊ Π·Π° послСдниС 30 Π΄Π½Π΅ΠΉ:

Π‘ Π»Π΅Π²ΠΎΠΉ стороны ΠΌΠΎΠΆΠ½ΠΎ Π·Π°ΠΌΠ΅Ρ‚ΠΈΡ‚ΡŒ ряд Π²ΠΊΠ»Π°Π΄ΠΎΠΊ, Π½Π° ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… ΠΌΠΎΠΆΠ½ΠΎ ΠΎΡ‚Ρ„ΠΈΠ»ΡŒΡ‚Ρ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΏΠΎ Π·Π°Π΄Π°Ρ‡Π°ΠΌ, Π±ΠΈΠ±Π»ΠΈΠΎΡ‚Π΅ΠΊΠ°ΠΌ, Π½Π°Π±ΠΎΡ€Π°ΠΌ Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ Ρ‚.Π΄. ΠŸΡ€ΠΎΠΊΡ€ΡƒΡ‚ΠΈΡ‚Π΅ страницу Π²Π½ΠΈΠ· ΠΈ Π²Ρ‹Π±Π΅Ρ€ΠΈΡ‚Π΅ Π·Π°Π΄Π°Ρ‡Ρƒ β€œAudio Classification” (ΠšΠ»Π°ΡΡΠΈΡ„ΠΈΠΊΠ°Ρ†ΠΈΡ Π°ΡƒΠ΄ΠΈΠΎ) ΠΈΠ· списка Π·Π°Π΄Π°Ρ‡ Π°ΡƒΠ΄ΠΈΠΎ:

Π’Π΅ΠΏΠ΅Ρ€ΡŒ Π½Π°ΠΌ прСдставлСно подмноТСство ΠΈΠ· 500+ ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ классификации Π·Π²ΡƒΠΊΠ° Π½Π° Ρ…Π°Π±Π΅. Для дальнСйшСго уточнСния этого ΠΎΡ‚Π±ΠΎΡ€Π° ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΎΡ‚Ρ„ΠΈΠ»ΡŒΡ‚Ρ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΏΠΎ Π½Π°Π±ΠΎΡ€Ρƒ Π΄Π°Π½Π½Ρ‹Ρ…. ΠŸΠ΅Ρ€Π΅ΠΉΠ΄ΠΈΡ‚Π΅ Π½Π° Π²ΠΊΠ»Π°Π΄ΠΊΡƒ β€œDatasets” ΠΈ Π² строкС поиска Π²Π²Π΅Π΄ΠΈΡ‚Π΅ β€œspeech_commands”. Когда Π²Ρ‹ Π½Π°Ρ‡Π½Π΅Ρ‚Π΅ Π²Π²ΠΎΠ΄ΠΈΡ‚ΡŒ тСкст, ΠΏΠΎΠ΄ Π²ΠΊΠ»Π°Π΄ΠΊΠΎΠΉ поиска появится Π²Ρ‹Π±ΠΎΡ€ для speech_commands. НаТав Π½Π° эту ΠΊΠ½ΠΎΠΏΠΊΡƒ, Π²Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ ΠΎΡ‚Ρ„ΠΈΠ»ΡŒΡ‚Ρ€ΠΎΠ²Π°Ρ‚ΡŒ всС ΠΌΠΎΠ΄Π΅Π»ΠΈ классификации Π·Π²ΡƒΠΊΠ° ΠΎΡ‚ Ρ‚Π΅Ρ…, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π±Ρ‹Π»ΠΈ настроСны Π½Π° Π½Π°Π±ΠΎΡ€Π΅ Π΄Π°Π½Π½Ρ‹Ρ… Speech Commands:

ΠžΡ‚Π»ΠΈΡ‡Π½ΠΎ! ΠœΡ‹ Π²ΠΈΠ΄ΠΈΠΌ, Ρ‡Ρ‚ΠΎ для Π΄Π°Π½Π½ΠΎΠ³ΠΎ Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ Π·Π°Π΄Π°Ρ‡ΠΈ Π½Π°ΠΌ доступны 6 ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½Ρ‹Ρ… ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ. Π’Ρ‹ Π·Π°ΠΌΠ΅Ρ‚ΠΈΡ‚Π΅ ΠΏΠ΅Ρ€Π²ΡƒΡŽ ΠΈΠ· этих ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ Audio Spectrogram Transformer, ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒΠ½ΡƒΡŽ Ρ‚ΠΎΡ‡ΠΊΡƒ ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΉ ΠΌΡ‹ использовали Π² ΠΏΡ€Π΅Π΄Ρ‹Π΄ΡƒΡ‰Π΅ΠΌ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅. Π­Ρ‚ΠΎΡ‚ процСсс Ρ„ΠΈΠ»ΡŒΡ‚Ρ€Π°Ρ†ΠΈΠΈ ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ Π½Π° Hugging Face Hub - ΠΈΠΌΠ΅Π½Π½ΠΎ Ρ‚ΠΎ, ΠΊΠ°ΠΊ ΠΌΡ‹ Π²Ρ‹Π±ΠΈΡ€Π°Π»ΠΈ ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒΠ½ΡƒΡŽ Ρ‚ΠΎΡ‡ΠΊΡƒ для ΠΏΠΎΠΊΠ°Π·Π° Π²Π°ΠΌ!

Π˜Π΄Π΅Π½Ρ‚ΠΈΡ„ΠΈΠΊΠ°Ρ†ΠΈΡ языка (Language Identification)

Π˜Π΄Π΅Π½Ρ‚ΠΈΡ„ΠΈΠΊΠ°Ρ†ΠΈΡ языка (LID) - это Π·Π°Π΄Π°Ρ‡Π° опрСдСлСния языка, Π½Π° ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΌ говорят Π² аудиосэмплС, ΠΈΠ· списка языков-ΠΊΠ°Π½Π΄ΠΈΠ΄Π°Ρ‚ΠΎΠ². LID ΠΌΠΎΠΆΠ΅Ρ‚ ΡΡ‚Π°Ρ‚ΡŒ Π²Π°ΠΆΠ½ΠΎΠΉ Ρ‡Π°ΡΡ‚ΡŒΡŽ ΠΌΠ½ΠΎΠ³ΠΈΡ… Ρ€Π΅Ρ‡Π΅Π²Ρ‹Ρ… ΠΊΠΎΠ½Π²Π΅ΠΉΠ΅Ρ€ΠΎΠ². НапримСр, ΠΏΡ€ΠΈ ΠΏΠΎΠ»ΡƒΡ‡Π΅Π½ΠΈΠΈ ΠΎΠ±Ρ€Π°Π·Ρ†Π° аудиозаписи Π½Π° нСизвСстном языкС модСль LID ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ использована для классификации языка (языков), Π½Π° ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΌ Ρ€Π°Π·Π³ΠΎΠ²Π°Ρ€ΠΈΠ²Π°ΡŽΡ‚ Π² аудиозаписи, ΠΈ ΠΏΠΎΡΠ»Π΅Π΄ΡƒΡŽΡ‰Π΅Π³ΠΎ Π²Ρ‹Π±ΠΎΡ€Π° ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‰Π΅ΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ распознавания Ρ€Π΅Ρ‡ΠΈ, ΠΎΠ±ΡƒΡ‡Π΅Π½Π½ΠΎΠΉ Π½Π° этом языкС, для транскрибации аудиозаписи.

FLEURS

FLEURS (Few-shot Learning Evaluation of Universal Representations of Speech) - это Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… для ΠΎΡ†Π΅Π½ΠΊΠΈ систСм распознавания Ρ€Π΅Ρ‡ΠΈ Π½Π° 102 языках, Π² Ρ‚ΠΎΠΌ числС Π½Π° ΠΌΠ½ΠΎΠ³ΠΈΡ… языках, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ относятся ΠΊ ΠΊΠ°Ρ‚Π΅Π³ΠΎΡ€ΠΈΠΈ β€œΠΌΠ°Π»ΠΎΡ€Π΅ΡΡƒΡ€ΡΠ½Ρ‹Ρ…β€. ΠžΠ·Π½Π°ΠΊΠΎΠΌΡŒΡ‚Π΅ΡΡŒ с ΠΊΠ°Ρ€Ρ‚ΠΎΡ‡ΠΊΠΎΠΉ Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ… FLEURS Π½Π° Hugging Face Hub ΠΈ ΠΈΠ·ΡƒΡ‡ΠΈΡ‚Π΅ Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Π΅ языки, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π² Π½Π΅ΠΌ прСдставлСны: google/fleurs. ΠœΠΎΠΆΠ΅Ρ‚Π΅ Π»ΠΈ Π’Ρ‹ Π½Π°ΠΉΡ‚ΠΈ здСсь свой Ρ€ΠΎΠ΄Π½ΠΎΠΉ язык? Если Π½Π΅Ρ‚, Ρ‚ΠΎ ΠΊΠ°ΠΊΠΎΠΉ язык Π½Π°ΠΈΠ±ΠΎΠ»Π΅Π΅ Π±Π»ΠΈΠ·ΠΎΠΊ ΠΊ Π½Π΅ΠΌΡƒ?

Π—Π°Π³Ρ€ΡƒΠ·ΠΈΠΌ Π²Ρ‹Π±ΠΎΡ€ΠΊΡƒ ΠΈΠ· Π²Π°Π»ΠΈΠ΄Π°Ρ†ΠΈΠΎΠ½Π½ΠΎΠΉ части Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ… FLEURS Π² ΠΏΠΎΡ‚ΠΎΠΊΠΎΠ²ΠΎΠΌ Ρ€Π΅ΠΆΠΈΠΌΠ΅:

fleurs = load_dataset("google/fleurs", "all", split="validation", streaming=True)
sample = next(iter(fleurs))

ΠžΡ‚Π»ΠΈΡ‡Π½ΠΎ! Π’Π΅ΠΏΠ΅Ρ€ΡŒ ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π·Π°Π³Ρ€ΡƒΠ·ΠΈΡ‚ΡŒ Π½Π°ΡˆΡƒ модСль классификации Π·Π²ΡƒΠΊΠ°. Для этого ΠΌΡ‹ Π±ΡƒΠ΄Π΅ΠΌ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ Π²Π΅Ρ€ΡΠΈΡŽ Whisper Π΄ΠΎΠΎΠ±ΡƒΡ‡Π΅Π½Π½Ρ‹ΠΉ Π½Π° Π½Π°Π±ΠΎΡ€Π΅ Π΄Π°Π½Π½Ρ‹Ρ… FLEURS, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π² настоящСС врСмя являСтся Π½Π°ΠΈΠ±ΠΎΠ»Π΅Π΅ ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠΉ модСлью LID Π½Π° Hugging Face Hub:

classifier = pipeline(
    "audio-classification", model="sanchit-gandhi/whisper-medium-fleurs-lang-id"
)

Π—Π°Ρ‚Π΅ΠΌ ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΏΡ€ΠΎΠΏΡƒΡΡ‚ΠΈΡ‚ΡŒ Π·Π²ΡƒΠΊ Ρ‡Π΅Ρ€Π΅Π· наш классификатор ΠΈ ΡΠ³Π΅Π½Π΅Ρ€ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ прСдсказаниС:

classifier(sample["audio"])

Output:

[{'score': 0.9999330043792725, 'label': 'Afrikaans'},
 {'score': 7.093023668858223e-06, 'label': 'Northern-Sotho'},
 {'score': 4.269149485480739e-06, 'label': 'Icelandic'},
 {'score': 3.2661141631251667e-06, 'label': 'Danish'},
 {'score': 3.2580724109720904e-06, 'label': 'Cantonese Chinese'}]

Π’ΠΈΠ΄Π½ΠΎ, Ρ‡Ρ‚ΠΎ модСль прСдсказала, Ρ‡Ρ‚ΠΎ Π·Π²ΡƒΠΊ Π±Ρ‹Π» Π½Π° β€œAfrikaans” с ΠΎΡ‡Π΅Π½ΡŒ высокой Π²Π΅Ρ€ΠΎΡΡ‚Π½ΠΎΡΡ‚ΡŒΡŽ (Π±Π»ΠΈΠ·ΠΊΠΎΠΉ ΠΊ 1). Набор Π΄Π°Π½Π½Ρ‹Ρ… FLEURS содСрТит Π°ΡƒΠ΄ΠΈΠΎΠ΄Π°Π½Π½Ρ‹Π΅ ΠΈΠ· ΡˆΠΈΡ€ΠΎΠΊΠΎΠ³ΠΎ спСктра языков - ΠΌΡ‹ Π²ΠΈΠ΄ΠΈΠΌ, Ρ‡Ρ‚ΠΎ Π²ΠΎΠ·ΠΌΠΎΠΆΠ½Ρ‹Π΅ ΠΌΠ΅Ρ‚ΠΊΠΈ классов Π²ΠΊΠ»ΡŽΡ‡Π°ΡŽΡ‚ β€œNorthern-Sotho”, β€œIcelandic”, β€œDanish” ΠΈ β€œCantonese Chinese” языки, Π° Ρ‚Π°ΠΊΠΆΠ΅ Π΄Ρ€ΡƒΠ³ΠΈΠ΅. ΠŸΠΎΠ»Π½Ρ‹ΠΉ список языков, прСдставлСнных Π² ΠΊΠ°Ρ€Ρ‚ΠΎΡ‡ΠΊΠ΅ Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ…, ΠΌΠΎΠΆΠ½ΠΎ Π½Π°ΠΉΡ‚ΠΈ здСсь: google/fleurs.

ΠŸΠΎΡΠΌΠΎΡ‚Ρ€ΠΈΡ‚Π΅ ΡΠ°ΠΌΠΎΡΡ‚ΠΎΡΡ‚Π΅Π»ΡŒΠ½ΠΎ! КакиС Π΅Ρ‰Π΅ ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒΠ½Ρ‹Π΅ Ρ‚ΠΎΡ‡ΠΊΠΈ ΠΌΠΎΠΆΠ½ΠΎ Π½Π°ΠΉΡ‚ΠΈ для FLEURS LID Π½Π° Ρ…Π°Π±Π΅? КакиС ΠΌΠΎΠ΄Π΅Π»ΠΈ трансформаторов ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡŽΡ‚ΡΡ ΠΏΠΎΠ΄ ΠΊΠ°ΠΏΠΎΡ‚ΠΎΠΌ?

Zero-Shot Audio Classification

Π’ Ρ‚Ρ€Π°Π΄ΠΈΡ†ΠΈΠΎΠ½Π½ΠΎΠΉ ΠΏΠ°Ρ€Π°Π΄ΠΈΠ³ΠΌΠ΅ классификации Π·Π²ΡƒΠΊΠ° модСль прСдсказываСт ΠΌΠ΅Ρ‚ΠΊΡƒ класса ΠΈΠ· ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠΏΡ€Π΅Π΄Π΅Π»Π΅Π½Π½ΠΎΠ³ΠΎ Π½Π°Π±ΠΎΡ€Π° Π²ΠΎΠ·ΠΌΠΎΠΆΠ½Ρ‹Ρ… классов. Π­Ρ‚ΠΎ создаСт прСпятствиС для использования ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½Ρ‹Ρ… ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ для классификации Π·Π²ΡƒΠΊΠ°, ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ Π½Π°Π±ΠΎΡ€ ΠΌΠ΅Ρ‚ΠΎΠΊ ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½ΠΎΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ Π΄ΠΎΠ»ΠΆΠ΅Π½ ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΠΎΠ²Π°Ρ‚ΡŒ Π½Π°Π±ΠΎΡ€Ρƒ ΠΌΠ΅Ρ‚ΠΎΠΊ ΠΏΠΎΡΠ»Π΅Π΄ΡƒΡŽΡ‰Π΅ΠΉ Π·Π°Π΄Π°Ρ‡ΠΈ. Π’ ΠΏΡ€Π΅Π΄Ρ‹Π΄ΡƒΡ‰Π΅ΠΌ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅ LID модСль Π΄ΠΎΠ»ΠΆΠ½Π° ΠΏΡ€Π΅Π΄ΡΠΊΠ°Π·Π°Ρ‚ΡŒ ΠΎΠ΄ΠΈΠ½ ΠΈΠ· 102 языковых классов, Π½Π° ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… ΠΎΠ½Π° Π±Ρ‹Π»Π° ΠΎΠ±ΡƒΡ‡Π΅Π½Π°. Если для Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ поставлСнной Π·Π°Π΄Π°Ρ‡ΠΈ трСбуСтся 110 языков, Ρ‚ΠΎ модСль Π½Π΅ смоТСт ΠΏΡ€Π΅Π΄ΡΠΊΠ°Π·Π°Ρ‚ΡŒ 8 ΠΈΠ· 110 языков, ΠΈ для достиТСния ΠΏΠΎΠ»Π½ΠΎΠ³ΠΎ покрытия потрСбуСтся ΠΏΠΎΠ²Ρ‚ΠΎΡ€Π½ΠΎΠ΅ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅. Π­Ρ‚ΠΎ ΠΎΠ³Ρ€Π°Π½ΠΈΡ‡ΠΈΠ²Π°Π΅Ρ‚ ΡΡ„Ρ„Π΅ΠΊΡ‚ΠΈΠ²Π½ΠΎΡΡ‚ΡŒ примСнСния трансфСрного обучСния для Π·Π°Π΄Π°Ρ‡ классификации Π·Π²ΡƒΠΊΠ°.

Zero-shot классификация Π·Π²ΡƒΠΊΠ° это ΠΌΠ΅Ρ‚ΠΎΠ΄, ΠΏΠΎΠ·Π²ΠΎΠ»ΡΡŽΡ‰ΠΈΠΉ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π½ΡƒΡŽ модСль классификации Π°ΡƒΠ΄ΠΈΠΎΠ΄Π°Π½Π½Ρ‹Ρ…, Π½Π°Ρ‚Ρ€Π΅Π½ΠΈΡ€ΠΎΠ²Π°Π½Π½ΡƒΡŽ Π½Π° мноТСствС Ρ€Π°Π·ΠΌΠ΅Ρ‡Π΅Π½Π½Ρ‹Ρ… ΠΏΡ€ΠΈΠΌΠ΅Ρ€ΠΎΠ², для классификации Π½ΠΎΠ²Ρ‹Ρ… ΠΏΡ€ΠΈΠΌΠ΅Ρ€ΠΎΠ² ΠΈΠ· Ρ€Π°Π½Π΅Π΅ Π½Π΅ Π²ΡΡ‚Ρ€Π΅Ρ‡Π°Π²ΡˆΠΈΡ…ΡΡ классов. Π”Π°Π²Π°ΠΉΡ‚Π΅ рассмотрим, ΠΊΠ°ΠΊ этого ΠΌΠΎΠΆΠ½ΠΎ Π΄ΠΎΠ±ΠΈΡ‚ΡŒΡΡ!

Π’ настоящСС врСмя πŸ€— Transformers ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΈΠ²Π°Π΅Ρ‚ ΠΎΠ΄ΠΈΠ½ Π²ΠΈΠ΄ ΠΌΠΎΠ΄Π΅Π»ΠΈ для Zero-shot классификации Π·Π²ΡƒΠΊΠ°: это CLAP model. CLAP - это модСль, основанная Π½Π° трансформации, которая ΠΏΡ€ΠΈΠ½ΠΈΠΌΠ°Π΅Ρ‚ Π² качСствС Π²Ρ…ΠΎΠ΄Π½Ρ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ… Π·Π²ΡƒΠΊ ΠΈ тСкст ΠΈ вычисляСт сходство ΠΌΠ΅ΠΆΠ΄Ρƒ Π½ΠΈΠΌΠΈ. Если ΠΌΡ‹ ΠΏΠ΅Ρ€Π΅Π΄Π°Π΅ΠΌ тСкстовый Π²Π²ΠΎΠ΄, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ сильно ΠΊΠΎΡ€Ρ€Π΅Π»ΠΈΡ€ΡƒΠ΅Ρ‚ с Π°ΡƒΠ΄ΠΈΠΎΠ²Π²ΠΎΠ΄ΠΎΠΌ, ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΠΌ Π²Ρ‹ΡΠΎΠΊΡƒΡŽ ΠΎΡ†Π΅Π½ΠΊΡƒ сходства. И Π½Π°ΠΎΠ±ΠΎΡ€ΠΎΡ‚, ΠΏΡ€ΠΈ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‡Π΅ тСкстового Π²Π²ΠΎΠ΄Π°, ΡΠΎΠ²Π΅Ρ€ΡˆΠ΅Π½Π½ΠΎ Π½Π΅ связанного с Π°ΡƒΠ΄ΠΈΠΎΠ²Π²ΠΎΠ΄ΠΎΠΌ, Π±ΡƒΠ΄Π΅Ρ‚ ΠΏΠΎΠ»ΡƒΡ‡Π΅Π½ΠΎ Π½ΠΈΠ·ΠΊΠΎΠ΅ сходство.

ΠœΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ это прСдсказаниС сходства для zero-shot классификации Π·Π²ΡƒΠΊΠ°, пСрСдавая ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΎΠ΄ΠΈΠ½ Π°ΡƒΠ΄ΠΈΠΎΠ²Ρ…ΠΎΠ΄ ΠΈ нСсколько ΠΌΠ΅Ρ‚ΠΎΠΊ-ΠΊΠ°Π½Π΄ΠΈΠ΄Π°Ρ‚ΠΎΠ². МодСль Π²Π΅Ρ€Π½Π΅Ρ‚ ΠΎΡ†Π΅Π½ΠΊΡƒ сходства для ΠΊΠ°ΠΆΠ΄ΠΎΠΉ ΠΈΠ· ΠΌΠ΅Ρ‚ΠΎΠΊ-ΠΊΠ°Π½Π΄ΠΈΠ΄Π°Ρ‚ΠΎΠ², ΠΈ ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π²Ρ‹Π±Ρ€Π°Ρ‚ΡŒ Π² качСствС ΠΏΡ€ΠΎΠ³Π½ΠΎΠ·Π° Ρ‚Ρƒ, которая ΠΈΠΌΠ΅Π΅Ρ‚ Π½Π°ΠΈΠ±ΠΎΠ»ΡŒΡˆΡƒΡŽ ΠΎΡ†Π΅Π½ΠΊΡƒ.

Рассмотрим ΠΏΡ€ΠΈΠΌΠ΅Ρ€, Π² ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΌ ΠΌΡ‹ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌ ΠΎΠ΄ΠΈΠ½ Π°ΡƒΠ΄ΠΈΠΎΠ²Ρ…ΠΎΠ΄ ΠΎΡ‚ Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ… Environmental Speech Challenge (ESC):

dataset = load_dataset("ashraq/esc50", split="train", streaming=True)
audio_sample = next(iter(dataset))["audio"]["array"]

Π—Π°Ρ‚Π΅ΠΌ ΠΌΡ‹ опрСдСляСм наши ΠΌΠ΅Ρ‚ΠΊΠΈ-ΠΊΠ°Π½Π΄ΠΈΠ΄Π°Ρ‚Ρ‹, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΎΠ±Ρ€Π°Π·ΡƒΡŽΡ‚ Π½Π°Π±ΠΎΡ€ Π²ΠΎΠ·ΠΌΠΎΠΆΠ½Ρ‹Ρ… классификационных ΠΌΠ΅Ρ‚ΠΎΠΊ. МодСль Π±ΡƒΠ΄Π΅Ρ‚ Π²ΠΎΠ·Π²Ρ€Π°Ρ‰Π°Ρ‚ΡŒ Π²Π΅Ρ€ΠΎΡΡ‚Π½ΠΎΡΡ‚ΡŒ принадлСТности ΠΊ классу для ΠΊΠ°ΠΆΠ΄ΠΎΠΉ ΠΈΠ· Π·Π°Π΄Π°Π½Π½Ρ‹Ρ… Π½Π°ΠΌΠΈ ΠΌΠ΅Ρ‚ΠΎΠΊ. Π­Ρ‚ΠΎ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ Π½Π°ΠΌ Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΠΎ Π·Π½Π°Ρ‚ΡŒ Π°ΠΏΡ€ΠΈΠΎΡ€ΠΈ Π½Π°Π±ΠΎΡ€ Π²ΠΎΠ·ΠΌΠΎΠΆΠ½Ρ‹Ρ… ΠΌΠ΅Ρ‚ΠΎΠΊ Π² нашСй Π·Π°Π΄Π°Ρ‡Π΅ классификации, ΠΏΡ€ΠΈΡ‡Π΅ΠΌ Ρ‚Π°ΠΊ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½Π°Ρ ΠΌΠ΅Ρ‚ΠΊΠ° ΡΠΎΠ΄Π΅Ρ€ΠΆΠ°Π»Π°ΡΡŒ Π² этом Π½Π°Π±ΠΎΡ€Π΅ ΠΈ, ΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Π΅ΠΉ Π±Ρ‹Π»Π° присвоСна ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½Π°Ρ вСроятностная ΠΎΡ†Π΅Π½ΠΊΠ°. ΠžΠ±Ρ€Π°Ρ‚ΠΈΡ‚Π΅ Π²Π½ΠΈΠΌΠ°Π½ΠΈΠ΅, Ρ‡Ρ‚ΠΎ ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ Π»ΠΈΠ±ΠΎ ΠΏΠΎΠ»Π½Ρ‹ΠΉ Π½Π°Π±ΠΎΡ€ ΠΌΠ΅Ρ‚ΠΎΠΊ, Π»ΠΈΠ±ΠΎ ΠΎΡ‚ΠΎΠ±Ρ€Π°Π½Π½ΠΎΠ΅ Π²Ρ€ΡƒΡ‡Π½ΡƒΡŽ подмноТСство, ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠ΅, ΠΏΠΎ Π½Π°ΡˆΠ΅ΠΌΡƒ мнСнию, содСрТит ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΡƒΡŽ ΠΌΠ΅Ρ‚ΠΊΡƒ. ΠŸΠ΅Ρ€Π΅Π΄Π°Ρ‡Π° ΠΏΠΎΠ»Π½ΠΎΠ³ΠΎ Π½Π°Π±ΠΎΡ€Π° ΠΌΠ΅Ρ‚ΠΎΠΊ Π±ΡƒΠ΄Π΅Ρ‚ Π±ΠΎΠ»Π΅Π΅ ΠΈΡΡ‡Π΅Ρ€ΠΏΡ‹Π²Π°ΡŽΡ‰Π΅ΠΉ, Π½ΠΎ Π·Π° счСт Π±ΠΎΠ»Π΅Π΅ Π½ΠΈΠ·ΠΊΠΎΠΉ точности классификации, ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ пространство классификации большС (ΠΏΡ€ΠΈ условии, Ρ‡Ρ‚ΠΎ ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΠΎΠΉ ΠΌΠ΅Ρ‚ΠΊΠΎΠΉ являСтся Π²Ρ‹Π±Ρ€Π°Π½Π½ΠΎΠ΅ Π½Π°ΠΌΠΈ подмноТСство ΠΌΠ΅Ρ‚ΠΎΠΊ):

candidate_labels = ["Sound of a dog", "Sound of vacuum cleaner"]

ΠœΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΏΡ€ΠΎΠ³Π½Π°Ρ‚ΡŒ ΠΎΠ±Π΅ эти ΠΌΠ΅Ρ‚ΠΊΠΈ Ρ‡Π΅Ρ€Π΅Π· модСль, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π½Π°ΠΉΡ‚ΠΈ ΠΌΠ΅Ρ‚ΠΊΡƒ-ΠΊΠ°Π½Π΄ΠΈΠ΄Π°Ρ‚Π°, которая Π½Π°ΠΈΠ±ΠΎΠ»Π΅Π΅ ΠΏΠΎΡ…ΠΎΠΆΠ° Π½Π° Π²Ρ…ΠΎΠ΄Π½ΠΎΠΉ аудиосигнал:

classifier = pipeline(
    task="zero-shot-audio-classification", model="laion/clap-htsat-unfused"
)
classifier(audio_sample, candidate_labels=candidate_labels)

Output:

[{'score': 0.9997242093086243, 'label': 'Sound of a dog'}, {'score': 0.0002758323971647769, 'label': 'Sound of vacuum cleaner'}]

ΠžΡ‚Π»ΠΈΡ‡Π½ΠΎ! МодСль, ΠΏΠΎΡ…ΠΎΠΆΠ΅, ΡƒΠ²Π΅Ρ€Π΅Π½Π°, Ρ‡Ρ‚ΠΎ Ρƒ нас Π΅ΡΡ‚ΡŒ Π·Π²ΡƒΠΊ собаки - ΠΎΠ½Π° прСдсказываСт Π΅Π³ΠΎ с Π²Π΅Ρ€ΠΎΡΡ‚Π½ΠΎΡΡ‚ΡŒΡŽ 99,96%, Ρ‚Π°ΠΊ Ρ‡Ρ‚ΠΎ ΠΌΡ‹ ΠΏΡ€ΠΈΠΌΠ΅ΠΌ это Π·Π° нашС прСдсказаниС. УбСдимся Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎ ΠΌΡ‹ Π½Π΅ ошиблись, ΠΏΡ€ΠΎΡΠ»ΡƒΡˆΠ°Π² Π°ΡƒΠ΄ΠΈΠΎΠΏΡ€ΠΈΠΌΠ΅Ρ€ (Π½Π΅ ΡƒΠ²Π΅Π»ΠΈΡ‡ΠΈΠ²Π°ΠΉΡ‚Π΅ Π³Ρ€ΠΎΠΌΠΊΠΎΡΡ‚ΡŒ слишком сильно!):

Audio(audio_sample, rate=16000)

ΠžΡ‚Π»ΠΈΡ‡Π½ΠΎ! Π£ нас Π΅ΡΡ‚ΡŒ Π·Π²ΡƒΠΊ лая собаки πŸ•, Ρ‡Ρ‚ΠΎ соотвСтствуСт ΠΏΡ€Π΅Π΄ΡΠΊΠ°Π·Π°Π½ΠΈΡŽ ΠΌΠΎΠ΄Π΅Π»ΠΈ. ΠŸΠΎΠΈΠ³Ρ€Π°ΠΉΡ‚Π΅ с Ρ€Π°Π·Π½Ρ‹ΠΌΠΈ аудиосэмплами ΠΈ Ρ€Π°Π·Π½Ρ‹ΠΌΠΈ ΠΊΠ°Π½Π΄ΠΈΠ΄Π°Ρ‚Π°ΠΌΠΈ Π½Π° ΠΌΠ΅Ρ‚ΠΊΠΈ - смоТСтС Π»ΠΈ Π²Ρ‹ ΠΎΠΏΡ€Π΅Π΄Π΅Π»ΠΈΡ‚ΡŒ Π½Π°Π±ΠΎΡ€ ΠΌΠ΅Ρ‚ΠΎΠΊ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π΄Π°ΡŽΡ‚ Ρ…ΠΎΡ€ΠΎΡˆΠ΅Π΅ ΠΎΠ±ΠΎΠ±Ρ‰Π΅Π½ΠΈΠ΅ ΠΏΠΎ всСму Π½Π°Π±ΠΎΡ€Ρƒ Π΄Π°Π½Π½Ρ‹Ρ… ESC? Подсказка: ΠΏΠΎΠ΄ΡƒΠΌΠ°ΠΉΡ‚Π΅, Π³Π΄Π΅ ΠΌΠΎΠΆΠ½ΠΎ Π½Π°ΠΉΡ‚ΠΈ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ ΠΎ Π²ΠΎΠ·ΠΌΠΎΠΆΠ½Ρ‹Ρ… Π·Π²ΡƒΠΊΠ°Ρ… Π² ESC, ΠΈ постройтС свои ΠΌΠ΅Ρ‚ΠΊΠΈ ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ!

Π’ΠΎΠ·ΠΌΠΎΠΆΠ½ΠΎ, Π²Ρ‹ Π·Π°Π΄Π°Π΄ΠΈΡ‚Π΅ΡΡŒ вопросом, ΠΏΠΎΡ‡Π΅ΠΌΡƒ ΠΌΡ‹ Π½Π΅ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌ ΠΊΠΎΠ½Π²Π΅ΠΉΠ΅Ρ€ zero-shot классификации Π·Π²ΡƒΠΊΠ° для всСх Π·Π°Π΄Π°Ρ‡ классификации Π·Π²ΡƒΠΊΠ°? ΠšΠ°ΠΆΠ΅Ρ‚ΡΡ, Ρ‡Ρ‚ΠΎ ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π΄Π΅Π»Π°Ρ‚ΡŒ прСдсказания для любой Π·Π°Π΄Π°Ρ‡ΠΈ классификации Π·Π²ΡƒΠΊΠ°, опрСдСляя ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΠ΅ ΠΌΠ΅Ρ‚ΠΊΠΈ классов Π°ΠΏΡ€ΠΈΠΎΡ€ΠΈ, Ρ‚Π΅ΠΌ самым обходя ограничСния, связанныС с Ρ‚Π΅ΠΌ, Ρ‡Ρ‚ΠΎ наша Π·Π°Π΄Π°Ρ‡Π° классификации Π΄ΠΎΠ»ΠΆΠ½Π° ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΠΎΠ²Π°Ρ‚ΡŒ ΠΌΠ΅Ρ‚ΠΊΠ°ΠΌ, Π½Π° ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… Π±Ρ‹Π»Π° ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π° модСль. Π­Ρ‚ΠΎ связано с Ρ…Π°Ρ€Π°ΠΊΡ‚Π΅Ρ€ΠΎΠΌ ΠΌΠΎΠ΄Π΅Π»ΠΈ CLAP, ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌΠΎΠΉ Π² zero-shot ΠΊΠΎΠ½Π²Π΅ΠΉΠ΅Ρ€Π΅: CLAP ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±ΡƒΡ‡Π΅Π½Π° Π½Π° ΠΎΠ±Ρ‰ΠΈΡ… Π°ΡƒΠ΄ΠΈΠΎΠ΄Π°Π½Π½Ρ‹Ρ… для классификации, Ρ‚Π°ΠΊΠΈΡ… ΠΊΠ°ΠΊ Π·Π²ΡƒΠΊΠΈ ΠΎΠΊΡ€ΡƒΠΆΠ°ΡŽΡ‰Π΅ΠΉ срСды Π² Π½Π°Π±ΠΎΡ€Π΅ Π΄Π°Π½Π½Ρ‹Ρ… ESC, Π° Π½Π΅ Π½Π° Ρ€Π΅Ρ‡Π΅Π²Ρ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ…, ΠΊΠ°ΠΊ Π² Π·Π°Π΄Π°Ρ‡Π΅ LID. Если Π΄Π°Ρ‚ΡŒ Π΅ΠΌΡƒ Ρ€Π΅Ρ‡ΡŒ Π½Π° английском ΠΈ Ρ€Π΅Ρ‡ΡŒ Π½Π° испанском языках, CLAP ΠΏΠΎΠΉΠΌΠ΅Ρ‚, Ρ‡Ρ‚ΠΎ ΠΎΠ±Π° ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π° ΡΠ²Π»ΡΡŽΡ‚ΡΡ Ρ€Π΅Ρ‡Π΅Π²Ρ‹ΠΌΠΈ Π΄Π°Π½Π½Ρ‹ΠΌΠΈ πŸ—£οΈ. Но ΠΎΠ½ Π½Π΅ смоТСт Ρ€Π°Π·Π»ΠΈΡ‡ΠΈΡ‚ΡŒ языки Ρ‚Π°ΠΊ, ΠΊΠ°ΠΊ это ΠΌΠΎΠΆΠ΅Ρ‚ ΡΠ΄Π΅Π»Π°Ρ‚ΡŒ спСциализированная LID-модСль.

Π§Ρ‚ΠΎ дальшС?

ΠœΡ‹ рассмотрСли ряд Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Ρ… Π·Π°Π΄Π°Ρ‡ классификации Π·Π²ΡƒΠΊΠ° ΠΈ прСдставили Π½Π°ΠΈΠ±ΠΎΠ»Π΅Π΅ Π°ΠΊΡ‚ΡƒΠ°Π»ΡŒΠ½Ρ‹Π΅ Π½Π°Π±ΠΎΡ€Ρ‹ Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ ΠΌΠΎΠ΄Π΅Π»ΠΈ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΌΠΎΠΆΠ½ΠΎ Π·Π°Π³Ρ€ΡƒΠ·ΠΈΡ‚ΡŒ с Hugging Face Hub ΠΈ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ всСго Π² Π½Π΅ΡΠΊΠΎΠ»ΡŒΠΊΠΈΡ… строках ΠΊΠΎΠ΄Π° с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ pipeline(). Π­Ρ‚ΠΈ Π·Π°Π΄Π°Ρ‡ΠΈ Π²ΠΊΠ»ΡŽΡ‡Π°Π»ΠΈ Π² сСбя Π²Ρ‹Π΄Π΅Π»Π΅Π½ΠΈΠ΅ ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… слов, ΠΈΠ΄Π΅Π½Ρ‚ΠΈΡ„ΠΈΠΊΠ°Ρ†ΠΈΡŽ языка ΠΈ zero-shot ΠΊΠ»Π°ΡΡΠΈΡ„ΠΈΠΊΠ°Ρ†ΠΈΡŽ аудиозаписСй.

Но Ρ‡Ρ‚ΠΎ, Ссли ΠΌΡ‹ Ρ…ΠΎΡ‚ΠΈΠΌ ΡΠ΄Π΅Π»Π°Ρ‚ΡŒ Ρ‡Ρ‚ΠΎ-Ρ‚ΠΎ Π½ΠΎΠ²ΠΎΠ΅? ΠœΡ‹ ΠΌΠ½ΠΎΠ³ΠΎ Ρ€Π°Π±ΠΎΡ‚Π°Π»ΠΈ Π½Π°Π΄ Π·Π°Π΄Π°Ρ‡Π°ΠΌΠΈ ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ Ρ€Π΅Ρ‡ΠΈ, Π½ΠΎ это лишь ΠΎΠ΄ΠΈΠ½ ΠΈΠ· аспСктов классификации Π°ΡƒΠ΄ΠΈΠΎ. Другая популярная ΠΎΠ±Π»Π°ΡΡ‚ΡŒ ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ Π·Π²ΡƒΠΊΠ° связана с ΠΌΡƒΠ·Ρ‹ΠΊΠΎΠΉ. Π₯отя ΠΌΡƒΠ·Ρ‹ΠΊΠ° ΠΏΠΎ своСй сути отличаСтся ΠΎΡ‚ Ρ€Π΅Ρ‡ΠΈ, ΠΌΠ½ΠΎΠ³ΠΈΠ΅ ΠΈΠ· Ρ‚Π΅Ρ… ΠΆΠ΅ ΠΏΡ€ΠΈΠ½Ρ†ΠΈΠΏΠΎΠ², ΠΎ ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… ΠΌΡ‹ ΡƒΠΆΠ΅ ΡƒΠ·Π½Π°Π»ΠΈ, ΠΌΠΎΠ³ΡƒΡ‚ Π±Ρ‹Ρ‚ΡŒ ΠΏΡ€ΠΈΠΌΠ΅Π½Π΅Π½Ρ‹ ΠΈ ΠΊ ΠΌΡƒΠ·Ρ‹ΠΊΠ΅.

Π’ ΡΠ»Π΅Π΄ΡƒΡŽΡ‰Π΅ΠΌ Ρ€Π°Π·Π΄Π΅Π»Π΅ ΠΌΡ‹ рассмотрим пошаговоС руководство ΠΏΠΎ Ρ‚ΠΎΠ½ΠΊΠΎΠΉ настройкС ΠΌΠΎΠ΄Π΅Π»ΠΈ трансформСра с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ πŸ€— Transformers Π½Π° Π·Π°Π΄Π°Ρ‡Π΅ классификации ΠΌΡƒΠ·Ρ‹ΠΊΠΈ. К ΠΊΠΎΠ½Ρ†Ρƒ этой Ρ€Π°Π±ΠΎΡ‚Ρ‹ Ρƒ вас Π±ΡƒΠ΄Π΅Ρ‚ ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΡŒΠ½Π°Ρ Ρ‚ΠΎΡ‡ΠΊΠ° Π΄ΠΎΠΎΠ±ΡƒΡ‡Π΅Π½Π½ΠΎΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ, ΠΊΠΎΡ‚ΠΎΡ€ΡƒΡŽ Π²Ρ‹ смоТСтС ΠΏΠ΅Ρ€Π΅Π΄Π°Ρ‚ΡŒ Π² pipeline(), Ρ‡Ρ‚ΠΎ ΠΏΠΎΠ·Π²ΠΎΠ»ΠΈΡ‚ Π²Π°ΠΌ ΠΊΠ»Π°ΡΡΠΈΡ„ΠΈΡ†ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ пСсни Ρ‚ΠΎΡ‡Π½ΠΎ Ρ‚Π°ΠΊ ΠΆΠ΅, ΠΊΠ°ΠΊ ΠΌΡ‹ классифицировали здСсь Ρ€Π΅Ρ‡ΡŒ!