| یادگیری ماشین وداده‌کاوی |
| --- |
|  |
| موضوع‌ها
* طبقه‌بندی آماری
* خوشه‌بندی
* تحلیل رگرسیون
* روش تشخیص ناهنجاری
* یادگیری قانون وابستگی
* یادگیری تقویتی
* پیش بینی ساختاریافته
* مهندسی ویژگی
* یادگیری ویژگی
* یادگیری ماشین برخط
* یادگیری نیمه‌نظارتی
* یادگیری بی‌نظارت
* Learning to rank
* Grammar induction

 |
| یادگیری با نظارت(**طبقه‌بندی آماری** •  **تحلیل رگرسیون**)
* یادگیری درخت تصمیم
* Ensembles (Bagging, بوستینگ، جنگل تصادفی)
* *k*-NN
* رگرسیون خطی
* دسته‌بندی کننده بیز ساده
* شبکه‌های عصبی مصنوعی
* رگرسیون لجستیک
* پرسپترون
* Relevance vector machine (RVM)
* ماشین بردار پشتیبانی

 |
| خوشه‌بندی
* کاهش و خوشه‌بندی ترازمند و بازکردی با بهره‌گیری از رده‌بندی
* خوشه‌بندی سلسله‌مراتبی
* خوشه‌بندی کی-میانگین
* الگوریتم امید ریاضی–بیشینه کردن
* DBSCAN
* OPTICS
* انتقال میانگین

 |
| کاهش ابعاد
* تحلیل عاملی
* CCA
* تحلیل مؤلفه‌های مستقل
* آنالیز افتراقی خطی
* فاکتورگیری نامنفی ماتریس
* تحلیل مؤلفه‌های اصلی
* t-SNE

 |
| پیش‌بینی ساختاریافته
* مدل‌های گرافیکی (شبکه‌های بیزی، میدان تصادفی شرطی، مدل پنهان مارکف)

 |
| روش تشخیص ناهنجاری
* الگوریتم کی-نزدیکترین همسایه
* فاکتور پرتی محلی

 |
| شبکه عصبی مصنوعی
* خودرمزگذار
* یادگیری عمیق
* پرسپترون چندلایه
* RNN
* ماشین بولتزمن محدود شده
* ترانسفورمر بینایی
* SOM
* شبکه عصبی پیچشی

 |
| یادگیری تقویتی
* کیو-یادگیری
* SARSA
* یادگیری تفاوت زمانی

 |
| نظریه
* Bias-variance dilemma
* نظریه یادگیری محاسباتی
* Empirical risk minimization
* Occam learning
* یادگیری احتمالا تقریبا صحیح
* Statistical learning
* VC theory

 |
| حوزه‌های یادگیری ماشین
* NIPS
* ICML
* ML
* JMLR
* ArXiv:cs.LG

 |
| * ن
* ب
* و
 |

 یادگیری عمیق سنتز گفتار، از شبکه‌های عصبی عمیق (DNN) برای تولید گفتار مصنوعی از متن (متن به گفتار) یا طیف (رمزگذارهای صوتی) استفاده می‌کند. شبکه‌های عصبی عمیق با استفاده از حجم زیادی از گفتار ضبط شده و در مورد سیستم متن به گفتار، برچسب‌های مرتبط و/یا متن ورودی آموزش داده می‌شوند.

بعضی از سنتز کننده‌های گفتار مبتنی بر DNN، رویکرد طبیعت صدای انسان را در پیش می‌گیرند.

فرمول‌های مرتبط
---------------

با توجه به یک متن ورودی یا یک سری از واحدهای زبانی Y ، گفتار هدف X را می‌توان توسط رابطهٔ زیر به دست آورد:

{\displaystyle X=\arg \max P(X|Y,\theta )}

که \theta  پارامتر مدل است.

معمولاً ابتدا متن ورودی به یک تولید کنندهٔ مشخصهٔ صوتی ارسال می‌گردد، سپس ویژگی‌های آوایی به رمزگذارهای صوتی عصبی فرستاده می‌شود. برای تولیدکنندهٔ ویژگی صوتی، تابع زیان معمولاً L1 loss یا L2 loss است. محدودیتی که این توابع زیان دارند این است که توزیع ویژگی‌های صوتی خروجی باید از نوع گوسی یا لاپلاسی باشد. در عمل، از آنجایی که محدودهٔ صدای انسان در حدود ۳۰۰ تا ۴۰۰۰ هرتز متغیر است، تابع هزینه طوری طراحی می‌شود که جریمه بیشتری در این محدوده داشته باشد:

{\displaystyle loss=\alpha {\text{loss}}\_{\text{human}}+(1-\alpha ){\text{loss}}\_{\text{other}}}

که {\displaystyle {\text{loss}}\_{\text{human}}} تلفات محدودهٔ صدای انسان و \alpha  یک اسکالر (مقدار عددی) معمولاً در حدود ۰٫۵ است. ویژگی آوایی معمولاً طیف نگار یا طیف نگاری در مقیاس Mel است. این ویژگی‌ها، رابطه زمان-فرکانس سیگنال گفتار را می‌گیرند و بنابراین، تولید خروجی‌های هوشمند با این ویژگی‌های صوتی کافی است. ویژگی Mel-frequency cepstrum مورد استفاده در کار تشخیص گفتار، برای سنتز گفتار مناسب نیست؛ زیرا اطلاعات زیادی را کاهش می‌دهد.

تاریخچه مختصر
-------------

پرونده:WaveNet animation.gifA stack of dilated casual convolutional layers used in WaveNet
در سپتامبر ۲۰۱۶، شرکت DeepMind، مدل WaveNet را پیشنهاد کرد، یک مدل تولید کنندهٔ عمیق از شکل موج‌های صوتی خام، که نشان می‌دهد مدل‌های مبتنی بر یادگیری عمیق قادر هستند شکل موج‌های خام را مدل‌سازی کنند و از روی مشخصه‌های آکوستیک، مانند طیف‌نگارها یا طیف‌نگارهای مل گفتار تولید کنند. اگرچه WaveNet در ابتدا از نظر محاسباتی بسیار گران و کند در نظر گرفته می‌شد که در آن زمان این امکان وجود نداشت که از این مدل در محصولات مصرفی استفاده شود، اما یک سال پس از انتشار، DeepMind نسخه اصلاح‌شده WaveNet را به نام «Paralel WaveNet» معرفی کرد که مدلی تولیدی ۱۰۰۰ سریع‌تر از نسخه اصلی بود.

در اوایل سال ۲۰۱۷، مؤسسهٔ میلا مدل char2wav را پیشنهاد کرد که برای تولید شکل موج خام در یک روش end-to-end بود. در همان سال، گوگل و فیس‌بوک به ترتیب Tacotron و VoiceLoop را برای تولید ویژگی‌های صوتی مستقیماً از متن ورودی پیشنهاد کردند. ماه‌ها بعد، گوگل Tacotron2 را پیشنهاد کرد، که کدصدای WaveNet را با معماری اصلاح‌شده Tacotron ترکیب کرد تا سنتز گفتار سرتاسر را انجام دهد. Tacotron2 می‌تواند گفتاری با کیفیت بالا تولید کند که نزدیک به صدای انسان است. از آن زمان، روش‌های end-end تبدیل به داغ‌ترین موضوع تحقیقاتی شده‌اند، زیرا بسیاری از محققان در سراسر جهان متوجه قدرت ترکیب‌کننده‌های گفتار end-end شده‌اند.

یادگیری نیمه نظارتی
-------------------

در حال حاضر، یادگیری خود نظارتی به دلیل استفاده بهتر از داده‌های بدون برچسب، توجه زیادی را به خود جلب کرده‌است. تحقیقات نشان داده‌است که با کمک تلفات خود نظارتی، نیاز به داده‌های جفت کاهش می‌یابد.

سازگار بودن گویندهٔ بدون نمونه
------------------------------

سازگاربودن گویندهٔ بدون نمونه امیدوارکننده است زیرا یک مدل واحد می‌تواند گفتاری با سبک‌ها و ویژگی‌های مختلف بلندگو تولید کند. در ژوئن ۲۰۱۸، گوگل پیشنهاد کرد که از مدل‌های اثبات گویندگان از پیش آموزش‌دیده به‌عنوان رمزگذار گوینده برای استخراج تعبیه‌های گوینده استفاده کند. سپس رمزگذارهای گوینده، بخشی از مدل‌های عصبی متن به گفتار می‌شوند، به طوری که می‌توانند سبک و ویژگی‌های گفتار خروجی را تعیین کنند. این رویه به جامعه نشان داده‌است که می‌توان تنها از یک مدل برای تولید گفتار با سبک‌های متعدد استفاده کرد.

رمزگذار صوتی عصبی
-----------------

Speech synthesis example using the HiFi-GAN neural vocoder
در سنتز گفتار مبتنی بر یادگیری عمیق، رمزگذارهای صوتی عصبی نقش مهمی در تولید گفتار با کیفیت بالا از ویژگی‌های صوتی دارند. مدل WaveNet که در سال ۲۰۱۶ ارائه شد، عملکرد بسیار خوبی در کیفیت گفتار دارد. WaveNet احتمال مشترک یک شکل موج را فاکتور گرفت {\displaystyle \mathbf {x} =\{x\_{1},...x\_{T}\}} به عنوان حاصل ضرب احتمالات مشروط به صورت زیر

{\displaystyle p\_{\theta }(\mathbf {x} )=\prod \_{t=1}^{T}p(x\_{t}|x\_{1},...x\_{t-1})}

جایی که \theta  پارامتر مدل شامل بسیاری از لایه‌های پیچشی اتساع یافته‌است؛ بنابراین، هر نمونه صوتی {\displaystyle x\_{t}}، مشروط به نمونه‌ها در تمام مراحل قبلی است. با این حال، ماهیت رگرسیون خودکار WaveNet روند استنتاج را به‌طور چشمگیری کند می‌کند. برای حل این مشکل، Parallel WaveNet پیشنهاد شد. WaveNet موازی یک مدل مبتنی بر جریان خودهمبستهٔ معکوس است که با knowledge distillationبا یک مدل WaveNet یاددهندهٔ از قبل آموزش دیده، آموزش داده می‌شود. از آنجایی که چنین مدل‌های مبتنی بر جریان خودهمبسته معکوس هنگام انجام استنتاج غیر رگرسیون خودکار هستند، سرعت استنتاج سریع‌تر از زمان واقعی است. در همین حال، Nvidia مدل WaveGlow مبتنی بر جریان را پیشنهاد کرد که می‌تواند گفتار را سریع‌تر از زمان واقعی تولید کند. با این حال، علی‌رغم سرعت استنتاج بالا، WaveNet موازی محدودیت نیاز به یک مدل WaveNet از پیش آموزش دیده را دارد، به طوری که WaveGlow هفته‌ها طول می‌کشد تا با دستگاه‌های محاسباتی محدود همگرا شود. این مشکل توسط موازی WaveGAN حل شده‌است، که یادمی‌گیرد گفتار را از طریق از دست دادن طیفی با وضوح چندگانه و استراتژی‌های یادگیری GAN تولید کند.


|  |  |
| --- | --- |
|  | 
Synthesis example

The Chaos (short version) synthesized by VITS, a research deep-learning-based end-to-end text-to-speech method, using the LJ Speech dataset.

---

 |
| *آیا مشکلی با شنیدن این پرونده دارید؟ راهنمای رسانه را ببینید.* |

منابع
-----

1. 1 2  van den Oord, Aäron (2017-11-12). "High-fidelity speech synthesis with WaveNet". *DeepMind*. Retrieved 2022-06-05.
2. ↑  Hsu. "Hierarchical Generative Modeling for Controllable Speech Synthesis". arXiv:1810.07217.
3. ↑  Habib. "Semi-Supervised Generative Modeling for Controllable Speech Synthesis". arXiv:1910.01709.
4. ↑  Chung. "Semi-Supervised Training for Improving Data Efficiency in End-to-End Speech Synthesis". arXiv:1808.10128.
5. ↑  Ren. "Almost Unsupervised Text to Speech and Automatic Speech Recognition". arXiv:1905.06791.
6. ↑  Jia. "Transfer Learning from Speaker Verification to Multispeaker Text-To-Speech Synthesis". arXiv:1806.04558.
7. ↑  van den Oord. "Parallel WaveNet: Fast High-Fidelity Speech Synthesis". arXiv:1711.10433.
8. ↑  Prenger. "WaveGlow: A Flow-based Generative Network for Speech Synthesis". arXiv:1811.00002.
9. ↑  Yamamoto. "Parallel WaveGAN: A fast waveform generation model based on generative adversarial networks with multi-resolution spectrogram". arXiv:1910.11480.