File size: 12,376 Bytes
568e443
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
127a440
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
---
dataset_info:
  features:
  - name: id
    dtype: string
  - name: audio
    dtype:
      audio:
        sampling_rate: 22050
  - name: file
    dtype: string
  - name: text
    dtype: string
  - name: normalized_text
    dtype: string
  - name: spectogram
    dtype: string
  splits:
  - name: train
    num_bytes: 3952752554.0
    num_examples: 13100
  download_size: 3818657682
  dataset_size: 3952752554.0
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
---

## Explanation
A small experiment insipred by the [Mistral playing DOOM experiment](https://github.com/umuthopeyildirim/DOOM-Mistral/tree/main) from the Mistral Hackathon

**How it works?** 
``` 
Audio -> Waveform Visualization -> Waveform ASCII Art -> Finetune Mistral on ASCII Art to predict text from ASCII Art
```

**Quick video explanation**
<video width="820" controls src="https://cdn-uploads.huggingface.co/production/uploads/6382255fcae34727b9cc149e/nCB8Qu8QwDbJAKcq9IzPE.mp4"></video>


#### Example Waveform
![image/png](https://cdn-uploads.huggingface.co/production/uploads/6382255fcae34727b9cc149e/4ui-5eJihKm0vYQ33MRfZ.png)


#### Example ASCII Art
```                                                                                                                                                                          
                                                                                                                                                                          
                                                                                y                                                                                         
                                                                                x                                                                                         
                                                                                x                                                                                         
                                                                                x                                                                                         
                                                                               ux                                                                                         
                                                                               tx                                                                                         
                                                                               dx                                                                                         
                         9                                                     ex            v                                                                            
                         4                                                     dr            v                                                                            
                         4                                                     do            s                                                                            
                         1Y                                                    6o            e                 o5                                                         
            x            1Y      y                                             6o        ze  7                 iYY                                                        
            e            YYz     r                     Ys                      Ym        xd  Y                 gYY                                                        
            6            YYY     r                     Ys                      Yl        xd sY        Y        eYY            Y                                           
        z   6            YYY   y s         k      z    Ys                      Yl        xd sY        Y   m   vYYY   s       5Y         z                                 
        Yh  6Y         xfYYY   y qq        i      2m   Ydu                     Y6 Y      vd sYY       Yz  cq  vYYY  eY       5Y0      b z            q                    
        YYz 6Y       xywYYYY   ZzqYt       f      YY   Ydu                     Y6 Y      vd sYY       Yl  6d  iYYY  YYz      5YY      Y z  9     g  il                    
        YYx YYo      gfwYYYY   ZxkY6      wf    Z9YY   Ydu     xz6             Y6 Yi8    v4 sYY   z   YY  6d  4YYY uYYu o    5YY   f  Y zkyY     0  1Y  z                 
        YYw YY7      hfwYYYY 7 ZYkYY 1 z  7Y   yYYYY   YdY     8zY             Y6 Y78    v4 sYYyt Y   YY  6d  4YYYz3YYY o    4YYx  e  Yzx0xY     Z  1Y  8                 
        YYw YYY      5dwYYYYeYmZYmYY Y Y  YY  sYYYYY   YdYl  x 50Yo 9          Y6 YYY4   v5 vYY3tpY   YY  6d  4YYYyYYYY m    3YYq  Y  Yzg0iY     Y 4ZY 98 p               
        YYsjYYYYz    5Y7YYYYYYdYYYYY Y Y  YY  YYYYYY   YcYY  5lY8YYa1          Y6 YYY2   v7YYYYYYpYz YYY  6d  ZYYYtYYYY Yg   3YYo  Y  Yz8YZY xw  Y YYY Y5 p   Y           
        YY6YYYYYa    YY9YYYYYYYYYYYYrYyYz YYe YYYYYY   YYYYv YsYYYYYYY        uY5 YYYY0  vYYYYYYYoYz YYY  6Y  YYYYtYYYY Y7   3YYi rY wYz7YYYvkt  YYYYY Y4yo4 1Yay         
       3YYdYYYYY8    YYYYYYYYYYYYYYYYYwYu YY3 YYYYYY   YYYYn YeYYYYYYYZ       uY5 YYYY0  uYYYYYYY6Yz YYY  6Y9 YYYYsYYYY Y58  3YYi6pY ZYz5YYY2e5  YYYYY Y2qeYz1YY9         
       YYY5YYYYY5    YYYYYYYYYYYYYYYYYuYu YY1 YYYYYY   YYYY3 YYYYYYYYYY       uYYYYYYY0  hYYYYYYY6YyrYYY  6YY YYYYYYYYY YYY  3YYfYsY YYz1YYY1Y2Y YYYYY YYq0YYYYYY         
       YYYYYYYYYY    YYYYYYYYYYYYYYYYYsYuyYYYoYYYYYY1  YYYY2YYYYYYYYYYY       vYYYYYYYY z4YYYYYYYYYYYYYYZg1YYYYYYYYYYYYzYYYz ZYYYYdYlYYYYYYYZYYY YYYYYzYYYYYYYYYY         
       YYYYYYYYYYYYY1YYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYZY112YYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYYY       
       YYY1YYYYYY    YYYYYYYYYYYYYYYYYsYu YYYoYYYYYY4  YYYY2YYYYYYYYYYY       vYYYYYYYY  7YYYYYYYZYYYYYYZv7YYYYYYYYYYYY YYYz 1YYYYdYmYYYYYYYZYYY YYYYYzYYYYYYYYYY         
       YYY6YYYYY6    YYYYYYYYYYYYYYYYYvYu YY1 YYYYYY   YYYY3 YYYYYYYYYY       uYYYYYYY0  hYYYYYYY6YyxYYY  6YY YYYYYYYYY YYY  3YYfYtY YYz3YYY1Y2Y YYYYY YYq0YYYYYY         
       cYYcYYYYY8    YYYYYYYYYYYYYYYYYxYu YY3 YYYYYY   YYYYn YfYYYYYYYZ       uY5 YYYY0  vYYYYYYY6Yz YYY  6Y9 YYYYsYYYY Y5n  3YYi8pY 1Yz6YYY3g7  YYYYY Y2qkYz1YYa         
        YY9YYYYYf    YY9YYYYYYYYYYYYrYyYz YYi YYYYYY   Y1YYv YsYZYYYYY        uY5 YYYYb  vYYYYYYYoYz YYY  6Y  YYYYtYYYY Y7   3YYi rY wYz7YYYvku  YYYYY Y3zo6 1Yn          
        YYskYYYYz    5Y8YYYYYYdYY2YY Y Y  YY  YYYYYY   YcYY  5lY8YYd3          Y6 YYY4   v9YYYYYYpYz YYY  6d  1YYYtYYYY Yg   3YYp  Y  Yz8Y1Y yw  Y YYY Y5 q   Y           
        YYw YYY      5dwYYYYhYpZYmYY Y Y  YY  wYYYYY   YdYr  z 50Yo 0          Y6 YYY5   v5 vYY4tpY   YY  6d  4YYYzYYYY m    3YYq  Y  Yzh0iY     Y 4ZY 98 o               
        YYw YY7      hfwYYYY b ZYkYY 4    cY   yYYYY   YdY     dzY             Y6 Y78    v4 sYYzt Y   YY  6d  4YYY 7YYY o    5YYx  f  Yzy0yY     3  1Y  8                 
        YYx ZYo      hfwYYYY   ZykY7      wf    Z9YY   Ydu     xz7             Y6 Ykb    v3 sYY       YY  6d  9YYY uYYy o    5YY   f  Y zpyY     b  1Y  z                 
        YY  6Y       xywYYYY   ZzqYy       f      YY   Ydu                     Y6 Y      vd sYY       Yo  6d  jYYY  1Yz      5YY      Y z  9     g  lm                    
        Yi  6Y         ygYYY   y qq        i      9m   Ydu                     Y6 Y      vd sYY       Y   cs  vYYY  rY       5Yp      e z            t                    
            6            YYY   y s         o           Ys                      Yl        xd sY        Y   r   vYYY   y       5Y         z                                 
            6            YYY     r                     Ys                      Yl        xd sY        Y        eYY            Y                                           
            e            YYz     r                     Ys                      Ym        xd  Y                 gYY                                                        
            x            1Y      z                                             6o        ze  8                 mYY                                                        
                         14                                                    6o            e                 o5                                                         
                         4                                                     do            t                                                                            
                         4                                                     dv            v                                                                            
                         h                                                     ex            v                                                                            
                                                                               dx                                                                                         
                                                                               ux                                                                                         
                                                                               ux                                                                                         
                                                                                x                                                                                         
                                                                                x                                                                                         
                                                                                x                                                                                         
                                                                                y                                                                                         
                                                                                                                                                                          
                                                                                                                                                                                                                                   
```

## Models & Results
Mistral 7B 0.2 finetunes on ascii art. **As seen in the results, experiment didn't amount to much**
- 2 epochs - [0-hero/mistral-speech-to-text-preview](https://huggingface.co/0-hero/mistral-speech-to-text-preview/) - Loss pretty much flattened after this epoch
  - ```
    Metrics:
      rouge-1: {'r': 0.12919024091165357, 'p': 0.1163312036605547, 'f': 0.11315199212991178}
      rouge-2: {'r': 0.013705453572242508, 'p': 0.0137500428446463, 'f': 0.012676757505648992}
      rouge-l: {'r': 0.11261286554140228, 'p': 0.09921920076529338, 'f': 0.09705621471622536}
      length_correlation: 0.014470676120233311
      avg_actual_length: 16.59
      avg_pred_length: 21.46
      exact_match_accuracy: 0.0
    ```
- 4 epochs - [0-hero/mistral-speech-to-text](https://huggingface.co/0-hero/mistral-speech-to-text/)
  - ```
    Metrics:
      rouge-1: {'r': 0.11869828051815862, 'p': 0.11697319273190071, 'f': 0.11154343875398197}
      rouge-2: {'r': 0.008572925612399297, 'p': 0.009040061245943597, 'f': 0.008369604666309954}
      rouge-l: {'r': 0.10780857719316121, 'p': 0.10373665666448233, 'f': 0.09985384905943501}
      length_correlation: -0.1500200314034927
      avg_actual_length: 16.59
      avg_pred_length: 18.32
      exact_match_accuracy: 0.0
    ```

## Datasets
[lj_speech](https://huggingface.co/datasets/lj_speech) dataset used to convert audio waveforms into ASCII Art
- [0-hero/lj_speech_with_spectogram_conversations](https://huggingface.co/datasets/0-hero/lj_speech_with_spectogram_conversations) - ShareGPT style finetuning dataset with train, test split
- [0-hero/lj_speech_with_spectogram](https://huggingface.co/datasets/0-hero/lj_speech_with_spectogram) - Raw dataset with ASCII Art (this)