Update README.md
Browse files
README.md
CHANGED
@@ -13,15 +13,15 @@ metrics:
|
|
13 |
|
14 |
## λͺ¨λΈ μ€λͺ
|
15 |
μ΄ RoBERTa λͺ¨λΈμ λ€μν νκ΅μ΄ ν
μ€νΈ λ°μ΄ν°μ
μμ **μμ ** λ¨μλ‘ μ¬μ νμ΅λμμ΅λλ€.
|
16 |
-
μ체 ꡬμΆν νκ΅μ΄ μμ λ¨μ vocab
|
17 |
|
18 |
## μν€ν
μ²
|
19 |
- **λͺ¨λΈ μ ν**: RoBERTa
|
20 |
- **μν€ν
μ²**: RobertaForMaskedLM
|
21 |
- **λͺ¨λΈ ν¬κΈ°**: 512 hidden size, 8 hidden layers, 8 attention heads
|
22 |
- **max_position_embeddings**: 514
|
23 |
-
- **intermediate_size**:
|
24 |
-
- **vocab_size**:
|
25 |
|
26 |
## νμ΅ λ°μ΄ν°
|
27 |
μ¬μ©λ λ°μ΄ν°μ
μ λ€μκ³Ό κ°μ΅λλ€:
|
|
|
13 |
|
14 |
## λͺ¨λΈ μ€λͺ
|
15 |
μ΄ RoBERTa λͺ¨λΈμ λ€μν νκ΅μ΄ ν
μ€νΈ λ°μ΄ν°μ
μμ **μμ ** λ¨μλ‘ μ¬μ νμ΅λμμ΅λλ€.
|
16 |
+
μ체 ꡬμΆν νκ΅μ΄ μμ λ¨μ vocabμ μ¬μ©νμμ΅λλ€.
|
17 |
|
18 |
## μν€ν
μ²
|
19 |
- **λͺ¨λΈ μ ν**: RoBERTa
|
20 |
- **μν€ν
μ²**: RobertaForMaskedLM
|
21 |
- **λͺ¨λΈ ν¬κΈ°**: 512 hidden size, 8 hidden layers, 8 attention heads
|
22 |
- **max_position_embeddings**: 514
|
23 |
+
- **intermediate_size**: 2,048
|
24 |
+
- **vocab_size**: 1,428
|
25 |
|
26 |
## νμ΅ λ°μ΄ν°
|
27 |
μ¬μ©λ λ°μ΄ν°μ
μ λ€μκ³Ό κ°μ΅λλ€:
|