Hugging Face's logo

Datasets:
pythainlp
/
thailaw

Tasks:
Text Generation
Languages:
Thai
Size Categories:
10K<n<100K
Tags:
legal
License:
Dataset card Viewer Files Community
wannaphong commited on
Commit
a3f7507
•
1 Parent(s): 6453c23

Upload build_thailaw.ipynb

Browse files
Files changed (1) hide show
  1. build_thailaw.ipynb +565 -0
build_thailaw.ipynb ADDED
@@ -0,0 +1,565 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "cells": [
3
+ {
4
+ "cell_type": "code",
5
+ "execution_count": null,
6
+ "id": "987161c5-2de7-408a-91ce-64d190c7115f",
7
+ "metadata": {},
8
+ "outputs": [],
9
+ "source": [
10
+ "!wget https://github.com/PyThaiNLP/thai-law/releases/download/v0.2/law.csv"
11
+ ]
12
+ },
13
+ {
14
+ "cell_type": "code",
15
+ "execution_count": 1,
16
+ "id": "8212d5df-e02e-4cc3-b179-e2391daefa4e",
17
+ "metadata": {
18
+ "tags": []
19
+ },
20
+ "outputs": [],
21
+ "source": [
22
+ "import json\n",
23
+ "import pandas as pd\n",
24
+ "import re\n",
25
+ "from datasets import load_dataset\n",
26
+ "from tqdm.auto import tqdm"
27
+ ]
28
+ },
29
+ {
30
+ "cell_type": "code",
31
+ "execution_count": 2,
32
+ "id": "9314d646-6a8d-4da7-8250-2845de0d07e4",
33
+ "metadata": {
34
+ "tags": []
35
+ },
36
+ "outputs": [
37
+ {
38
+ "name": "stdout",
39
+ "output_type": "stream",
40
+ "text": [
41
+ "thai law\n"
42
+ ]
43
+ }
44
+ ],
45
+ "source": [
46
+ "print(\"thai law\")\n",
47
+ "df=pd.read_csv(\"law.csv\")\n",
48
+ "def clean_newlines(txt):\n",
49
+ " return re.sub('(\\n+)','\\n',txt).strip().replace(\"\\xa0\",\"\")"
50
+ ]
51
+ },
52
+ {
53
+ "cell_type": "code",
54
+ "execution_count": 3,
55
+ "id": "9153f087-2122-4bde-a016-c1130af8dc84",
56
+ "metadata": {
57
+ "tags": []
58
+ },
59
+ "outputs": [
60
+ {
61
+ "data": {
62
+ "text/html": [
63
+ "<div>\n",
64
+ "<style scoped>\n",
65
+ " .dataframe tbody tr th:only-of-type {\n",
66
+ " vertical-align: middle;\n",
67
+ " }\n",
68
+ "\n",
69
+ " .dataframe tbody tr th {\n",
70
+ " vertical-align: top;\n",
71
+ " }\n",
72
+ "\n",
73
+ " .dataframe thead th {\n",
74
+ " text-align: right;\n",
75
+ " }\n",
76
+ "</style>\n",
77
+ "<table border=\"1\" class=\"dataframe\">\n",
78
+ " <thead>\n",
79
+ " <tr style=\"text-align: right;\">\n",
80
+ " <th></th>\n",
81
+ " <th>sysid</th>\n",
82
+ " <th>title</th>\n",
83
+ " <th>txt</th>\n",
84
+ " </tr>\n",
85
+ " </thead>\n",
86
+ " <tbody>\n",
87
+ " <tr>\n",
88
+ " <th>0</th>\n",
89
+ " <td>726890</td>\n",
90
+ " <td>กฎบัตรสหประชาชาติ ซึ่งรับตกลงกัน ณ เมืองซานฟาน...</td>\n",
91
+ " <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nกฎบัตรสหประชาชาติ\\n\\n\\n\\n\\n\\...</td>\n",
92
+ " </tr>\n",
93
+ " <tr>\n",
94
+ " <th>1</th>\n",
95
+ " <td>301085</td>\n",
96
+ " <td>กฎบัตรสหประชาชาติ ค.ศ. 1945</td>\n",
97
+ " <td>\\n\\n\\n\\n\\n\\n\\n\\n\\n \\n\\n\\n\\n\\n\\n\\n \\n \\n \\n \\n ...</td>\n",
98
+ " </tr>\n",
99
+ " <tr>\n",
100
+ " <th>2</th>\n",
101
+ " <td>740727</td>\n",
102
+ " <td>ประกาศกระทรวงมหาดไทย เรื่อง การออกหนังสือผ่านแ...</td>\n",
103
+ " <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nประกาศกระทรวงมหาดไทย\\n\\n\\n\\n...</td>\n",
104
+ " </tr>\n",
105
+ " <tr>\n",
106
+ " <th>3</th>\n",
107
+ " <td>497860</td>\n",
108
+ " <td>ประกาศการมีผลใช้บังคับของความตกลงระหว่างรัฐบาล...</td>\n",
109
+ " <td>\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\nประกาศ\\r\\n...</td>\n",
110
+ " </tr>\n",
111
+ " <tr>\n",
112
+ " <th>4</th>\n",
113
+ " <td>490191</td>\n",
114
+ " <td>ประกาศ การมีผลใช้บังคับของความตกลง ระหว่าง รัฐ...</td>\n",
115
+ " <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nประกาศ\\n\\n\\n\\n\\n\\n\\nประกาศ\\n...</td>\n",
116
+ " </tr>\n",
117
+ " <tr>\n",
118
+ " <th>...</th>\n",
119
+ " <td>...</td>\n",
120
+ " <td>...</td>\n",
121
+ " <td>...</td>\n",
122
+ " </tr>\n",
123
+ " <tr>\n",
124
+ " <th>42750</th>\n",
125
+ " <td>771111</td>\n",
126
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
127
+ " <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...</td>\n",
128
+ " </tr>\n",
129
+ " <tr>\n",
130
+ " <th>42751</th>\n",
131
+ " <td>771127</td>\n",
132
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
133
+ " <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...</td>\n",
134
+ " </tr>\n",
135
+ " <tr>\n",
136
+ " <th>42752</th>\n",
137
+ " <td>771129</td>\n",
138
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
139
+ " <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...</td>\n",
140
+ " </tr>\n",
141
+ " <tr>\n",
142
+ " <th>42753</th>\n",
143
+ " <td>771099</td>\n",
144
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิน เรื...</td>\n",
145
+ " <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...</td>\n",
146
+ " </tr>\n",
147
+ " <tr>\n",
148
+ " <th>42754</th>\n",
149
+ " <td>771109</td>\n",
150
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง เรื่อง กิจ...</td>\n",
151
+ " <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...</td>\n",
152
+ " </tr>\n",
153
+ " </tbody>\n",
154
+ "</table>\n",
155
+ "<p>42755 rows × 3 columns</p>\n",
156
+ "</div>"
157
+ ],
158
+ "text/plain": [
159
+ " sysid title \\\n",
160
+ "0 726890 กฎบัตรสหประชาชาติ ซึ่งรับตกลงกัน ณ เมืองซานฟาน... \n",
161
+ "1 301085 กฎบัตรสหประชาชาติ ค.ศ. 1945 \n",
162
+ "2 740727 ประกาศกระทรวงมหาดไทย เรื่อง การออกหนังสือผ่านแ... \n",
163
+ "3 497860 ประกาศการมีผลใช้บังคับของความตกลงระหว่างรัฐบาล... \n",
164
+ "4 490191 ประกาศ การมีผลใช้บังคับของความตกลง ระหว่าง รัฐ... \n",
165
+ "... ... ... \n",
166
+ "42750 771111 ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ... \n",
167
+ "42751 771127 ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ... \n",
168
+ "42752 771129 ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ... \n",
169
+ "42753 771099 ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิน เรื... \n",
170
+ "42754 771109 ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง เรื่อง กิจ... \n",
171
+ "\n",
172
+ " txt \n",
173
+ "0 \\n\\n\\n\\n\\n\\n\\n\\n\\nกฎบัตรสหประชาชาติ\\n\\n\\n\\n\\n\\... \n",
174
+ "1 \\n\\n\\n\\n\\n\\n\\n\\n\\n \\n\\n\\n\\n\\n\\n\\n \\n \\n \\n \\n ... \n",
175
+ "2 \\n\\n\\n\\n\\n\\n\\n\\n\\nประกาศกระทรวงมหาดไทย\\n\\n\\n\\n... \n",
176
+ "3 \\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\nประกาศ\\r\\n... \n",
177
+ "4 \\n\\n\\n\\n\\n\\n\\n\\n\\nประกาศ\\n\\n\\n\\n\\n\\n\\nประกาศ\\n... \n",
178
+ "... ... \n",
179
+ "42750 \\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต... \n",
180
+ "42751 \\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต... \n",
181
+ "42752 \\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต... \n",
182
+ "42753 \\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต... \n",
183
+ "42754 \\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต... \n",
184
+ "\n",
185
+ "[42755 rows x 3 columns]"
186
+ ]
187
+ },
188
+ "execution_count": 3,
189
+ "metadata": {},
190
+ "output_type": "execute_result"
191
+ }
192
+ ],
193
+ "source": [
194
+ "df"
195
+ ]
196
+ },
197
+ {
198
+ "cell_type": "code",
199
+ "execution_count": 4,
200
+ "id": "e29505f7-b07b-401a-a3a7-69eeb75b4608",
201
+ "metadata": {
202
+ "tags": []
203
+ },
204
+ "outputs": [
205
+ {
206
+ "data": {
207
+ "application/vnd.jupyter.widget-view+json": {
208
+ "model_id": "03dabf81de1e4c0f82f2ee64bccc55a0",
209
+ "version_major": 2,
210
+ "version_minor": 0
211
+ },
212
+ "text/plain": [
213
+ " 0%| | 0/42755 [00:00<?, ?it/s]"
214
+ ]
215
+ },
216
+ "metadata": {},
217
+ "output_type": "display_data"
218
+ }
219
+ ],
220
+ "source": [
221
+ "df[\"txt\"]=[clean_newlines(i) for i in tqdm(df[\"txt\"])]"
222
+ ]
223
+ },
224
+ {
225
+ "cell_type": "code",
226
+ "execution_count": 5,
227
+ "id": "ed58f0bc-3857-44af-a55f-b48958a22477",
228
+ "metadata": {
229
+ "tags": []
230
+ },
231
+ "outputs": [
232
+ {
233
+ "data": {
234
+ "text/html": [
235
+ "<div>\n",
236
+ "<style scoped>\n",
237
+ " .dataframe tbody tr th:only-of-type {\n",
238
+ " vertical-align: middle;\n",
239
+ " }\n",
240
+ "\n",
241
+ " .dataframe tbody tr th {\n",
242
+ " vertical-align: top;\n",
243
+ " }\n",
244
+ "\n",
245
+ " .dataframe thead th {\n",
246
+ " text-align: right;\n",
247
+ " }\n",
248
+ "</style>\n",
249
+ "<table border=\"1\" class=\"dataframe\">\n",
250
+ " <thead>\n",
251
+ " <tr style=\"text-align: right;\">\n",
252
+ " <th></th>\n",
253
+ " <th>sysid</th>\n",
254
+ " <th>title</th>\n",
255
+ " <th>txt</th>\n",
256
+ " </tr>\n",
257
+ " </thead>\n",
258
+ " <tbody>\n",
259
+ " <tr>\n",
260
+ " <th>0</th>\n",
261
+ " <td>726890</td>\n",
262
+ " <td>กฎบัตรสหประชาชาติ ซึ่งรับตกลงกัน ณ เมืองซานฟาน...</td>\n",
263
+ " <td>กฎบัตรสหประชาชาติ\\nกฎบัตรสหประชาชาติ\\nซึ่งรับต...</td>\n",
264
+ " </tr>\n",
265
+ " <tr>\n",
266
+ " <th>1</th>\n",
267
+ " <td>301085</td>\n",
268
+ " <td>กฎบัตรสหประชาชาติ ค.ศ. 1945</td>\n",
269
+ " <td>กฎบัตรสหประชาชาติ\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\...</td>\n",
270
+ " </tr>\n",
271
+ " <tr>\n",
272
+ " <th>2</th>\n",
273
+ " <td>740727</td>\n",
274
+ " <td>ประกาศกระทรวงมหาดไทย เรื่อง การออกหนังสือผ่านแ...</td>\n",
275
+ " <td>ประกาศกระทรวงมหาดไทย\\nประกาศกระทรวงมหาดไทย\\nเร...</td>\n",
276
+ " </tr>\n",
277
+ " <tr>\n",
278
+ " <th>3</th>\n",
279
+ " <td>497860</td>\n",
280
+ " <td>ประกาศการมีผลใช้บังคับของความตกลงระหว่างรัฐบาล...</td>\n",
281
+ " <td>ประกาศ\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\nประกาศ\\r\\nกา...</td>\n",
282
+ " </tr>\n",
283
+ " <tr>\n",
284
+ " <th>4</th>\n",
285
+ " <td>490191</td>\n",
286
+ " <td>ประกาศ การมีผลใช้บังคับของความตกลง ระหว่าง รัฐ...</td>\n",
287
+ " <td>ประกาศ\\nประกาศ\\nการมีผลใช้บังคับของความตกลง\\nร...</td>\n",
288
+ " </tr>\n",
289
+ " <tr>\n",
290
+ " <th>...</th>\n",
291
+ " <td>...</td>\n",
292
+ " <td>...</td>\n",
293
+ " <td>...</td>\n",
294
+ " </tr>\n",
295
+ " <tr>\n",
296
+ " <th>42750</th>\n",
297
+ " <td>771111</td>\n",
298
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
299
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ...</td>\n",
300
+ " </tr>\n",
301
+ " <tr>\n",
302
+ " <th>42751</th>\n",
303
+ " <td>771127</td>\n",
304
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
305
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ...</td>\n",
306
+ " </tr>\n",
307
+ " <tr>\n",
308
+ " <th>42752</th>\n",
309
+ " <td>771129</td>\n",
310
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
311
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ...</td>\n",
312
+ " </tr>\n",
313
+ " <tr>\n",
314
+ " <th>42753</th>\n",
315
+ " <td>771099</td>\n",
316
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิน เรื...</td>\n",
317
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิ��\\nข้...</td>\n",
318
+ " </tr>\n",
319
+ " <tr>\n",
320
+ " <th>42754</th>\n",
321
+ " <td>771109</td>\n",
322
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง เรื่อง กิจ...</td>\n",
323
+ " <td>ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง\\nข้อบัญญัต...</td>\n",
324
+ " </tr>\n",
325
+ " </tbody>\n",
326
+ "</table>\n",
327
+ "<p>42755 rows × 3 columns</p>\n",
328
+ "</div>"
329
+ ],
330
+ "text/plain": [
331
+ " sysid title \\\n",
332
+ "0 726890 กฎบัตรสหประชาชาติ ซึ่งรับตกลงกัน ณ เมืองซานฟาน... \n",
333
+ "1 301085 กฎบัตรสหประชาชาติ ค.ศ. 1945 \n",
334
+ "2 740727 ประกาศกระทรวงมหาดไทย เรื่อง การออกหนังสือผ่านแ... \n",
335
+ "3 497860 ประกาศการมีผลใช้บังคับของความตกลงระหว่างรัฐบาล... \n",
336
+ "4 490191 ประกาศ การมีผลใช้บังคับของความตกลง ระหว่าง รัฐ... \n",
337
+ "... ... ... \n",
338
+ "42750 771111 ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ... \n",
339
+ "42751 771127 ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ... \n",
340
+ "42752 771129 ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ... \n",
341
+ "42753 771099 ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิน เรื... \n",
342
+ "42754 771109 ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง เรื่อง กิจ... \n",
343
+ "\n",
344
+ " txt \n",
345
+ "0 กฎบัตรสหประชาชาติ\\nกฎบัตรสหประชาชาติ\\nซึ่งรับต... \n",
346
+ "1 กฎบัตรสหประชาชาติ\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\... \n",
347
+ "2 ประกาศกระทรวงมหาดไทย\\nประกาศกระทรวงมหาดไทย\\nเร... \n",
348
+ "3 ประกาศ\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\nประกาศ\\r\\nกา... \n",
349
+ "4 ประกาศ\\nประกาศ\\nการมีผลใช้บังคับของความตกลง\\nร... \n",
350
+ "... ... \n",
351
+ "42750 ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ... \n",
352
+ "42751 ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ... \n",
353
+ "42752 ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ... \n",
354
+ "42753 ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิน\\nข้... \n",
355
+ "42754 ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง\\nข้อบัญญัต... \n",
356
+ "\n",
357
+ "[42755 rows x 3 columns]"
358
+ ]
359
+ },
360
+ "execution_count": 5,
361
+ "metadata": {},
362
+ "output_type": "execute_result"
363
+ }
364
+ ],
365
+ "source": [
366
+ "df"
367
+ ]
368
+ },
369
+ {
370
+ "cell_type": "code",
371
+ "execution_count": 6,
372
+ "id": "4f4d4ed4-a1c7-4fc9-ab93-c189552901a5",
373
+ "metadata": {
374
+ "tags": []
375
+ },
376
+ "outputs": [],
377
+ "source": [
378
+ "df.to_parquet(\"law.parquet\", row_group_size=100, engine=\"pyarrow\")"
379
+ ]
380
+ },
381
+ {
382
+ "cell_type": "code",
383
+ "execution_count": 7,
384
+ "id": "538a4c1d-c68c-424f-bba4-7ad594ccc56d",
385
+ "metadata": {
386
+ "tags": []
387
+ },
388
+ "outputs": [
389
+ {
390
+ "name": "stdout",
391
+ "output_type": "stream",
392
+ "text": [
393
+ "Downloading and preparing dataset parquet/default to /root/.cache/huggingface/datasets/parquet/default-bd65acfd4d849e9c/0.0.0/2a3b91fbd88a2c90d1dbbb32b460cf621d31bd5b05b934492fdef7d8d6f236ec...\n"
394
+ ]
395
+ },
396
+ {
397
+ "data": {
398
+ "application/vnd.jupyter.widget-view+json": {
399
+ "model_id": "622e7c8bc5e84f1fa2a9f84006683cd8",
400
+ "version_major": 2,
401
+ "version_minor": 0
402
+ },
403
+ "text/plain": [
404
+ "Downloading data files: 0%| | 0/1 [00:00<?, ?it/s]"
405
+ ]
406
+ },
407
+ "metadata": {},
408
+ "output_type": "display_data"
409
+ },
410
+ {
411
+ "data": {
412
+ "application/vnd.jupyter.widget-view+json": {
413
+ "model_id": "461a3d5ce0344922ab14edc411514ac0",
414
+ "version_major": 2,
415
+ "version_minor": 0
416
+ },
417
+ "text/plain": [
418
+ "Extracting data files: 0%| | 0/1 [00:00<?, ?it/s]"
419
+ ]
420
+ },
421
+ "metadata": {},
422
+ "output_type": "display_data"
423
+ },
424
+ {
425
+ "data": {
426
+ "application/vnd.jupyter.widget-view+json": {
427
+ "model_id": "",
428
+ "version_major": 2,
429
+ "version_minor": 0
430
+ },
431
+ "text/plain": [
432
+ "Generating train split: 0 examples [00:00, ? examples/s]"
433
+ ]
434
+ },
435
+ "metadata": {},
436
+ "output_type": "display_data"
437
+ },
438
+ {
439
+ "name": "stdout",
440
+ "output_type": "stream",
441
+ "text": [
442
+ "Dataset parquet downloaded and prepared to /root/.cache/huggingface/datasets/parquet/default-bd65acfd4d849e9c/0.0.0/2a3b91fbd88a2c90d1dbbb32b460cf621d31bd5b05b934492fdef7d8d6f236ec. Subsequent calls will reuse this data.\n"
443
+ ]
444
+ }
445
+ ],
446
+ "source": [
447
+ "from datasets import Dataset\n",
448
+ "\n",
449
+ "ds = Dataset.from_parquet(\"law.parquet\")"
450
+ ]
451
+ },
452
+ {
453
+ "cell_type": "code",
454
+ "execution_count": null,
455
+ "id": "51555bbd-0957-470b-ab7a-f371e8f8923e",
456
+ "metadata": {
457
+ "tags": []
458
+ },
459
+ "outputs": [
460
+ {
461
+ "data": {
462
+ "application/vnd.jupyter.widget-view+json": {
463
+ "model_id": "d9c80dfba24144e8a6a2d5dd3e072f4f",
464
+ "version_major": 2,
465
+ "version_minor": 0
466
+ },
467
+ "text/plain": [
468
+ "Pushing dataset shards to the dataset hub: 0%| | 0/2 [00:00<?, ?it/s]"
469
+ ]
470
+ },
471
+ "metadata": {},
472
+ "output_type": "display_data"
473
+ },
474
+ {
475
+ "data": {
476
+ "application/vnd.jupyter.widget-view+json": {
477
+ "model_id": "c36a0b7d273d446dbe4fc12b0ac6cf48",
478
+ "version_major": 2,
479
+ "version_minor": 0
480
+ },
481
+ "text/plain": [
482
+ "Creating parquet from Arrow format: 0%| | 0/22 [00:00<?, ?ba/s]"
483
+ ]
484
+ },
485
+ "metadata": {},
486
+ "output_type": "display_data"
487
+ },
488
+ {
489
+ "data": {
490
+ "application/vnd.jupyter.widget-view+json": {
491
+ "model_id": "c6df916491294c73b0fe1019977d0ae0",
492
+ "version_major": 2,
493
+ "version_minor": 0
494
+ },
495
+ "text/plain": [
496
+ "Upload 1 LFS files: 0%| | 0/1 [00:00<?, ?it/s]"
497
+ ]
498
+ },
499
+ "metadata": {},
500
+ "output_type": "display_data"
501
+ },
502
+ {
503
+ "data": {
504
+ "application/vnd.jupyter.widget-view+json": {
505
+ "model_id": "e921ce4e4ac54017b611d9b19da36a2e",
506
+ "version_major": 2,
507
+ "version_minor": 0
508
+ },
509
+ "text/plain": [
510
+ "Creating parquet from Arrow format: 0%| | 0/22 [00:00<?, ?ba/s]"
511
+ ]
512
+ },
513
+ "metadata": {},
514
+ "output_type": "display_data"
515
+ },
516
+ {
517
+ "data": {
518
+ "application/vnd.jupyter.widget-view+json": {
519
+ "model_id": "9cecce6552e142d19c4b29b5319acfd9",
520
+ "version_major": 2,
521
+ "version_minor": 0
522
+ },
523
+ "text/plain": [
524
+ "Upload 1 LFS files: 0%| | 0/1 [00:00<?, ?it/s]"
525
+ ]
526
+ },
527
+ "metadata": {},
528
+ "output_type": "display_data"
529
+ }
530
+ ],
531
+ "source": [
532
+ "ds.push_to_hub(\"pythainlp/thailaw\",private=True)"
533
+ ]
534
+ },
535
+ {
536
+ "cell_type": "code",
537
+ "execution_count": null,
538
+ "id": "9dca6ffb-2549-422b-89f3-0b9d85a1d218",
539
+ "metadata": {},
540
+ "outputs": [],
541
+ "source": []
542
+ }
543
+ ],
544
+ "metadata": {
545
+ "kernelspec": {
546
+ "display_name": "Python 3 (ipykernel)",
547
+ "language": "python",
548
+ "name": "python3"
549
+ },
550
+ "language_info": {
551
+ "codemirror_mode": {
552
+ "name": "ipython",
553
+ "version": 3
554
+ },
555
+ "file_extension": ".py",
556
+ "mimetype": "text/x-python",
557
+ "name": "python",
558
+ "nbconvert_exporter": "python",
559
+ "pygments_lexer": "ipython3",
560
+ "version": "3.8.10"
561
+ }
562
+ },
563
+ "nbformat": 4,
564
+ "nbformat_minor": 5
565
+ }