Datasets:

wheevu
/

ct219-vietnamese-raw-400k

id stringlengths 18 18	domain stringclasses 25 values	text stringlengths 202 417k	text_hash stringlengths 64 64	character_count int64 202 417k
VI_open-0068092438	Sports	Triển lãm Quốc tế Thể thao & Giải trí Việt Nam 2019. Thời gian: Từ 14/11 đến 16/11/2019 VIETNAM SPORT SHOW là triển lãm duy nhất tại Việt Nam trong lĩnh vực thể thao được sự ủng hộ tích cực của Tổng cục Thể dục Thể thao Việt Nam - Bộ Văn hóa Thể thao & Du lịch, mang thông điệp kết nối và hòa nhịp, như một làn gió mới t...	4778ca1739318114e5b38f601f13fe41ff6100a307fe1ca5254916e33ca58fbf	2,329
VI_open-0063979398	Home_and_Garden	Dịch vụ sửa máy lọc nước tại Đà Nẵng - Dịch vụ sửa máy lọc nước tại Đà Nẵng [maylocnuocohido.com] Ohido cung cấp dịch vụ sửa chữa máy lọc nước RO tại Đà Nẵng, Quảng Nam, bao gồm sản phẩm của Ohido và cả những thương hiệu khác trên thị trường khi có yêu cầu từ khách hàng . Ra đời từ năm 2006 đến nay, Ohido được biết đến...	4276f3aa23fedc01b6e06339bc7ab3985b3887c67550b74530a50a0b6eab5660	5,391
VI_open-0105651052	Sports	Giành vé tới World Cup, ĐT Futsal Việt Nam được thưởng nóng Tuyển futsal Việt Nam vừa làm nên kỳ tích khi loại ĐKVĐ Nhật Bản ở tứ kết VCK futsal châu Á, qua đó chính thức đoạt vé dự World Cup. Chính vì thế, Liên đoàn bóng đá Việt Nam (VFF) đã ngay lập tức thưởng nóng cho thầy trò Bruno Formoso. Dù để đối phương dẫn trư...	f6dd5a067b967ec620134b5d83cc22b95a74a44afe6b7bd482a0c0b9b0c9204c	1,337
VI_open-0034353535	Books_and_Literature	Bài thơ "Tôi yêu Em" của Puskin dưới góc nhìn dịch thuật \| DỊCH THUẬT (Beta) by ngotulap Bài thơ "Tôi yêu Em" của Puskin dưới góc nhìn dịch thuật 10:50 am in Tin tức by ngotulap (dichthuat.com)Я вас любил – TÔI YÊU EM, BÀI THƠ KHÔNG HÌNH ẢNH "Tôi yêu Em" của Puskin chắc chắn là một trong những bài thơ dịch nổi tiếng nh...	d03a97d82dfa1b464153f161481c34099a80a2a583a95f83e399b6103049d3fe	16,282
VI_open-0048332027	Computers_and_Electronics	iPad Mini gặp đối thủ cạnh tranh mang tên zPad (XHTT) ZTE vừa tung ra một máy tính bảng mới được gọi là zPad. Thiết bị này có thiết kế bên ngoài khá đẹp mắt và được dùng để cạnh tranh với iPad Mini khi có màn hình ở mức 8 inch. Tin liên quan ZTE Blade C: Smartphone chạy Jelly Bean giá chỉ 2,2 triệu đồng Sở hữu Smartpho...	a132a8306236ecd5a7459e3e660da71965d9a7fd239d8b67f5128a2b031df89a	1,329
VI_open-0088469715	Computers_and_Electronics	Trên tay Triton 500 \| GEARVN Trang chủ Công nghệ Trên tay nhanh Triton 500 – Chiếc Gaming Ultrabook đầu tiên được... Acer Nitro XV273K – Chuẩn mực mới của màn hình chơi game 30/1/2019 – Lưu ý, phiên bản Triton 500 mà người viết tham khảo tại Gear chỉ là bản mẫu, bản thương mại chính thức có khả năng sẽ còn thay đổi. 20...	b2467a01e24843bff745315e06484248ed810893e3d5d815772d49b32565059b	7,379
VI_open-0044260685	Arts_and_Entertainment	Cu Ta Baccarat của bộ phim "William and Me" để xem cuộc đời của Shakespeare – Link Vao 188Bet: Tải Game Ae888 Bài Baccarat Skip to content Link Vao 188Bet: Tải Game Ae888 Bài Baccarat 19 Tháng Mười Một, 2022 Cu Ta Baccarat của bộ phim "William and Me" để xem cuộc đời của Shakespeare Vào ngày 25 và 26 tháng 10, hiện tượ...	de4ec7cfb6b3af3af2eaec7457870069f60704aab40c0a524c1c1806f0144df4	3,090
VI_open-0079960005	Pets_and_Animals	Hồng yến - Tổ yến sào chất lượng cao Yến sào cao cấp Cần Giờ. hay:3600000 VNĐ Màu vàng óng , sợi yến dai , ít nở và thơm. Chi tiết về Hồng yến Tổ yến sào thích hợp cho phụ nữ mang thai, giúp thai nhi sinh ra được khỏe mạnh , trẻ sơ sinh cứng cáp , thông minh , da dẻ hồng hào , nâng cao sức đề kháng. Đối với người già ,...	f9e4c6afa12c291fe6c55db0f2cd3786ac1ed570cd1128070777b47a693579da	638
VI_open-0035027065	Arts_and_Entertainment	Người tình thực sự của Trương Bá Chi là mỹ nam kém 10 tuổi - Eo thon dáng đẹp cho tuổi trẻ thêm tươi Eo thon dáng đẹp cho tuổi trẻ thêm tươi Eo thon dáng chuẩn mực – thẩm mỹ viện koreans Người tình thực sự của Trương Bá Chi là mỹ nam kém 10 tuổi Tháng 12/2018, Trương Bá Chi thông báo hạ sinh con trai thứ 3 trong sự ngỡ...	487a9172f8e584f4c803a6649d8cb2b6aaf6b7132f97ea8fcc81e2d912c1c82d	2,499
VI_open-0064539977	Business_and_Industrial	Công ty cổ phần đầu tư và thương mại Phú Cát là doanh nghiệp hàng đầu tại Việt Nam chuyên nhập khẩu, phân phối và lắp đặt các dòng sản phẩm cổng xếp tự động hợp kim nhôm cao cấp và hợp kim nhôm giá rẻ, với thâm niên nhiều năm kinh doanh của mình chúng tôi cam kết luôn mang đến cho khách hàng những sản phẩm chất lượng v...	ce36134a28c263783df22e31c19701b1fd65fd7990bf461d83e50e6d64721503	2,087
VI_open-0000000027	Travel_and_Transportation	Vịnh Bengal (, [bɔŋgopoʃagoɾ], [bəŋgɑːl kɪː kʰɑːɽɪː]) là một trong những vịnh lớn nhất thế giới, nằm ở Nam Á, phía đông bắc Ấn Độ Dương. Vịnh Bengal có hình gần như tam giác, có ranh giới là Ấn Độ và Sri Lanka ở phía tây, Bangladesh và bang Tây Bengal của Ấn Độ ở phía bắc (từ đây mà có tên gọi vịnh Bengal), Myanmar cùn...	28a1e6e26ddfa779cc856b4d900e75ce575e57c6c60c6b5fc9b96f5ebd673d49	2,976
VI_open-0113747814	Health	Mỗi tuýp 10 g kem bôi da chứa: Gentamicin sulfat 10 mg Betamethason dipropionat 6,4 mg Điều trị các bệnh về da có đáp ứng với corticosteroid khi có biến chứng nhiễm trùng do vi khuẩn (nhạy cảm với gentamicin) và nấm (nhạy cảm với clotrimazol) hoặc khi có nghi ngờ các nhiễm trùng này. Bệnh chàm có rỉ dịch. Sử dụng ngoài...	685ccb312902143e5efa7120ec4341ef7ade785545b894726727b0d319034952	2,995
VI_open-0007421776	Business_and_Industrial	Với triết lý Chính trực - Minh bạch – Chuyên nghiệp và mong muốn đồng hành cùng Đối tác phát triển bền vững, Ricons cam kết thiết lập hệ sinh thái doanh nghiệp khoẻ mạnh và chuỗi cung ứng "Cùng phát triển - Cùng thắng lợi" Hiện tại, Ricons đang vận hành chuỗi cung ứng với hơn 1.000 đối tác cung cấp sản phẩm, dịch vụ rộ...	f82a969186523e694be063a6dcc9e56f2d1cab22f031ac9f26d098f8834a8d8e	8,398
VI_open-0029771282	Health	Tài liệu Khi Con Tè Dầm chọn lọc - TaiLieu.VN Khi con tè dầm Xem 1-20 trên 449 kết quả Khi con tè dầm Bé Tin được bố mẹ cho về quê chơi, đến khi lên Hà Nội bỗng dưng mắc "bệnh" sợ ma. Tin sợ đến nỗi tè cả ra quần vì không dám đi vào nhà vệ sinh một mình. Những kiểu dọa con tai hại Với Hạt Đậu (hơn 1 tuổi) thì con chuột...	a3c7ad45896cab3a1732a6ab71d282e380904730261ceb30008b821523f7d068	3,740
VI_open-0020896506	Online_Communities	Diễn đàn > Góc Sinh Viên > Young Party > Suy ngẫm > 20$ Trong chuyên mục 'Suy ngẫm' đăng bởi hatthoc30, 9/3/2011. — 1.825 Lượt xem "Chúng ta có thể bị đánh gục, bị vò xé, bị giày xéo trong bùn đen bởi những quyết định sai lầm,những tình huống "đen đủi" bất chợt hiện ra cản con đường khiến chúng ta cảm thấy dường như mì...	f8ae85a8b12e0271c8baf1d555c44de1ab9cca2a5d3c5342cde3b96a0d31931a	1,351
VI_open-0020719839	Arts_and_Entertainment	Life Sentence season 1 (2018) \| tập 02 - Re-Inventing the Abbotts 7.5 10 520 (69 đánh giá) Ngày phát hành: 2018-03-07 Thời lượng: 60 phút x 5/13 tập Hãng sản xuất: Doozer In Good Company Warner Bros. Television Biên kịch: Erin Cardillo Richard Keith Diễn viên: Lucy Hale Elliot Knight Brooke Lyons Sau khi bị chẩn đoán u...	7801481a39592e2c0a1b1c257074f4f0fe8ab025e2f5309590a5ea596a534391	1,479
VI_open-0000000039	People_and_Society	Pāli (𑀧𑀸𑀮𑀺) còn gọi là Nam Phạn, là một ngôn ngữ thuộc nhóm Ấn-Arya Trung cổ hay prakrit. Nam Phạn là ngôn ngữ kinh điển của Phật giáo Nam Tông, dùng trong việc chép kinh cùng tụng niệm, trong đó có bộ Tam tạng (tên theo tiếng Nam Phạn là Tipitaka). Chữ Nam Phạn được đúc kết từ mấy nguồn hệ thống chữ viết khác nhau...	66199645a59ecba8afd0043501550d53279b08df094e1dd73b5c35b94fd542c9	12,814
VI_open-0032468191	News	HANU-VNH: Chưa "lên" thủ đô nông dân đã hết ruộng cày! Chưa "lên" thủ đô nông dân đã hết ruộng cày! by Đào Thanh Huyền - Tuesday, 5 August 2008, 10:02 PM - Dự kiến, 4 xã Yên Trung, Yên Bình, Tiến Xuân, Đông Xuân thuộc huyện Lương Sơn, tỉnh Hòa Bình sẽ được sáp nhập về với Hà Nội. Trong khi kế hoạch sáp nhập này vẫn đan...	bf40f57d538617524114226bf6470a4aa774193b75f24f0e2ca93f6a2c6dd5d4	7,311
VI_open-0007634422	Home_and_Garden	Hướng dẫn phân biệt khăn ướt độc hại bạn nên biết 177 lượt xem 23 Tháng Hai, 2017 Posted on 29 Tháng Hai, 2016 23 Tháng Hai, 2017 by Tiến Ban Hiện nay với thị trường tiêu dùng của Việt Nam chúng ta xuất hiện nhiều sản phâm mang tính tiện ích cao giúp cho chúng ta thuận tiện cũng như hỗ trợ chúng ta về sự tiện dụng cũng...	922f5bc29aaa5fdda72b00175501d73c2bcb832686c0f36e3952246eb0f9bc07	3,679
VI_open-0043084920	Books_and_Literature	Đọc truyện Boss phản diện có độc - Chương 1530: Cẩm Lạc Kinh Thu (16) - maihuyensc Thời Sênh cố tình giảo biện, "Ngươi chỉ nói ta không được phép tự ý ra khỏi phủ, nhưng đâu có nói ta không được trèo tường trốn ra ngoài sau lưng ngươi." Yên Thu quay đầu nhìn, ánh sáng lạnh lẽo cô tịch chuyển động trong đôi mắt hắn, "Đừ...	f574150bde837c7e182052d3f52501121eecdaced0201cd772811fc1194a63d4	7,789
VI_open-0113145611	Jobs_and_Education	Đại hội Đoàn trường CĐ sư phạm Nghệ An lần thứ XV \| Tuổi trẻ TP Vinh Đại hội Đoàn trường CĐ sư phạm Nghệ An lần thứ XV 5/8/2017 1:58:15 PM Được sự quan tâm chỉ đạo của Tỉnh đoàn Nghệ An và Ban giám hiệu Trường CĐSP Nghệ An, ngày 7-5, Đoàn TNCS HCM Trường CĐ sư phạm Nghệ An tổ chức Đại hội Đại biểu khóa XV nhiệm kỳ 2017...	2041dd45d6d1c272ccaf566a4aba0f5d0167cdf73f34021e012fb6fa89a0ac6d	2,186
VI_open-0043217278	Business_and_Industrial	CẦN TÌM ĐỐI TÁC HỢP TÁC PP THIẾT BỊ VỆ SINH ATTAX \| Rao Vặt Biên Hòa - Diễn đàn đăng tin miễn Phí Diễn đàn > Rao vặt trực tuyến - mua bán biên hòa > Vật liệu xây dựng - sắt thép inox các loại > CẦN TÌM ĐỐI TÁC HỢP TÁC PP THIẾT BỊ VỆ SINH ATTAX Thảo luận trong 'Vật liệu xây dựng - sắt thép inox các loại' bắt đầu bởi Pho...	5d93b34161ff422b45213dd310f6e23a79b249a3521f54b090ac0ce5329d4caf	1,355
VI_open-0114713553	Computers_and_Electronics	Asobo Studio SARL là một công ty phát triển trò chơi điện tử của Pháp có trụ sở tại Bordeaux, Pháp được thành lập vào năm 2002. Hãng đã phát triển 17 trò chơi điện tử cho cả máy chơi game và PC, bao gồm cả những trò chơi điện tử chuyển thể từ các bộ phim của Pixar như: Ratatouille, WALL-E, Up và Toy Story 3. Lịch sử N...	74eb982e0b178348a74ebbf633799887a64a93fe668ceecaa9f074dd071ccf63	2,648
VI_open-0063010001	Shopping	Đầu nậu thao túng mặt bằng bán lẻ \| Bds161's Blog Cuộc chạy đua hút vốn mới Đất nền Long Thành tăng 40% Posted by: bds161 on: Tháng Mười Hai 4, 2009 Tại trung tâm thương mại (TTTM) An Đông (quận 10, TP HCM), những mặt bằng đẹp dưới tầng trệt có giá thuê lên đến 120.000 USD một quầy trong 10 năm, những quầy nằm bên tron...	ba2eecee0e63f588b26bdaf1a70da8422652806e1ee28d0888e936b316c47808	1,506
VI_open-0073853362	Sports	Có phổ biến người chơi vẫn chưa rút ra được kinh nghiệm bắt tỉ số bóng đá cho riêng mình. Vì thế, nhà cái uy tín betting xin san sẻ tới người chơi cách bắt tỷ số bóng đá chuẩn xác nhất. Hãy cộng theo dõi tiếp sau đây các bạn nhé! Tỉ số bóng đá là gì? Tỉ số bóng đá hay thường được gọi là tỷ lệ kèo. Người chơi sẽ đưa ra ...	7e81ef8ea2f0c0f178b4fabe1d2a1b3f30eb7ee47724ab304b8cb887900659a8	4,377
VI_open-0068358703	People_and_Society	Bị ép lấy con gái sếp, tôi đành phải nhờ cậy vợ Sau nhiều ngày suy nghĩ, tôi quyết định đưa vợ đến gia đình sếp để cho mọi người gặp mặt rồi sẽ tiếp tục nói chuyện. Hiện tôi đang làm trong công ty sản xuất đồ dân dụng, cách đây 4 tháng tôi được phong làm giám đốc của một chi nhánh. Công việc và gia đình mọi thứ như thế...	cdcc2515ca6de7731d391037df8fd5c89d8f67bd41780b03cd906e61a13ce884	3,298
VI_open-0042212255	Shopping	Việc làm [Aeon Long Bien] - Trưởng quầy Hóa Mỹ phẩm - Công Ty TNHH Aeon Việt Nam $ 650 - 950 USD a. Quản lý hàng hóa · Hàng hóa luôn được chất đầy trong điều kiện tốt và đạt chất lượng. · Hàng hóa được trưng bày theo sơ đồ, đồng thời giá của hàng hóa được trưng bày và thẻ giá phải khớp với nhau. · Việc thay đổi nhãn g...	13de9103ea41066ce76f60db79abe444af0be698a6f97a2d7282e31c5b02d9a5	4,605
VI_open-0010610883	Beauty_and_Fitness	Dùng bữa trưa tại không gian mới "đẹp hút hồn" của một trong những nhà hàng bậc nhất New York - Colorful Life Sign in Home Health Beauty Fitness Diet Lifestyle Review Corner Sign in Welcome!Log into your account your username your password Forgot your password? CHÍNH SÁCH BẢO MẬT Password recovery Recover your password...	2d5799bce372eabd5f62d1f2402cf0500463258d941cbea32fecf32facb5e9a8	3,801
VI_open-0092560934	Finance	Thanh toán di động là xu hướng bùng nổ trong thời gian tới \| VTV.VN Hoa Trà (Trung tâm Tin tức VTV24)-Thứ ba, ngày 07/11/2017 15:29 GMT+7 VTV.vn-Đa số ứng dụng thanh toán trực tuyến qua thiết bị di động đều được cài đặt trên điện thoại thông minh từ mobile banking, chuyển tiền qua ngân hàng tới quét mã và ví điện tử. Á...	e7354a5b49d50685c967e2cc2e2b7b8310e78de5cf0a4884be5e65c4c988f074	2,806
VI_open-0000000060	Food_and_Drink	Kẹo cao su (còn gọi kẹo gum hoặc kẹo sinh-gum do phiên âm từ tiếng Pháp "chewing-gum") là một dạng kẹo được thiết kế mềm để nhai mà không nuốt. Theo truyền thống, nó được làm từ nhựa chicleđược lấy từ cây hồng xiêm. Tuy nhiên, ngày nay, vì lý do kinh tế và chất lượng nên kẹo cao su sử dụng chất polymer trên nền dầu mỏ ...	3edb19e61d609cc287c3b647af806057e7f6de3adee0749d7328e6369d228fba	9,579
VI_open-0106970718	Jobs_and_Education	Piscinas là một đô thị ở tỉnh Sud Sardegna trong vùng Sardinia, có cự ly khoảng 40 km về phía tây nam của Cagliari và khoảng 15 km về phía đông nam của Carbonia. Tại thời điểm ngày 31 tháng 12 năm 2004, đô thị này có dân số 850 người và diện tích là 14 km². Piscinas giáp các đô thị: Giba, Masainas, Santadi, Teulada, T...	f005b5b0233ad91d5f4cdb94bdf883b4615e7ae354f68f8b1d11927502c5e942	407
VI_open-0015277259	News	Giỏi tiếng Anh, từ cậu bé Đài Loan trở thành CEO trên đất Mỹ \| Du học MICE \| Cebu English Giỏi tiếng Anh, từ cậu bé Đài Loan trở thành CEO trên đất Mỹ Tháng Chín 6, 2016 tienganhtaiphi.com Để lại phản hồi 14 tuổi sang đất khách quê người, một chữ tiếng Anh bẻ đôi cũng không biết, chàng trai người Đài Loan Jerry Jao đã ...	67c989992ffe753ca7523273f65ecf8d0ca972bda0e816faa165a8976c8d0a01	4,189
VI_open-0051150304	Sensitive_Subjects	Lao ra dọn nhánh cây gãy giữa trời mưa và chữ "ngu" từ cư dân mạng Lôi Vũ - Theo Thegioitre.vn \| 15:00 - 28/05/2016 Trong cơn mưa lớn trưa ngày 27/05, chúng ta được thấy một người thanh niên dũng cảm xông ra để lôi một nhánh cây lớn chắn ngang đường Phạm Ngũ Lão, Quận Gò Vấp. Đoạn clip chưa đầy 30 giây nhưng lại có nhi...	426091d64fae35997762b23eabdcd9b3b7d8f452649ad76158d25f8f2ca8e843	3,799
VI_open-0000000065	People_and_Society	Thiên Địa hội, () (còn gọi là Hồng Hoa Hội sau này vào thời Càn Long) là một hội kín bắt nguồn từ Trung Hoa vào thời Khang Hi với mục đích phản Thanh phục Minh. Thiên Địa hội còn được gọi là Hồng môn hay Tam Điểm hội, tuy vậy một số tổ chức tội phạm cũng có tên Hồng môn. Khi người Anh đến cai trị Hồng Kông, tất cả các...	18aeae67c1014733db9df47211b8a60bc9d8249805250773be42585be78d0ecf	876
VI_open-0080480633	Health	Niêm mạc tử cung chỉ có 5mm liệu có thể có con được không ? \| CSTY Chuyên gia tư vấn Hôn nhân gia đình, tâm lý, tình yêu, giới tính, sức khỏe sinh sản TƯ VẤN Sức khỏe sinh sản Niêm mạc tử cung chỉ có 5mm liệu có thể có con được không ? Cháu bị chậm kinh 2 ngày và đi khám bác sĩ báo là niêm mạc tử cung mỏng 5mm. Cháu đã...	356eeaec03d3805fb7557c92bc75c4ac03afbdc91cc688f2b246015fc17d8b8a	2,596
VI_open-0067111255	Food_and_Drink	Bắt được cá rồng khổng lồ, đập chết rồi sợ - Nguoi Viet Online CẦN THƠ (NV) –Hai người đi đánh cá may mắn đánh được con cá rồng (dragon fish) không biết là loại cá cảnh rất có giá nên đã đập chết rồi đem bán nhưng không ai mua. Cá rồng nặng gần 50 kg bị người dân đập chết. (Hình: TTXVN) Nếu con cá này giữ được sống, ch...	444127414e7b8e48fe881ff9384af9252dfd8f3743f7fa9da5baddb30c25fdd2	1,603
VI_open-0005781707	Online_Communities	Bài viết mỗi ngày: 1.07 Keng: 2606.1101000003446 Danh sách bạn bè .Bò Cạp. 6x87 batdongsanuytin90 cobe_anna_khongaiyeu dihochaydanhban d€¶v¶ôñ Four_K ilub joseph_nguyen keep_on_rollin kubin_93 lendy loivang_0990 Lorenzo maxxis9999 MrShank n0ibu0ncuadem_anhb0 Nakoruru Nguoi_Soi_Duoi_Trang nonxanhnuocbiec22 pelun_lonely ...	10227ade782d439234e5723b4d67941790b193bb796162e8443ac347eac1072a	488

End of preview. Expand in Data Studio

wheevu/ct219-vietnamese-raw-400k

Bộ dữ liệu văn bản tiếng Việt thô đã tiền xử lý, dùng để huấn luyện next-token language model (CT219 - NLP final project).

Nguồn dữ liệu

Source dataset: VTSNLP/vietnamese_curated_dataset
Source split: train
Pinned source revision: b81fcce58945970117a1b56d50ec81be2628a5c3
Source licence: không công bố - repo này được tạo ở chế độ private vì lý do đó.

Mục đích

Huấn luyện next-token language model cho tiếng Việt.

Cách chọn 400k văn bản

Seed: 42
Deterministic reservoir sampling trên toàn bộ stream nguồn (12,169,131 văn bản đã duyệt).
Không chọn N văn bản đầu tiên; mẫu đồng đều trên phần đã quét.

Tiền xử lý và chuẩn hóa

NFC Unicode, giữ nguyên dấu tiếng Việt, chữ hoa, số, dấu câu, cấu trúc đoạn.
Kết thúc dòng về LF, khoảng trắng lặp gộp lại, tối đa một dòng trống liên tiếp.
Không tokenization, không hạ chữ thường, không bỏ dấu.

Khử trùng lặp

Trùng id và trùng văn bản chính xác sau chuẩn hóa (SHA-256) đều bị loại.
Backend: sqlite. Duplicate count: 661.

Chia tập

Phương pháp: stable hash của id và seed.
train: 359,988 (90%), validation: 20,028 (5%), test: 19,984 (5%).
Không có văn bản nào xuất hiện ở hai tập (đã kiểm chứng theo id và text_hash).

Schema

Các tệp parquet có cột: id, domain, text, text_hash, character_count.

Chính sách lọc chất lượng

Loại bỏ (mặc định): encoding_corruption (>= 3 ký tự U+FFFD), binary_or_invalid_content (Unicode bất thường >= 8 ký tự và >= 0.5%).
Chỉ audit (không loại): foreign_script_dominant, concatenated_dump, tín hiệu tiếng Việt thấp, VNI patterns. Xem data_contract.md trong repo mã nguồn.
Ngưỡng ngôn ngữ chưa được chốt bằng dữ liệu có nhãn; cần duyệt thủ công trước khi thay đổi.

Hạn chế đã biết

Mẫu đại diện cho phần stream đã quét (12,169,131 văn bản), không đảm bảo đại diện toàn bộ bộ dữ liệu gốc.
Có thể chứa văn bản không phải tiếng Việt (ước lượng < 1% qua audit) và boilerplate từ web.
Licence nguồn không rõ: dữ liệu này chỉ dùng trong phạm vi đồ án học tập.

Tái lập

python -m src.data.preprocess --mode release-400k   --dataset VTSNLP/vietnamese_curated_dataset --dataset-split train   --dataset-revision b81fcce58945970117a1b56d50ec81be2628a5c3 --seed 42   --dedup-backend sqlite --output-dir data/releases/ct219-400k-v1

Mã nguồn: https://github.com/wheevu/ct219-final-report (nhánh feat/400k-huggingface-release) Checksums và row counts: xem manifest.json và checksums.txt trong repo này. Release version: v1

Downloads last month: 32