Datasets:

mp1704

/

w2v2_0

like 0

./data/e1f67df5-6ee9-4061-b0bc-69e8b37cde54.wav

ây chưa đi đã tìm được một nhà đầu tư rồi mọi người này

./data/d869583a-1a0c-4310-9dc7-39514c94725f.wav

ai train được rồi thả like nha mọi người có ai có câu hỏi gì phần này không

./data/2b4a0945-7f56-4808-9907-a81d42631be7.wav

ấy thì mình nghĩ là cái âm thanh nó cũng sẽ giống ảnh thôi đấy thì mình cũng sẽ masking một số a phần đi

./data/d303a4ff-1702-4082-bbfd-5251449b813c.wav

nhưng mà trên tập validation mà chúng ta không có học thì bắt đầu nó sẽ giảm đi đấy

./data/00bc21a4-c79e-4f29-9080-9b3563803a8a.wav

thầy giáo ơi đối với ngôn ngữ khác model của thầy có hoạt động không hay phải label training lại từ đầu

./data/5a5cbb5e-b458-42f5-bf58-95de88def574.wav

update cái accuracy hiện tại ấy

./data/d4a25543-1200-4d01-a0eb-f945a4c901e3.wav

ây xem là có tốt hơn được nữa không

./data/bb250297-30d6-4133-a649-89bee5384b49.wav

thì đôi khi các bạn phải xét một cái random giá trị ấy ví dụ x mà bằng không thì các bạn phải

./data/48f4575b-3200-41d3-a6e6-3856c6c3d64a.wav

ví dụ tôi hay sử dụng những cái mang tính chất là nhận xét kiểu như vậy

./data/2cf9007d-2ebd-4b4c-a326-4c1b3c69b87f.wav

tensorflow dataset hoặc bên pytorch cũng có luôn pytorch dataset

./data/eb461953-13cb-4e76-b8e7-797e178a8194.wav

càng ngày các bạn càng tiếp cận đến cái chỗ cực trị đúng không thì chúng ta cần phải dừng lại kiểu như thế

./data/dff40ce9-1787-4b80-9922-7687d32115dd.wav

đại loại bây giờ các bạn hiểu là chúng ta đã đóng gói được dữ liệu vào trong một cái dataset

./data/ce0ba266-f44f-4e36-9681-0bed79fd6741.wav

kiểu này chắc chắn là nếu mà có lớp học hôm đấy chắc hơi vắng

./data/1e6067a0-1cea-4a22-a25a-48b1ead77ac0.wav

ấy thì các bạn sẽ chuẩn bị một số cái a ví dụ có điều kiện thì làm slide nêu một số ý tưởng của mình

./data/558780f4-7dd2-406b-9545-f6b96604d0b3.wav

ấy các bạn thấy nó khá là nặng

./data/f3608eef-4559-4e51-9643-9a133abc8550.wav

relu thì nó sẽ a mang tính chất bùng nổ hơn có nghĩa cái nào mà âm thì là bằng không

./data/0ab60f82-30f8-4265-b382-2c2d7dc5cf59.wav

ủa không ra

./data/e74c2a89-e72b-45a3-affe-8d0c6eb7a490.wav

đấy ví dụ early stopping này mình luôn luôn có một cái biến để xem là cái giá trị hiệu quả nhất ở đâu

./data/4719700a-1bfe-458a-b6fe-bec7f14f6936.wav

đấy nếu mà small nó bị à overfit thì các bạn lại thử một cái ở giữa giữa cái tiny và cái small

./data/12176570-7e32-4546-bec2-37eaae754a4e.wav

sau đó mình mới dùng toàn bộ tập dữ liệu ấy thì cái ý tưởng cũng là như vậy

./data/6bdc2cbb-adfc-4666-b7f1-64e57d64b1eb.wav

nhưng mà mình thường nghĩ ấy chắc là trong ảnh người ta sẽ dùng gan

./data/34b894ce-3128-4015-bc72-4b2dd347e07a.wav

ấy ví dụ ở đây các bạn để activation là softmax chẳng hạn

./data/5a5cbbd8-deed-4504-9687-5a5c238e5f7e.wav

ok còn năm phút nữa mình sẽ a trả lời những cái câu hỏi

./data/baf68a3b-6cff-4e19-8dc9-d51da5b6d553.wav

đến khi làm project ấy là rất là nhiều à đọc và lập trình nha mọi người

./data/17ab272d-8fdc-41f6-a06c-bf14fb00f63b.wav

ấy tuy nhiên thì bây giờ người ta đổi nhiều sang dùng relu rồi sigmoid thì công thức như này đây

./data/c71c9756-a90e-42d4-9972-7e538c851d96.wav

đấy train một thể xem nào

./data/0413aed2-bd69-4e89-801c-da8f7f760155.wav

dùng trong hình ảnh thì mình thì anh nghĩ là nó sẽ kiểu transfer

./data/1a89fb4f-aeb0-4796-ad28-37dd4eaea015.wav

đây độ dài khác nhau chẳng hạn ờ giọng khác nhau ví dụ thế thì chúng ta có thể phân loại được các loại hoa nào có ba loại hoa ở đây

./data/2e9f7136-e5d2-477e-a5a9-624b7b116b1a.wav

mọi người có câu hỏi gì không

./data/b47eef8d-acf9-490a-94b2-01d40bf334b2.wav

ở đây thì nhìn cái thuật toán này nó cũng phức tạp nhưng mà thực ra nó cũng gọi là viết theo kiểu công thức thôi

./data/57291cd7-3d8f-463a-8ea4-52ee4152ff74.wav

như này là thiên biến vạn hoá

./data/89bf4013-e840-4028-8d58-0b7f8fcdeed7.wav

để mô tả được cái bộ lớn ấy

./data/b0c56f4c-fc45-4c1a-ab93-2842010fda47.wav

có ai có câu hỏi gì nữa không

./data/e93a3d41-394d-498a-9054-a24f161df437.wav

ấy thì các bạn tắt cái này đi đây cái logit là cái trước softmax

./data/50d39ebc-1dfe-4d6f-99d4-6390572050c4.wav

chuyển miền đấy học được quan hệ của những cái feature với nhau

./data/23a58176-5634-49c9-a189-7c267fe75543.wav

nếu mà các bạn dùng một phần nhỏ thôi chẳng hạn thì có thể là nó sẽ không được đúng lắm

./data/c4ebef93-f21d-4e76-b8d0-6bfc2183ad76.wav

callback là gì cái này ở trong nếu mà các bạn học javascript ý thì theo kiểu mà hướng sự kiện ấy

./data/c75a19ef-ada5-4b23-bc61-24adb27c6f6c.wav

có nghĩa là sau một ngàn epoch nó sẽ còn một phần hai và một phần ba sau hai ngàn epoch

./data/49dc479f-85fa-4793-8a6a-58afc616b85c.wav

có nghĩa là hai cái bộ a cái bộ data mà các bạn lấy ra cái mẫu lấy ra ấy nó chưa đủ

./data/c0fc10e9-63b5-450a-bf99-eeed21e14f40.wav

có nghĩa các bạn cảm giác như là mấy tb thì nó sẽ phải có hàng triệu thậm chí hàng tỉ câu

./data/af99ac03-365c-4b8b-b027-13eafe608708.wav

đấy thì các bạn sẽ dừng lại không đi tiếp nữa và các bạn lưu được cái điểm tối ưu nhất này

./data/173923eb-d726-481f-b729-9585a95c3788.wav

các bạn chạy notebook nha mọi người

./data/91cd3681-65af-4122-9a74-9aa2d67cd3a9.wav

cho nên trong trường hợp này cái mạng nơ ron của chúng ta vẫn đang phục vụ bài toán phân loại nha mọi người cuối cùng các bạn cũng phải vẽ được cái đường ranh giới nào cho nó phù hợp

./data/1a32fed6-356b-47b4-9147-65007915e753.wav

ở bên gia đình rồi à đi chơi với bạn bè ấy thì chúng ta sẽ nghỉ tuần sau chúng ta sẽ học bình thường nha mọi người

./data/90289b17-e38d-4287-82a7-b905a3cb4a67.wav

ở đây có một số cái chiến lược mà khi các bạn sử dụng early stopping

./data/9c602453-d3c3-4795-93f1-120c02dffb41.wav

mà ở đây cái quá trình mà forward ấy các bạn sẽ sử dụng chính các model này

./data/e2a19e8f-50b3-4908-9e7a-bdfea8ac7bec.wav

mà các bạn phải code rất là dài đúng không ấy mình sẽ lấy một cái ví dụ như này

./data/95727e37-0b74-4327-95cc-3ee1ccd577cf.wav

cái learning rate nó càng giảm được không ạ

./data/7a3b9a7e-caf1-4077-b694-4f26994dba17.wav

ấy thì mình có thể sử dụng mấy cái yếu tố đó để hình thành lên một cái giống như là cái ảnh kiểu như vậy

./data/9cc0ae8f-e937-43eb-a694-4c53fb48ee24.wav

mới có bảy người train được thôi à

./data/e58f807d-5355-45ba-8441-00ed1a8e9246.wav

có một phần batch norm này nhưng mà mình sẽ nói về sau batch norm này thì

./data/cfaaec89-9bfe-45bf-907a-31257d525f11.wav

đấy người ta sẽ tìm trong tất cả những cái câu này những cái câu nào có nhiều cụm từ này nhất

./data/b4232a0b-2159-448d-8a31-a87cb7d6d2ab.wav

người ta sẽ người ta gọi là masking

./data/f8795e57-a1f2-4d78-a7de-75cb87b3fa9c.wav

giúp bài overfit à bài overfit ở trên này nha

./data/64302756-adc3-4f06-b817-1eafd0cc4440.wav

đến chỗ này các bạn dừng thôi chúng ta không có đi đi thêm nữa ví dụ trong mười epoch này các bạn thấy là

./data/8049c79c-20e9-4353-a831-c21875cc8929.wav

được không ok không mọi người

./data/023cd0ad-cb5a-4162-8c8e-f454f69749f1.wav

tạo ra một cái learning rate rất là lớn để nó vượt qua được nhiều những cái điểm mà nó

./data/157c4338-587b-4c14-b5cd-b45be4495ed5.wav

mạng nơ ron là một cái universal function có nghĩa là nó có thể xấp xỉ được hầu hết những cái phân phối trong thực tế

./data/f7da8ace-a4c9-4638-9216-d25f5529af1e.wav

đây là xương sống cho cái mà các bạn sẽ học trong tương lai cho nên là các bạn phải cố gắng làm bài tập softmax nha mọi người

./data/5f371b69-8434-4b88-ae05-3d28249e64d2.wav

thì trong những cái bài toán khác nhau các bạn phải sử dụng những cái metric khác nhau ấy ví dụ ở trong âm thanh thi nó dùng cái metric là

./data/3dfdadea-6271-4df0-8ab2-405a75c4a4b5.wav

bây giờ mình thử train thêm một chút nữa nhá tại sao mình train hơn tại vì bây mình thấy như thế này

./data/c1844f4a-e6be-486e-981b-512a2cf04d3f.wav

cái này cũng vậy cái này thì tôi không có mask cái từ thích mà tôi mask cái từ quán này đi

./data/4d52ec07-520b-46cc-82bc-19ac34d6e0f5.wav

luôn luôn là có một trên m đấy có nghĩa là nó sẽ chuẩn hoá theo số lượng điểm dữ liệu ở đây

./data/2f522342-a97b-436b-9162-6dd310a75404.wav

ấy thì đây là phase hai của cái a ứng dụng này nha mọi người ấy thì nếu mà ai mà quan tâm thì

./data/9b355a9e-61f3-4154-a4d7-e57771b9f71c.wav

mà người ta gọi là những cái tầng ẩn trong bộ dữ liệu của mình ý ví dụ chủ đề này

./data/6c7e1c60-d3f6-492e-a979-2b355f4c70e1.wav

tôi đợi hai trăm epoch mà thấy nó không có khả quan nữa thì tôi sẽ dừng

./data/6fd9c01a-87cf-4ebe-9ef0-c2baddf73016.wav

đây train step đây

./data/92bb1a1b-d36f-4367-95b4-3e029dca3419.wav

đấy trong những cái bài trước các bạn đã học là overfit là khi cái mô hình của chúng ta nó học thuộc cái dữ liệu

./data/a07df38f-a04b-4abf-9468-f404209af923.wav

mình sẽ chạy luôn cái medium này nha mọi người

./data/44b11ddf-0d5c-4b68-89a4-3b781bacb22a.wav

ấy thì đây chính là chiến lược mà mình hay dùng nhiều hơn là chiến lược kia đấy

./data/ef8f994c-7099-4443-928c-a5f019af5964.wav

ở đây thì mấy cái lock thôi các bạn sẽ a

./data/ada7ad70-c8d5-4b20-aafc-8330acfb24a9.wav

không nên gọi là lan man quá rồi thử những cái phương pháp mà

./data/ee75b8f4-c40c-4784-9e87-131f9ace468f.wav

có nghĩa là cái model này nó có cái nhiệm vụ là tái tạo cái đầu vào đúng không ạ

./data/5eb4bd16-6ecd-4f6f-a061-926c05ba6136.wav

đấy ví dụ trong cái code ơ chắc code transformer đúng không

./data/260560c6-71dc-4b39-aaff-101aa6e1c2aa.wav

đấy thì cái này nó chỉ là một phần rất là nhỏ ở trong cái cái trang này thôi cái trang này thì

./data/5437b8de-7703-47bf-b3b2-f0b7bff9bea5.wav

cái mà người ta hay làm nhất là ví dụ có một cái câu là tôi không thích quán này

./data/73b32ef8-33a2-42f8-a01c-689c21e06602.wav

đấy phase hai ấy có nghĩa là

./data/2ac28058-d70e-4558-9872-396e39cc07a6.wav

ấy bên này accuracy đâu đó có sáu mấy phần trăm thôi nhưng bên này cũng sáu mươi bẩy phần trăm

./data/3f78261c-b21d-43aa-83ee-52d603dbc64e.wav

đây đây các bạn thấy training này phải

./data/1b8627d1-bf4d-41a1-b30b-a9e28e3c1534.wav

thì có thể là hai tám cộng một bằng hai mươi chín nhân với mười sáu

./data/18aad2e8-ff95-4dbc-8b01-203eafded8aa.wav

có ai có câu hỏi gì phần này không cái phần versioning quan trọng nha mọi người

./data/1451ace9-fe08-46f4-b08d-6885f2c405c0.wav

ấy xong các bạn sẽ masking đi tầm khoảng ba bốn cột để cho mình phải

./data/8fc1b8ad-85c5-4f32-8cd4-a9677565bd5a.wav

không biết nam có ok không

./data/1c540551-88a0-4d72-ac8a-8e690ba3dda1.wav

xong mình lấy những cái câu kia làm cái câu để mình query ra ấy rồi cái câu này cũng thế mình đặt là tiếp tuyến như thế này

./data/57d9521b-b586-4b39-908b-47b7b3fb7738.wav

ấy thì về sau các bạn à chỉ cần search là đạo hàm là gì thì nó sẽ tìm trong video đấy ở những cái đoạn nào

./data/a7f2a392-78a6-4bdb-95a3-c1a9b8ab8d41.wav

ấy đúng không ạ thì giống như các bạn sử dụng rất nhiều mô hình khác nhau ấy thì cái tư tưởng này nó rất giống là bagging

./data/6d74a303-ef2b-4392-82c8-d2bbd6f37dd2.wav

hoặc là các bạn tạo ra một cái model to nhưng mà các bạn dropout lớn

./data/d88009ac-f320-4972-8ab8-025e3e1a40b5.wav

nó phải rất là quan trọng nha mọi người các bạn không được bỏ quên kĩ năng đấy

./data/0d12936b-3f42-4005-b5a3-cc9ac03d99c7.wav

ấy so sánh độ tương đồng giữa hai câu thì chúng ta biến thành vector xong dùng cái cosine thôi

./data/ef9efb3e-fb2c-48f6-9fb2-9ec24c432723.wav

đây người ta đi theo hướng data centric là

./data/3876c826-c334-476c-b81c-13e0527375fa.wav

thực thuật toán adam này ấy check point có nghĩa các bạn sẽ xếp lại cái model của các bạn

./data/e73a6812-385f-47a1-b08e-cd0ae3ce990a.wav

bị phũ là sao em

./data/d6b10c51-a367-4e89-b821-983aaaa11cbc.wav

thì đây một cái hình mà các bạn sẽ thấy

./data/68b36c24-3d19-495c-960a-d3941b757582.wav

ấy cho nên là không chắc chắn là chúng ta sẽ thu được cái tối ưu nhất đâu mà có thể các bạn phải train nhiều hơn

./data/85be1613-8cf8-42e0-ba78-a2a952e4fd6b.wav

sau đó mình lấy một trăm ngàn kia ra mình train đến khi nào gặp cái loss đấy thì mình sẽ dừng

./data/efca3dbc-c700-4f4d-9ef3-4c14e2012a14.wav

thì mình sẽ làm hạ như này mình sẽ a

./data/71f1998e-731f-4158-b671-23a48642f565.wav

ấy ây

./data/677bab64-bccf-47f0-9e07-a5a63d61e412.wav

có nghĩa là cái câu a cái âm thanh này nó dài mấy giây ấy cái thứ hai là cái a

./data/ac607252-dd15-4ff2-9ac1-9ac62c3174e4.wav

đây là một cái điểm à dữ liệu nha thì cái này nó sẽ tiêu cực thì người ta sẽ để là nhãn không

./data/15117a84-e867-4a40-9071-e850dd9aa294.wav

chứ nó không giống như kiểu các bạn làm python nó có mỗi là if như thế này và else như kia