file
stringlengths
47
47
text
stringlengths
1
182
./data/f2d79344-8379-4815-a92b-4c3ae8466452.wav
nên thì nó có một số cái mà chưa được à gọi là chưa được à
./data/35cff13f-81ff-4146-93cf-3ff6a3304542.wav
và có một số cái hàm giúp các bạn cập nhật loss update stage cho cái loss hiện tại
./data/c5c6e064-4700-4aa0-97ff-b976a129b0e4.wav
bây giờ làm sao các bạn search được trong một tỉ câu đấy trả ra dưới dạng à chỉ trong vòng à
./data/30e05a57-6566-4a14-bbe8-a3f0a87c0be6.wav
còn ai có câu hỏi gì phần này nữa không đấy thì cái set up này khá là đơn giản thôi các bạn có thể thấy ở nhiều nơi
./data/fe45ebdf-a93c-4e65-8ead-41b70228fcdf.wav
ấy nó có thể kết hợp những cái feature lại thành một cái feature mới hữu dụng ấy thì các bạn có thể hiểu như vậy
./data/aaa17636-33a8-4318-9fa1-af8c135bda5b.wav
đấy sau đó các bạn có thể làm bài tập à mội lúc mọi nơi ấy nếu mà ai mà
./data/18363e49-e3ec-4c8d-bed0-bcf44d7af02c.wav
ấy bắt đầu là tôi mà xong đưa tôi lấy tôi đưa vào tiếp phải ra được đi
./data/ed7187b3-49dc-47d3-b124-ff685ad3ba34.wav
có nghĩa ở trong epoch này thì mình coi như là cái model này mình không tính toán ở trên một số nốt
./data/d3374154-b880-4b2b-a49f-dac248e1abfc.wav
còn đâu cái sigmoid này cái max đạo hàm của nó là không chấm hai lăm cho nên đến cái bài mà thuật toán lan truyền ngược khi các bạn học ấy
./data/4280be3c-58bd-48e0-a525-18fc5577f99e.wav
xong mình chạy cái code này rồi thì có thể một lúc nào đấy ấy cái biến x bằng ba có thể truy cập được ở đâu đấy
./data/ef25d188-e7df-491d-93c3-1fd33015a6c5.wav
đấy chứ mình không muốn các bạn trở thành những người chỉ dùng thư viện xong các bạn chấm early stopping như này
./data/9b7fc07a-b466-4d0d-bf25-e049e7aeec9d.wav
năm mươi tám phần trăm thì các bạn tưởng tượng giống như là tung xúc xắc vậy tung xúc xắc các bạn à
./data/55182629-3b75-4ab2-9834-9cddcd6de6b3.wav
hoặc là ví dụ à một cái yêu cầu của người dùng mà mười giây các bạn mới trả lời xong thì rõ ràng là sẽ chưa được đủ yêu cầu
./data/3c6d08df-4f67-4361-8109-e4d9c871bfa5.wav
rõ ràng đây là cái a hiệu chỉnh này nó có làm cho nó tốt hơn
./data/316b3e97-5b51-4f12-bee4-44f42edd7358.wav
cái này làm được cho cả ảnh nha cả âm thanh nha ấy nếu các bạn muốn nói về âm thanh thì đến cái buổi âm thanh mình sẽ nói thêm
./data/cecc940d-ae13-4566-84be-3e51064d0ef4.wav
người ta gọi là sequence auto encoder đấy người ta gọi là một generative model học không có giám sát
./data/4ea8248b-9f04-437f-8144-fe19b9ce77cd.wav
đấy ví dụ mình lập trình website chẳng hạn thì khi các bạn bấm nút thì mình sẽ hiển thị lên một cái ô vuông
./data/33438535-b5fc-4a64-a6c6-5b1dae3ac2cb.wav
thì ở đây người ta ví dụ một số cái mô hình để chúng ta nắm được underfit và overfit thôi đúng không
./data/977a8a1a-b413-429f-a015-334642064dcd.wav
còn đâu khi ý mình thấy training mô hình ý cái khó nhất chính là cái versioning
./data/50a0927a-21aa-439f-9021-c5f8883eb5df.wav
hoặc là các bạn đưa sang một cái file python để các bạn chạy ấy chứ nếu mà
./data/981a13d1-f540-46a8-8705-e580a5ca5893.wav
đúng không có nghĩa là tất cả những câu ở đây là đang là những câu nhận xét
./data/f91537d3-cc14-4174-8059-58d3c300b54f.wav
elu à elu thì mình cũng không nhớ lắm nhưng mà chắc vẫn thuộc họ ờ relu thôi
./data/5503a357-7892-4501-91d8-f2facc30bb51.wav
ấy còn đây có cả bias này ấy ví dụ đây bias lớp đầu tiên chẳng hạn ví dụ như vậy
./data/57b72185-c06d-470d-93c0-775a72ff2e8e.wav
ấy ví dụ tôi đứng trước xong đến đi đi đứng trước xong đến học xong sang bên này này nó bắt đầu cái quá trình decode
./data/3f47f062-50e3-43f4-acd2-2a2cae21c320.wav
cái này có mấy keyword cơ
./data/70c5e2ac-9aaf-431a-8999-2c7ef8339258.wav
ấy nhưng mà mỗi lần thì có thể khởi tạo cái a weight khác nhau cho nên là kết quả nó sẽ khác nhau một chút
./data/60b1af47-7987-43ce-89f8-d48e4987ce85.wav
à ở đây mình à
./data/267f733d-1729-4786-9cc2-3339b9b5b118.wav
mình làm vừa nãy là mình tạo pretrain này xong rồi mình mới fine tool ở đây người ta kết hợp luôn
./data/06bc1d5d-58c4-41b4-bd47-78a6b4ac2ea0.wav
ấy thì bây giờ các bạn lấy một ngàn ra các bạn train đến một cái loss mà các bạn phát hiện là nó bắt đầu bị overfit rồi
./data/34780670-4406-42ef-a867-0457fe4c5da2.wav
hiệp chiêm minh đã rơi giọt lệ
./data/8c30405d-badf-4130-a5e1-e209db954487.wav
thì mình cũng đồng thời là giảm cái a cường độ của cái tham số luôn
./data/062a0f96-222f-468f-8c44-23e4188ccb73.wav
đấy thì một trong những bài toán challenge tại thời điểm hiện tại là làm sao có thể handle được nhiều người
./data/67a7b541-536e-4d65-b784-15928616771a.wav
sau đó các bạn mới đi cập nhật ấy kiểu như vậy các bạn thấy nó có nhiều không
./data/dc0e6745-2359-4d9e-af6d-d3acbeedde69.wav
mà mình sẽ tập trung vào những cái kinh nghiệm của mình về cái việc training model
./data/07ca9cbc-1d7d-456d-8f78-3d8af82ad550.wav
đạo hàm là độ dốc tiếp tuyến thì tôi đánh nhãn là một câu này là câu chính xác nhất này
./data/90a34db1-f6dc-4601-a4fc-7482ec47400f.wav
ok không mọi người
./data/9c94879c-6246-4bd2-b129-501ac9cfdb92.wav
ấy thì trong tensorflow thì họ có những cái hàm rồi đây này early stopping
./data/b8817c03-db09-4d41-a715-dd523e3e135e.wav
đấy ví dụ là các bạn có thể train được nhiều task khác nhau trên một bộ dữ liệu
./data/c9737327-9ef5-4357-b26d-260ec9031e6d.wav
mà chúng ta cần phải vượt qua vì thế lúc đầu nó sẽ tăng tốc lên và khi nó vượt qua những chỗ đó rồi nó sẽ
./data/8c9456e0-e664-414c-a212-4ed5bcfb5aa7.wav
tôi đã chờ được bao nhiêu lâu rồi tôi có nên dừng lại hay không ấy đây chính là cái ý nghĩa của cái hàm này
./data/bdfd1f22-84d6-472e-a25f-8f0c9c791e1a.wav
mình tính để mình phân tích hay mình tính để training mô hình
./data/eae35d4c-4cff-41fe-89f0-ed7e449f7cb9.wav
đây thì nhiệm vụ của cái pretrain này ấy nó sẽ hình thành lên
./data/402d7cc3-bc3e-4362-9b86-773211c3e016.wav
bây giờ người ta sẽ build cái pretrain như thế nào để người ta học được là
./data/26cae3a1-b5a8-4f9f-8295-3aa2735ccc73.wav
ở đây thì à chúng ta thêm những cái thư viện thôi
./data/b176ebd9-e7e1-47d4-96fe-99260d981cec.wav
ấy thì đây chúng ta cũng sẽ code cái dataset như thế này thôi
./data/2c7a15f9-da79-49a4-91c3-077ae99c4782.wav
nay nghỉ nha mọi người
./data/754896f0-ea25-4129-9f92-de15c462705f.wav
đấy những cái lớp này thì nó tương đồng như là cái công thức của softmax thôi các bạn thực hiện tuyến tính sau đó thì phi tuyến
./data/e3e3d401-204e-4e66-a689-a359f59c7460.wav
ấy để người ta tính a chuẩn hóa lại theo phân phối chuẩn đơn vị xong nó từ đó nó học
./data/d88e7cf3-4566-42cf-9d6a-79350539e3a5.wav
người ta sẽ train một cái mà mình gọi là pretrain
./data/49ebb3e6-2462-4b2b-a1e4-6cc8403da51c.wav
đấy thì chúng ta đã học này dropout này
./data/f9f9b053-eb17-4994-a809-8c573870cac3.wav
nhiệm vụ là tái tạo được cái chính cái đầu vào của nó ấy và sau đó là cái weight này này thu được ở đây này
./data/32b01e94-24c9-44a8-beb9-755ee32de044.wav
ấy mà sau khi có rất nhiều những cái thử nghiệm nhỏ ấy rồi mình bắt đầu mới gạch đầu dòng ra à mình sẽ làm như thế này
./data/9c8ea299-35fe-4ae3-9309-e9ebeabe0704.wav
lặp qua những điểm dữ liệu này đúng không
./data/32f7a5cd-ca6e-481f-b710-9f159088a243.wav
thì đây người ta dùng kĩ thuật mà các bạn có thể thấy là người ta sẽ giảm dần cái learning rate đi
./data/31acb59c-51c1-4644-a994-89f84faa73e2.wav
ấy thường mình ý mình tách một nghìn điểm dữ liệu ra một cái model rất là nhỏ thôi mình train thử ấy
./data/c3ebe5d2-f187-499e-a55e-db399d6357bf.wav
có ai có thắc mắc gì nữa không về cái phần này
./data/ab971bfe-f3ec-4810-b8e2-8d7c76026cac.wav
ta dừng sớm có nghĩa bây giờ làm sao các bạn dừng được ở ở cái điểm mà nó không có bị overfit
./data/ebfb4c37-89d9-4e90-819a-8b820c682b00.wav
đúng không ấy thì cái vấn đề của nó là gì khi train lại mô hình trên toàn bộ tập data thì
./data/d6d2e2d8-8c26-4a2d-b3dc-d924103ccb42.wav
đúng không phần validation nó chỉ khác cái phần train là các bạn sử dụng một cái tập khác thôi
./data/5bebbc49-32aa-4603-a61a-0cee52c08f59.wav
về đầu tiên sau khi mình có gradient rồi thì mình cập nhật cái bộ tham số của mình
./data/49b18216-f654-4bd5-934f-3e91244f31c1.wav
ở đây mình thấy có một cái notebook mà mình thấy cũng khá là đầy đủ
./data/97d2587c-33d5-4440-940a-d0ba18720a20.wav
tất nhiên ở phần transfer của âm thanh nó có một số cái khác nha nó không hoàn toàn giống đâu
./data/e95bfbc9-43cd-43cd-9c6a-a47c5f71a02d.wav
ok tương đối nhiều người train được rồi mình sẽ đi tiếp nha
./data/ee34d9a6-5644-474b-8f5c-577685fba7ae.wav
đây mình à
./data/5243014a-0833-4429-8241-090110f215c2.wav
mình sẽ dừng tầm năm đến mười phút để mọi người trao đổi
./data/ad1d9cf8-d914-4e5f-ad71-d3a1854318c2.wav
đấy các bạn tính được gradient
./data/a241fe6d-aa2c-447c-a271-84458c24a227.wav
đấy được không ạ ví dụ như là có những cái từ tôi không quán này
./data/08c8340e-23a0-400e-94ed-2cccf75d6237.wav
đấy không cần phải đợi à có người review các thứ tất nhiên là bọn mình cũng sẽ review với những cái bạn nào mà điểm à thấp
./data/e0a925d8-6cc7-4424-9902-22025617d528.wav
ấy tuy nhiên thì đôi khi chúng ta chỉ cần cái đoạn à trước sigmoid thôi
./data/aa68ea86-9a80-455c-bf14-b9ce02f975fe.wav
các bạn sẽ tạo ra một cái mô hình mới mà cái mô hình đó không có một số cái nốt bất kì ở đây
./data/f58b980c-9f8c-4b05-9bc0-9c6cc5e91449.wav
kiểu như vậy ấy thì đây là một cái cách
./data/a1c0b6f8-a7a0-495e-b23e-e19123c7f216.wav
làm sao mình có thể dừng lại à thực ra em dùng hàm for cũng được đúng không
./data/497e9a11-13f6-4501-a40d-3ace9c46bbe7.wav
đúng không độ chính xác sẽ thấp ấy thì cái thuật toán này cũng khá là đơn giản thôi đúng không ạ
./data/b5f7812f-9265-4e28-9683-de14c1af39cd.wav
ấy thì đây một cái a đầu tiên ấy thì trong cái trường hợp này người ta
./data/7851b4d2-0378-44f9-a75e-24e728537c92.wav
ấy trong học bán giám sát cả data không nhãn nha mọi người
./data/ce998dad-6932-4b18-b336-4ea42bee9c2e.wav
tức là các bạn đưa đến cái nhãn sau đó các bạn cập nhật tham số đôi khi các bạn phải tự code lại
./data/cc7edbdc-9292-4e71-9d0b-10b7000bbec0.wav
vẫn là dense mười sáu thôi thì xu hướng người ta sẽ đi theo hướng chiều sâu
./data/cfa40021-0400-4302-ac80-589941849431.wav
đúng không ở đây thì mình khuyên các bạn sử dụng lưu cái loss function ý
./data/f78ddc99-39d5-47a6-bd83-8b30a7f1c6b8.wav
đây các bạn lặp qua những cái điểm dữ liệu này này
./data/8d44e40d-2e71-4360-823d-9d37d4cf2862.wav
sau đó mình sẽ fine tool ở trên cái bài toán của mình ấy
./data/80dbda82-7d45-484f-a7e8-fbeca5a7fb72.wav
ấy thì mô hình này sẽ yếu hơn yếu hơn so cái a ở bên trên
./data/b519eddd-62ce-49a2-8eef-e9a6c2fdded3.wav
cái mà chúng ta quan tâm chính là bên này nhiều hơn
./data/913ead3d-87a5-4812-8c64-46b4ad3d75a2.wav
dự đoán được là ba bốn cột ở đấy là gì thì chắc chắn là ảnh cũng sẽ làm được như vậy
./data/1174a5cd-f413-4833-842b-a2eac623abee.wav
đấy bây giờ các bạn muốn tìm xem là đạo hàm là gì đi
./data/3bf5bb3e-ed7d-4fd7-888e-310343fbf26f.wav
thì sau này mình có thể nói chuyện thêm
./data/3a3cac56-fadc-41ee-b8bf-bc9bc452b7ac.wav
cũng là một kiểu pretrain nhưng mà nó sẽ phức tạp hơn đơn thuần là kiểu masking như này
./data/f7c7af7b-28c9-4143-a228-7999544f431f.wav
tại vì à mục tiêu của mình là làm sao tạo ra được một cái system tốt
./data/993ef35e-e935-40ed-b799-bc744ff56b68.wav
ấy cho một cái đoạn văn như thế này mình làm sao mình có thể là
./data/d091b9a0-4d87-4b3a-9135-f74a2e18930a.wav
ấy thì các bạn thấy là không phải ai các bạn chỉ sử dụng mô hình mà cái kĩ năng lập trình của các bạn ấy
./data/e53cc41f-ec79-42a1-a664-d1059263be65.wav
ấy cho nên mình đã ngồi mình phân tích à check qua những cái profile trông có vẻ là
./data/12588066-226f-4260-8ad4-87add7e3d121.wav
ở đây có một kĩ thuật mà mình thấy là gần đây rất nhiều bài báo sử dụng đó là chính là
./data/d26a09b0-3674-4fd7-864b-b1c5c0d289b1.wav
có ai có câu hỏi gì nữa không ấy thì đây là một số cái cách nha mọi người
./data/51b21f55-51b9-463f-aa7a-2382806562f7.wav
à đây các bạn có thể chạy cái notebook này tuy nhiên thì mình cũng sẽ nói qua thôi
./data/da6b0132-36cd-4ce0-b10b-e6fe0ee2560a.wav
warm up ờ mình sẽ trong một số lượng step nhất định đầu tiên thì mình sẽ tăng tốc
./data/b908aa90-9149-4668-be3b-8d0d8b3b3eea.wav
mình sẽ giải lao năm phút nha mọi người trong quá trình mà nó đợi a nó training sau đó mình sẽ quay lại
./data/7aa1ba76-9490-4de0-9ef6-bb9827a25590.wav
các bạn chỉ cần chấm thôi nó nó sẽ chia batch cho các bạn sau đó các bạn đây là take là các bạn lấy một cái dữ liệu ra để các bạn xem
./data/83a9e7d4-b74c-410e-b7dd-a7146d534cbb.wav
đây mình sẽ show lại cái slide logistic
./data/3df53468-ab8f-4aaf-82b1-7de4a1e49da7.wav
ấy thì hôm nay mình sẽ không tập trung quá nhiều vào phần này
./data/fa42303d-2860-4342-af70-79476d95cc5b.wav
nhưng ít nhất bây giờ em biết được là nó đang nói đến việc là nhận xét
./data/6f2a404d-eddf-413c-9128-89fdff58f6e1.wav
mỗi một câu thành một vector xong các bạn sẽ có mười ngàn vector thành một cái ma trận xong các bạn sẽ build model giống như là mình đã làm ở cái file kia