Datasets:

mp1704

/

w2v2_0

like 0

./data/de451e3d-c7c1-4308-b1e4-1c5bed81b639.wav

đúng không

./data/3c33c772-5257-4646-b572-4f9bcf5697ec.wav

ấy thì về sau các bạn phải tự code lại hết những cái quy trình này

./data/314592f1-fc19-43c2-a1da-a7512fbe0a99.wav

mình chỉ train từ một đến hai epoch thôi tại vì loss function của cái này thường rất là lớn

./data/e0690ee4-0b05-406a-b099-1ab41565314e.wav

được dậy ở cấp ba

./data/7f74e14a-ac79-4c92-9411-e1dac68d9e88.wav

và hệ thống học máy có nghĩa làm sao các bạn xây dựng được một hệ thống học máy

./data/ef94f10e-10bb-473b-9287-7de6f4085f80.wav

cho nên nếu các bạn không nắm chắc được những kĩ năng này ý các bạn rất khó tham gia ấy như thế thì team cũng không đi nhanh được

./data/be69c5be-489e-4023-a132-238eeeafb146.wav

ví dụ learning rate các bạn sẽ thấy ngay

./data/5e263bff-bc3f-4104-8e1b-5c496ecc1757.wav

gọi là giảm learning rate hoặc là các bạn có thể gọi là warm up đây mình sẽ nói cái này

./data/25a7c29d-2027-44d0-9bbd-c06bc7d3dbe2.wav

ây tham số được chia sẻ giữa các task ấy

./data/4cc9d06e-4a73-4ef5-8d15-0fffb31e329a.wav

có nghĩa có rất nhiều người tranh cãi trong những cái bài a báo khoa học

./data/75b4ef07-e04a-4049-a0c8-65fe8a4ae781.wav

ấy các bạn tưởng tượng bây giờ các bạn mà có tầm khoảng hai mươi gi âm thanh chẳng hạn hoặc là hai mươi gi về chữ chẳng hạn

./data/e0105c0b-dd40-40b4-98a5-cfe7bd6165f6.wav

và tiếp tục đưa vào những cái lớp đằng sau ấy ngày xưa người ta sử dụng một cái activation có nghĩa là cái lớp phi tuyến ở đây ấy người ta dùng cái sigmoid

./data/49c7b70e-a254-44fe-b2d0-efe5e61b1776.wav

ấy ví dụ mà mình để ý khi mình training đây này đấy

./data/91059361-3896-4641-8a99-1bc35fe1282d.wav

ấy nhưng mà mình bố trí như này mọi người mình sẽ lấy những cái câu này ra

./data/2b17e5ff-9490-497c-8f67-e4068dabedd8.wav

ấy và nếu mà cái ví dụ cái loss của chúng ta ấy mà nhỏ hơn

./data/0d31706a-d737-4173-840b-299ca9494fdb.wav

nếu mọi người ok thì để like ở đây thì trong cái notebook này mình cũng có luôn về dropout nha mọi người

./data/7ef67b00-8f30-43c8-8ce6-ce33c535fccb.wav

mình lại tiếp tục train một epoch tiếp đấy thì mỗi một lần đấy nó lại dùng công thức này nó lại bắt đầu warm up lên để nó đi

./data/bf6bfd7a-d4a4-40f9-ad31-ce7b0898ccfa.wav

rồi một cái a medium à small này xong medium xong rồi last

./data/965abc49-00a2-425e-a3f3-585fc604215f.wav

các bạn thấy này ở đây thì nó viết a già nhưng bản chất các bạn nhìn đây là một cái array một cái mảng

./data/1d9a1833-95a7-4b2d-90cc-bc39c0ef4ee2.wav

ấy thì toàn bộ quy trình là sẽ như thế này ây mình sẽ nói lại một lần nữa

./data/a23828b4-1bc1-4f6c-ae66-ae449c194d31.wav

đây mình chia sẻ sau này các bạn có thể xem lại để dùng trong thực tế

./data/5dbdfbf9-fc1f-4aad-8f72-2ac95f31c8ea.wav

gọi là xoá một số pixel đi để nó hiển thị lại được

./data/db2d7dc8-fd6e-4fac-91a3-e384850ffe42.wav

thì mình có thể là sử dụng cái weight của một cái task phân loại nào ở phía trước phân loại xem đây có phải là báo nói về chủ đề bóng đá hay không

./data/697aec9f-9cf3-4a61-a161-f4b7c6b3fedb.wav

có nghĩa nó sẽ cũng tạo ra ba mô hình cho mình tuy nhiên thì nó sẽ lựa chọn trong những cái

./data/8d44a9b7-c709-4923-8119-a934bcaa6e34.wav

để thông báo gì đó ấy thì tôi gọi một cái khái niệm có tên là callback

./data/c6902bb7-a0e1-4de5-8ad4-a2a3c61df506.wav

ấy thì thường khi mà làm search engine ý thì cái khó nhất là gì cái khó nhất là index indexing

./data/9a28def1-2702-4263-b545-30acc6e4bfbe.wav

sẽ không có một công thức nào gọi là chính xác là mô hình này sẽ phù hợp dữ liệu này

./data/d9672181-47ca-4796-8c58-e8f2e1bc0781.wav

dropout cũng được coi là một cái loại hiệu chỉnh mô hình

./data/e73b0513-e366-40d2-a434-76050b061f5d.wav

ấy thì chi tiết cách code những cái này thì trong những cái buổi project thì mình sẽ chia sẻ cái cách mà các bạn code op

./data/b6ef5162-1715-403f-8def-f006e355f19c.wav

đấy thì người ta coi là cái việc tắt này này nó giống như là các bạn tạo ra nhiều mô hình khác nhau

./data/96c34287-3829-47f1-ab8e-e0e0febe860c.wav

oop các thứ thì các bạn có thể tham khảo cái này và hai cái nội dung mà được à nhiều người quan tâm đó chính là dữ liệu lớn

./data/867d68b5-ce7e-4428-9dac-78205e3e68ab.wav

đấy ví dụ các bạn thử tiny này sau đó các bạn thử small

./data/b3c81b5e-45c1-4967-8333-1badcc090d34.wav

nửa giây thôi ví dụ như vậy thì đây là một cái bài toán tương đối challenge với a team

./data/552450b6-2e8b-4fb5-a00b-2f085cae3a8c.wav

mà các bạn à dùng à cái máy tính cpu bình thường các bạn load ấy thì khá là lâu

./data/eb5fdcde-e8c1-4429-bc96-32eb7263511c.wav

còn đâu mình thì mình hay dùng tên

./data/00a5493a-e296-449c-a7b0-02e48fe9207d.wav

đây các bạn thấy này

./data/b2780359-7c0b-48d6-9b54-5773b3fd672a.wav

tuần sau chúng ta sẽ nói đến những cái solution của các bạn

./data/8ff9f78a-9a56-4b44-8973-e8f406311c07.wav

ấy cái task này thì chỉ có tái tạo lại cái x này thôi ví dụ như vậy

./data/f1b76e76-fc33-4b09-acc7-327e1d00d292.wav

đấy sử dụng gan nhiều lần mình đang nói đến cái mô hình của mình có nghĩa cái mô hình của mình nó có thể là tái tạo được phân phối của dữ liệu

./data/3de49016-8b57-4ac7-ab88-19517c33deb3.wav

đây các bạn thấy cái model sequential nhá nhưng ngoài cái hàm fit bình thường như này

./data/544e3be2-ba31-4991-a71b-b63fb6833f17.wav

thứ sáu ai đi chơi dơ tay nào

./data/39217787-617f-4bd1-a038-be677d8802b1.wav

âm thanh hoặc là cho ngôn ngữ

./data/a7468146-12cd-403a-abd5-cc20fc312fea.wav

ấy trường hợp này thì là trường hợp các bạn tính cái loss ấy

./data/9d3ffdff-a6dd-42b8-b66c-182c400cd485.wav

đấy thì tôi trả về thôi hoặc là có nhiều từ là nhất nhiều từ gì nhất

./data/620f7976-8da4-472b-a6b2-85a097b041be.wav

mà một cái task tiếp theo task hai gì đó đấy

./data/045c023c-2cc5-4800-bb26-19d7d98c396a.wav

ở đây thì người ta định nghĩa một số cái tham số ví dụ như là training này

./data/94d4ca37-a73b-42ef-9d03-34f48e0e282d.wav

đủ cái tính năng cho bọn mình cho bọn mình phát triển thêm cái hệ thống này đấy ví dụ hiện tại bọn mình phát triển những cái hệ thống như kiểu là chấm bài tự động

./data/53a54b00-a954-44de-b358-be9e606d9a25.wav

và đặc biệt là transformer những cái mô hình cho gọi là

./data/258eb686-5d46-4dc7-9f9c-d5321d19def4.wav

của em ấy và cái optimizer của em nó giống như những cái hàm luôn ấy

./data/a56f7937-ad75-486f-ad2d-1a9d7cdc26b1.wav

nhưng mà nó vẫn là họ relu thôi đây

./data/2eea34ed-26c6-4a7d-97ef-6cafe9852a13.wav

cái data của mình nó sẽ có những cái phân phối khác nhau ấy cho nên người ta có cái xu hướng chuẩn hóa lại ở qua mỗi lớp này

./data/93a8bb11-4199-4c2f-85d9-9eea6e06237c.wav

ấy thì đây người ta dùng cái callback ấy thì bây giờ truyền cái callback này vào như thế nào

./data/979c99e1-e836-42cd-87bc-92bab85d6324.wav

chính là số batch đấy

./data/de2c6602-4d1b-4b1f-80d3-3bac72a39305.wav

tốn kém cái dữ liệu đấy mà không dùng được cho nên bọn mình lấy tất cả những video đấy để cho một cái máy tìm kiếm nó học

./data/aef1949b-96af-491e-944c-18c23ec38486.wav

bây giờ mình sẽ sang một số chiến lược mà bây giờ mình cũng hay dùng

./data/eb4c0488-e2f7-4317-89c8-2b3b3ee77dce.wav

đấy cái thằng trộm thì cố gắng đánh lừa và thằng công an cố gắng phát hiện

./data/3ccde7b5-7724-419d-8d4b-6173c44be8ab.wav

ok

./data/013e2ce2-4192-4783-ad7f-b38948f723ca.wav

có thể là kết thúc một epoch thì các bạn phải chạy cái hàm này ví dụ như vậy ấy

./data/2f2dafce-d89e-4a46-be57-ff8a52e686d0.wav

ấy thì cái chiến dịch đơn giản nhất là các bạn sẽ nâng cấp cái mô hình lên thôi

./data/1eeaf6a0-d6a6-49be-9846-bad594b7f168.wav

rồi thì à đây là toàn bộ bài ngày hôm nay nếu mà không còn ai có câu hỏi gì mình sẽ kết thúc nha mọi người

./data/9b89ace0-19cf-4378-a6d3-a5a935b5ade7.wav

được không ạ

./data/9de81150-df48-43f5-93c3-ba354bbd954f.wav

và và học ấy cái phase thứ hai là sau phase này chính là bọn mình sẽ

./data/457a82e6-0808-4391-bb62-8afd885cd7b1.wav

mình sẽ show cho mọi người tiếp một cái a mà mình dùng cái a

./data/ecbf1c64-6e1d-42a4-8546-34713e2b7940.wav

thực hiện forward sau đó các bạn tính ra được cái hàm mất mát

./data/45995ed9-ad6b-4f99-839c-9c356d4bbda0.wav

subset nha mọi người

./data/21e92e81-7c4f-4e4d-ac92-400543d2f92d.wav

được không ạ thường sẽ phải dùng cái pretrain như vậy

./data/bd9e5f2e-a7e3-486a-a823-7762a6fa7120.wav

ví dụ ở cái mảng nlp bây giờ ấy chắc chắn hầu hết đều sẽ phải sử sử dụng bert đúng không

./data/9ed3a7ba-1b19-4732-a545-f0ae1928d0d8.wav

ấy như thế thì nó cũng không có tốt hơn thanh niên như thế này

./data/c1f06906-f768-4637-a29e-fa7cc4ef0420.wav

đấy thì à khá là thú vị khi mà cái kaggle không một lại có đến tận ba mươi lăm đội thi

./data/550c8b7f-91e7-45b8-afb3-94367300ddad.wav

chúng ta sẽ nghỉ lễ và tuần sau chúng ta sẽ trở lại một cách mạnh mẽ hơn

./data/251344c4-c2e6-4fc3-ad5f-371d462ffeb1.wav

thực ra khi mà dùng với ảnh ý thì mình nghĩ phải fine tool mình sẽ dùng một cái pretrain

./data/db3868d0-8e47-461e-885a-c3e74f2cc96f.wav

thì người ta sẽ trả về đây là những cái phép truyền thống nha

./data/adcd7906-5b57-4387-8c43-7d5a934c85d2.wav

mình thay sang năm mươi ngàn đi hoặc là hai mươi ngàn đi cho nó

./data/7008d2f5-598c-47ca-af95-ff44f4ccba6f.wav

và nó cũng sẽ nối đầy đủ với tất cả những nốt đằng sau không bị à thiếu một cái liên kết nào

./data/54cdaf21-fedf-490f-ac6a-76f1b9238bbe.wav

đấy

./data/e8b27950-0bcc-415d-a1d4-63211f0ab777.wav

ấy thì cái sample rate của nó lớn khi mình nói chậm chẳng hạn thì cái sample rate của nó rất là nhỏ

./data/0d2de237-9662-452e-a142-b8b55ba83cea.wav

ấy thì như thế này các bạn thấy là cái lượng tính toán vô cùng lớn cho nên người ta đã nghĩ ra một cách đó là người ta sẽ

./data/da76fc5f-32f8-44bd-bded-83af9dea2579.wav

và cái solution ấy thì nó sẽ dứt nhiều hơn ấy thì có hai thứ quan trọng thứ đầu tiên là các bạn phải xác định đúng được bài toán

./data/6fd49595-5462-4536-a7d7-1e06f02c0c28.wav

trên data thật

./data/ed74a7c2-26dd-4316-8afc-ed72a6ba49c6.wav

ở đây mình có softmax rồi có nghĩa là sau softmax rồi thì mình tắt đi còn đâu nếu mình không để softmax thì mình phải để ở đây

./data/e56a09ec-b7a2-473c-91cf-c8092b4f7cab.wav

sinh ra được tôi đi học từ chính tôi đi học nghe nó hơi gọi là nghịch lí một chút nhưng mà nó là đúng

./data/8c700d78-0d3b-4f94-9e11-dc327d720621.wav

cho một cái dữ liệu mà nó không formal được đúng không ạ kiểu như thế

./data/c852e762-6c54-4515-8ac9-a05b22f4b4b1.wav

và đi nhẹ nhàng thôi

./data/384b9bfa-c518-469f-baaf-765efc899511.wav

khi mà training thì trên cái tập train của chúng ta nó sẽ độ chính xác sẽ tăng dần lên

./data/d7006f72-a4c0-4163-932c-633e2316f4c6.wav

và mình cũng sẽ trình bày một số cái solution ở trong khoá trước mà các bạn đã đã học đã làm

./data/2c9bcb68-4fe7-4a1c-9ca3-3aa14b8ae097.wav

tại vì là mình muốn là không cần phải chuyển one hot

./data/ec1b934a-eeda-41dc-bd75-6df884219218.wav

còn ai có câu hỏi gì nữa không mọi người

./data/bb76a3f7-781e-4755-befa-a798c80b608c.wav

đấy ví dụ là nhân tuyến tính ấy xong phi tuyến nó đi

./data/6c80f9ab-fc90-4b11-8634-3f49a8302cc3.wav

số lượng training này số lượng validation này step per epoch đấy thì các bạn thấy là

./data/8671dd98-4190-491f-801c-bafc0fe7736a.wav

custom training có nghĩa là sau này các bạn gặp những cái model phức tạp ấy

./data/5a72665a-46f9-443a-8833-6e5d29b8e8d6.wav

có những cái bài báo nào đã dùng ý tưởng này hay không đấy nếu mà dùng ý tưởng này rồi thì cái kết quả thế nào

./data/86fd1d17-a333-4984-8946-8b4d4f3e6cf1.wav

thì đấy chính là cái mạng nơ ron

./data/3273fbf8-8894-4c95-aa57-1e24d4de9a2a.wav

ấy như thế này các bạn có thể dừng train được rồi cảm giác như nó không còn à có thể tốt hơn được

./data/0449f89e-afdd-423d-932e-3dde2260115f.wav

validation lại giảm ở đây accuracy bắt đầu này các bạn thấy là accuracy bắt đầu là cũng giảm theo luôn ở trên validation

./data/ed81fd6b-ffbe-472f-bb09-a54415e7c4bb.wav

các bạn muốn nhận diện xem là cái câu đấy là cái câu a nói về cái gì âm thanh là âm thanh gì

./data/e5b64de2-1ca9-43a6-88c7-f8d671866e0c.wav

sáu tám phần trăm này

./data/fcf57f49-d7fe-42fc-9d1c-a3eb494ca89c.wav

data đã train cái param của mô hình sau đó mình cập nhật cho

./data/f60611de-b7e1-4c65-8bd4-4c6cc71095ab.wav

bây giờ có cái xu hướng đi theo kiểu như thế này

./data/26bd3e3e-151f-418c-8ba4-a5c0808389ef.wav

nhưng các bạn thấy là cái đạo hàm nó sẽ tương đối là lớn có nghĩa max đạo hàm luôn

./data/c71158c8-ffde-4301-a11f-20fb122bf2f2.wav

thì mình sẽ a gọi là phê duyệt thì các bạn sẽ tham gia vào đây