Datasets:

mp1704

/

w2v2_0

like 0

./data/216f99cc-ca8e-4bc9-8236-c2632475a97f.wav

vậy thì bây giờ khi training cái mạng này nó sẽ gặp vấn đề là

./data/237df9f9-2687-46fb-90c3-18c84b8e40a3.wav

ấy thì trong trường hợp này thì mình có thể show lại ở đây ấy trường hợp này thì cái lớp đầu tiên của chúng ta là một cái feature hai tám

./data/74dd4897-2506-40e3-b98c-5ca87cff8c4f.wav

chắc là trên fanpage rồi à thực ra có rất nhiều người đăng ký sử dụng trước ấy thì anh sẽ gửi cho những cái bạn đấy

./data/d0580a84-6ed9-4f78-ad0f-c03bd26156cb.wav

ấy thì khi các bạn có những cái file record này rồi ấy cái tốc độ load rất là nhanh

./data/9f264894-c339-467f-86ec-4c6c8fa43d89.wav

ấy ví dụ phân loại âm thanh đó là tiếng của con gì chẳng hạn ấy thì mình có thể áp dụng cnn vào

./data/651bffb4-1973-4455-a4e1-b186c56d5a3a.wav

ấy ví dụ bây giờ mình lấy cái sub này mình lấy hai mươi phần trăm ra để mình train đến khi là

./data/ec5ef5b6-997c-4fa2-a6a1-6d5398ddde0f.wav

đã xắn tay vào rất nhiều việc rồi thì họ research sẽ rất là tốt

./data/0c9330a4-0fab-4fe2-b48c-50ea575fde76.wav

tất nhiên là cái api của tensorflow này nó đổi liên tục ấy cho nên là có nhiều cái mà

./data/34a98549-aac6-4b8f-a07a-25bb96b13ee0.wav

nếu mà ai hứng thú về những cái bài toán này thì sau khóa học chúng ta có thể nói chuyện thêm

./data/5aa8c103-8d18-4b24-9744-206d75acfb28.wav

tại sao gọi là đầy đủ tại vì các bạn thấy này một cái nốt ở đây này nó sẽ nối đầy đủ với tất cả những cái nốt phía trước

./data/8a0f68fc-d675-4156-b546-0c5947f6df6d.wav

đấy ví dụ như cái bài giảng của mình chẳng hạn có rất nhiều video và bọn mình để nó không ấy thì nó sẽ bị

./data/ad281990-bf0a-478a-86e9-3b0d6bab99aa.wav

ấy và nó đang bị overfit rồi ấy có nghĩa là nó

./data/a2db1f7a-44ad-4cca-a1fd-3a1491b92653.wav

đến khi nào nó đạt được độ khoảng khoảng như vậy thì mình sẽ dừng lại

./data/723c511d-0cc0-454d-9242-6fac74d62032.wav

mọi người ok la nha mọi người

./data/d7c08a1c-5c41-4252-9019-2ad495349515.wav

mọi người ok không nếu mọi người ok mọi người like nha mọi người

./data/f5355e87-31b9-45d1-8b6f-249c1dbe94da.wav

mà các bạn phải train ở trên những data có mối quan hệ thống kê với nhau

./data/2d3b240d-9435-4a73-8bf4-12ab1a7b86c6.wav

ấy định nghĩa này comment này thiết kế những cái hàm

./data/84cb953e-be76-41ea-a75c-e72bf9a34a30.wav

ấy thì trong thực tế mình dùng nhiều cái này này và có một cái mà người ta cũng chứng minh được là tương đối là hiệu quả đó là người ta train nhiều task khác nhau

./data/75fbd844-9af0-40a2-a1af-8528b61be328.wav

ở đây có một số cái cải thiện này chỗ này cũng khá là tốt này

./data/42008fcb-581c-46c7-976c-c7cba4a2b802.wav

thì nó cần phải dừng để sau các bạn train ở trên toàn bộ tập data

./data/f6c0d613-8754-4a8d-8dde-274646131c69.wav

sau đó các bạn tự tính loss bằng một cái hàm như này

./data/acaca7d6-fd88-4cc7-acda-22f6f0a8d564.wav

ấy từ đó nó sẽ tái tạo lên phân phối mới

./data/4337244d-0922-425c-aa40-fbb7e20c28ff.wav

và cái dự đoán vào để tôi tính toán ra được cái a sự sai lệch đấy

./data/573c0c2f-428d-48bd-8719-1e7b3aac9538.wav

dựa vào cái số step chúng ta đi có nghĩa các bạn càng đi thì sao

./data/9404b0f0-a69c-4044-b8fd-4cd70d77c858.wav

giống như thuật toán bình thường đúng không

./data/609372c1-bc4b-40db-a495-737a773aacc2.wav

tại vì khi mà train deep learning ý mình rất khó để xác định được là mình đang ở chỗ nào

./data/7c3b612b-ed9a-46e6-8936-afcc7a7e1593.wav

loss function này loss này ấy thì bây giờ loss vẫn giảm này

./data/dad7d233-d6ae-44e4-a4e5-60a3ff44d780.wav

cho dù các bạn đưa một cái lượng dữ liệu nó phức tạp đến như thế nào thì nó có đủ khả năng để có thể là xấp xỉ được

./data/681eddaa-4a10-4bd8-ac55-a5c86c144aa2.wav

ấy thì bây giờ mình sẽ bấm train luôn tất cả những cái này đi

./data/cfe4d890-bb96-4ddb-abbd-111aefadae14.wav

chứ bây giờ em khởi tạo một cái a tham số ngẫu nhiên đúng không rõ ràng ngay từ đầu một cái khởi tạo của em nó là gì

./data/c5b249b9-1624-42ec-a416-dee73f71e5e5.wav

bây giờ chúng ta sẽ đến với chiến lược hai

./data/d0b04a13-bac3-452a-afdb-f7014485d596.wav

sau đấy a thì sẽ công bố ở trên trang fanpage của proton x rồi anh cũng sẽ share

./data/35b84994-a630-4baa-94be-2e90381dd36d.wav

khi mình nói nhanh như này thì rất nhiều những cái rung động nó được phát ra

./data/ffec22bb-d721-4b41-9c36-6e00948171ff.wav

một cái mô hình quá lớn như thế này cũng không thể tốt hơn những cái mô hình nhỏ hơn được không ạ

./data/8cf60171-9acf-4847-826c-464e8f3c9801.wav

ấy thì đây là cái vấn đề của cái cách chiến lược như thế này

./data/84bcf2ab-b0fa-494f-a45b-03cd8931fe13.wav

ở đây có mình có bộ data là iris loại hoa

./data/7b7267a5-b16f-41d2-86af-b96cdbabbd63.wav

ấy thì đây là một số kĩ thuật này hôm nay thì còn một cái notebook mình cũng sẽ chia sẻ luôn ở đây

./data/9afff708-59f5-44be-b007-965a6798ca9d.wav

nên là mình quyết định sẽ cho nghỉ

./data/27466ce5-d33e-4072-8cee-3cf3a8ee10d3.wav

có nghĩa là trong thực tế có rất nhiều những cái ý tưởng để bố trí nhá nó không phải theo kiểu là

./data/53a55807-c0ff-458b-b9ed-02c48c69f0ac.wav

nếu các bạn train không ý thì giống như là các bạn tạo ra một cái mô hình có khả năng phân biệt

./data/5a616e7a-3762-4a48-ae7a-4de19406f015.wav

đấy thì đây tôi reset patient cao này

./data/cd50ccb5-5ed0-42d2-9e0b-10de3b20fd55.wav

nó lớn quá so với cái lượng dữ liệu cho nên nó sẽ học thuộc được đấy

./data/e09b7e29-188b-4a39-9718-22eef297d13c.wav

thì thường cái nguyên nhân chính dẫn đến overfit chính là cái mô hình của chúng ta nó quá phức tạp

./data/04df573b-600a-4e44-9881-8d5284c9047e.wav

đây được không ạ sau khi tính được loss rồi thì các bạn tính

./data/038e64e8-e7f5-4001-99c5-0a801323d16c.wav

có những cái bài toán training phải năm mươi epoch thì mới nên dừng sớm chứ nếu các bạn dừng sớm quá thì các bạn lại bị model yếu

./data/3633ed3c-34c8-4e55-a6f7-d8bd1b2ea27d.wav

đây các bạn thấy này

./data/93b30bae-d8ae-4fef-8a8b-d6fa842dcbaf.wav

ấy thì các bạn có thể là phải tự code lại cái quy trình mà forward

./data/14725bc5-c6fa-4d14-8075-ec6dc2369a6b.wav

đấy hàm fit thì nó sẽ làm hết cả việc các bạn

./data/0a8d0299-2652-4704-80d8-19ea7cc1f624.wav

đấy thì mình sẽ hướng dẫn các bạn hiển thị cái âm thanh lên và mình sẽ so sánh cho các bạn là âm thanh nó giống cái ảnh như thế nào

./data/848070ed-d00f-461f-a3cc-4809cd69f3d3.wav

ở một cái điểm nhất định mình phát hiện ra là overfit rồi mình ghi nhớ cái loss function hoặc là cái a accuracy

./data/09e1be7d-bc54-4531-a2dd-3484086a3f79.wav

không biết là tuấn anh có hiểu ý không

./data/0b933065-130e-4aec-a46f-36a86720c7c2.wav

đúng không tôi thấy là độ chính xác hoặc là một cái chỉ số các bạn đang theo dõi nó không có hiệu quả nữa trên tập validation nha mọi người

./data/467f8d19-b8e7-4a1d-b299-467c301a67c3.wav

ấy trường hợp này thì mình phân tích thì mình thấy là ồ sao cái mô hình này yếu vậy

./data/fc36ac94-f2c4-4ad6-858f-b2fd93855b18.wav

đây đây mọi người này

./data/1e22d3d6-7aef-4450-8d49-234d469ea1c6.wav

ở đây thì à một số cái các bạn quan tâm này

./data/b2475367-34cf-421b-99df-d599c8897411.wav

đấy thì à trong slide này mình cũng nói rất là kĩ vì cái phép tính toán rồi

./data/055fa816-3c64-4b91-b5aa-7ad5390b0db6.wav

mình có thể dùng một phần thôi nếu mà nó phù hợp domain của mình

./data/0cfa1464-6a65-42f5-9a9e-a00831f95615.wav

nên là cái lưu lại cái mô hình tốt nhất ở đây đấy

./data/4b8915c2-d152-4e12-8046-54d0adf4dcd5.wav

nhiệm vụ của chúng ta không phải là để cho nó học thuộc dữ liệu

./data/71ea4218-b825-4856-ac12-ff6d533a7f2c.wav

còn đâu cái kiểu masking này thì mình không có nắm chắc đâu

./data/0545ded0-28ac-4ecd-9410-f8bfa4f877f3.wav

các bạn thấy là qua mỗi cái layer bắt đầu nó sẽ lệch nhau đi giả sử các bạn thấy ở đây có rất nhiều những phân phối giống giống phân phối chuẩn

./data/7b580a27-d296-4da2-936e-77daccd97b58.wav

trong cái mô hình transformer rồi bert ấy họ làm rất nhiều task khác nhau

./data/a679b7c0-2b43-4c04-9f1b-36b069147053.wav

đấy ví dụ ngày xưa bọn mình build tầm khoảng hai trăm ba mươi triệu comment đúng không

./data/dce16cba-8dd1-4458-9b31-3c915004a7a1.wav

ấy đây chính là bộ tham số a mà tốt nhất ấy thì các bạn code như kiểu này thôi

./data/6cf3c9ca-736b-4d33-a9b7-163c0f8be5fa.wav

và train cái việc phân loại hai cái cùng nhau luôn với cái weight nó được cập nhật luôn bằng hai cái task đấy

./data/a9d53d4c-aeec-4e80-b90d-0f501d88c115.wav

thay vì mình dùng pretrain kiểu như thế này gọi là pretrain để học mối quan hệ giữa các từ như này

./data/2c4f3f6f-d7f3-48ca-bdd0-086ef5dbc8fe.wav

ấy thì các bạn thấy lúc đầu tiên ấy khi mà mình random vị trí ý nó sẽ gặp những cái điểm gồ ghề

./data/7fd0f7c0-4787-451c-94ca-1f6bb8f96041.wav

một lần đầu tiên mình cũng đưa learning rate cao lên lần thứ hai mình cũng làm như vậy

./data/39365a44-594b-47bc-aca2-4fe08238608b.wav

ây tất nhiên là sau đến lúc làm project thì mình sẽ share cho các bạn những cái cách làm như thế này tuy nhiên thì bây giờ các bạn có thể học dần dần

./data/b764102c-6187-4e35-a679-59c78d3afe45.wav

ấy thì đầu tiên này các bạn sẽ phải biết được là gì cái param là như thế nào

./data/4e6648cc-5d83-46e7-8320-db226d616495.wav

không cập nhật được tham số đạo hàm nó sẽ đi dần về không

./data/56034d02-f465-43e0-ae13-331a8cebea19.wav

tensorboard là để hiển thị lên cái a đồ thị training thôi

./data/9dc50d26-6974-41bc-b191-ee4f67f92f93.wav

có nghĩa là cái dữ liệu của mình ý các bạn sẽ build ra cái dạng binary cái dạng à của máy tính ý

./data/dce5a85a-a8b0-4767-bcf1-0a6b01bf34ff.wav

đây kiểu các bạn thấy là nó sẽ gọi là thay đổi đi một chút đúng không

./data/575e00d0-2358-4f68-86b3-fd8cd70e1838.wav

mình pretrain một cái khác đi đấy ví dụ ngày xưa mình có kinh nghiệm như này nhá

./data/ae9bf3d5-f3f4-48aa-b125-0f54a324765e.wav

đây khi mà các bạn code dropout ấy các bạn có thể code được bao nhiêu phần trăm tôi sẽ tắt những cái nốt này đi

./data/513d767b-b6c1-46ee-982b-41fbdb344486.wav

ấy các bạn thấy ở đây a vẫn tốt đúng không var loss của chúng ta vẫn đang tốt này

./data/cde860db-972f-4235-bbab-ae3c0a5768b2.wav

thu được cái dự đoán từ cái dự đoán mình tính ra được sự sai lệch đấy

./data/726ad16a-c6d8-41b6-a6e4-197b71f2533b.wav

bán giám sát

./data/ec68a0b1-672d-46e5-b2ff-8e4c626c876f.wav

có nghĩa nó masking vài giây đi trong một âm thanh nó có mấy cái giây ấy thì tôi masking ở vài cái giây

./data/5397b805-1140-47bd-affc-f812bb52be5c.wav

đây này nó còn ở một chỗ khác nữa cơ ây có nghĩa là các bạn có thể tưởng tượng nó có rất nhiều những cái layer mà mình phải tự code

./data/8c560a84-5bc6-4e57-b42d-c2fd66869728.wav

mình cũng sẽ chia sẻ thêm đấy thì để mà test cái hệ thống này thì mọi người có thể request vào khóa học này nha mọi người

./data/9f9383c3-0a7c-4a20-9144-a9e9ef543114.wav

mọi người đã nắm được cái này chưa

./data/4e15cf69-21ed-4a64-a5a7-ec963361f996.wav

cái số lượng mà chúng ta cần phải train nó sẽ phải nhiều hơn chứ đúng không

./data/404f00dc-ef90-4c18-9191-42a669b11476.wav

vào một cái lớp mười sáu ở đây cho nên các bạn phải lấy hai mươi tám cộng một nhân với mười sáu thì ra số param như thế này

./data/ad515145-20b3-421a-9215-f383c6559ab9.wav

binary cross entropy accuracy

./data/b4e771b1-7efb-4db4-8d2c-6fac546a7f21.wav

ví dụ một cái a bảng đi sau đó chúng ta có nhãn không và một

./data/1adad9d3-945b-4781-9344-206e002365a8.wav

có nghĩa các bạn tưởng tượng để mà một cái bốn cái từ xung quanh này nó dự đoán ra cái từ ở giữa này rất khó nha

./data/0ed860eb-d89c-48ba-bdd7-84fbdabc1b85.wav

ấy thì đây là chính là toàn bộ cái lúc mà các bạn sẽ phải tự code cái model của mình

./data/77c5f563-60b2-4355-b3f2-62dff7949fac.wav

ấy thì cái câu ai này thì ít nhất là nó cũng liên quan đến cái việc ai ở đây

./data/017a0b57-9d09-447e-9330-c5706a4f5db0.wav

ấy nó thêm một số cái loss vào

./data/4e1a3ef8-f429-423a-abd3-2399c09a1825.wav

phải cập nhật đúng cái tham số mà chúng ta học ở cái model hiện tại ấy

./data/35eb23d4-16b0-420d-b5f6-5d46c50485bc.wav

ấy chiến lược hai này sử dụng early stopping để xác định giá trị sai lệch

./data/41612308-6d98-419e-a400-277537f63bfc.wav

sang la nha mọi người

./data/ee8b7373-837e-486c-b969-e89f070b2f2e.wav

cái a gọi là gì nhỉ hz cái sample rate của nó kiểu như là nói nhanh nói chậm

./data/2f0b9881-61cc-4da9-9a0d-9d634b2aa5ec.wav

để tôi a dự đoán là cái chỗ thiếu này nó sẽ phải là quán

./data/665d63fc-e31d-452c-bda9-959a443e7637.wav

ấy tuy nhiên thì em nghĩ để mà chính xác được thì vẫn nên sử dụng một cái dạng mà cho từng ngôn ngữ một

./data/83baf8b3-5ba2-4db1-9171-fb94cac56241.wav

đây các bạn bắt đầu thấy này chúng ta sẽ không sử dụng cái fit nữa

./data/dc214a42-c0f3-419a-91c1-c93cfb558c53.wav

ấy ví dụ các bạn tách thành hai phần một cái a subtrain thôi

./data/5316f0bf-7f3e-4fa0-ad85-fc9432e6b121.wav

nhưng mà mình có thể tự code ra hay không