mp1704/w2v2_0 · Datasets at Hugging Face

file stringlengths 47 47	text stringlengths 1 182
./data/abefb6ff-8911-412e-8c31-31e7871cd9e9.wav	cái việc phân loại ranh giới nó chỉ đủ như vậy thôi nhưng mà nếu các bạn train cái kiểu mà học cái dữ liệu hiện tại ấy
./data/3e2545b3-2e4c-47a5-a29c-0f6349b31b75.wav	các bạn thấy không đấy thì chúng ta sẽ có một cái a
./data/13a7f92d-7931-4119-b3b5-324280543d38.wav	đây fit model này
./data/b4387da0-e398-48a3-8c4b-51d0f446a8bf.wav	nhiều khi các bạn mà không có đến một lúc các bạn đọc bài báo ấy mà không có kĩ năng tốt ờ lập trình tốt ấy thì các bạn không thể lập trình
./data/28d45a06-6854-405e-9a37-46ae19239809.wav	ây mình đang nói đến cái ấy cái a gradient tape đây các bạn thấy này
./data/a1753446-ebae-4653-bc7b-f2639dfbb96c.wav	binary cross entropy này với cái bài toán mà phân loại nhị phân thì chúng ta dùng cái loss function như này
./data/9659b6f3-b3fb-4cbb-8c08-473d2082098a.wav	đây người ta hiển thị cái a loss đúng không
./data/dbcc02a2-78b4-4784-9f36-64d9d97e93e8.wav	ấy thì đây là một cái kĩ thuật như vậy lát nữa mình sẽ show cho các bạn một cái hình mà bây giờ những cái model nó hay dùng
./data/f46574db-9663-4f13-98eb-5c89290e1124.wav	kiểu masking thôi đúng không nó vẫn học những câu này tuy nhiên nó học để là hiểu được cái chủ đề này
./data/a8344466-39a9-43ca-8c8c-a072cf88b850.wav	đúng không ạ
./data/734f07f8-38a1-4423-901d-a1b073ffffeb.wav	ấy thì cái hàm relu có một cái là cái đạo hàm ở cái vị trí ấy bằng không à không tồn tại thì đúng hơn
./data/a97175f2-a25f-4b07-9bcf-c624b1013c36.wav	đây chúng ta định nghĩa một cái mạng à trong trường hợp này sẽ là gì
./data/484f9bb7-8ad3-4cfa-aa65-fc856e7e2885.wav	cái đấy mình thấy khá là đúng thường những cái người researcher nổi tiếng ấy
./data/d5e4babb-deac-4e5c-a14d-b7b6cfa149b3.wav	có nghĩa là các bạn dùng rất nhiều mô hình kết hợp vào nhau đấy
./data/4ea6b4e9-123f-4c62-85d3-69996bf2780f.wav	nói chung cái này nó liên quan rất nhiều đến kĩ năng về kĩ sư để building một cái a system lên như thế nào
./data/8b85d9d2-5309-4900-b61e-0dc6dfe03932.wav	thứ nhất là bán giám sát đấy
./data/626f0a8c-25c3-41ba-aa49-18ae4f29eb39.wav	ấy còn đâu không không thể dám chắc được không thể nói là à nó học được cái gì cái đấy thì chúng ta không biết
./data/f4d716ff-82f9-447e-874e-d86107d6c507.wav	ấy rồi các bạn sẽ hình thành lên một cái khoảng mà các bạn nắm được là nên ở trong khoảng nào
./data/8ca6807e-08cf-4269-b86e-5db5ff5a4b8d.wav	sử dụng cái hệ thống này một lúc đấy ví dụ như kiểu là năm ngàn người hoặc sáu ngàn người dùng một lúc
./data/47e369e1-da14-47fe-9292-6e73ce35534e.wav	ấy dừng lại thì chúng ta sẽ đỗ được đúng cái điểm đó chứ nếu các bạn đi nhanh quá thì có thể vượt qua
./data/8f6fa947-e502-45d9-a4c3-5c0c66bc9b50.wav	đấy ấy thì một cái âm thanh thì nó có vài thứ thứ nhất là cái thời gian
./data/ef8ba5ec-b7b5-43e6-9462-c1bd8fa366a9.wav	đấy sau đó người ta bắt đầu giảm dần ấy đúng không ạ
./data/03d5d7ae-c8e8-44fc-beb6-2c6f283cb482.wav	ấy thì đây là một cái mà trong thực tế có thể các bạn sẽ phải vướng phải
./data/caa26201-8863-4cdd-8824-884d4920817d.wav	rồi tập validation này đấy và truyền callback các bạn thấy không
./data/17e4edda-89d0-4462-8635-b14b18d765c1.wav	ấy thì mình à làm cái pretrain giống giống như thế này đây là data chính nhá
./data/b80b45fd-2e54-4ad2-be40-6c97a4ae04d1.wav	chứ nó sẽ không tự động à làm cho mình
./data/320c83ef-4363-4fc4-9170-b988793979db.wav	train step
./data/e482b0a6-179f-4e19-a510-a9ff8b3f7352.wav	hoặc là dùng folder cũng được folder thì hơi cực thì các bạn lại phải à
./data/6a47f6b5-9568-4ad1-8c49-c7f54e0def96.wav	nên thì khi đó ta dùng cái mô hình ấy ta đi dành cho cái task của mình nó sẽ tốt hơn
./data/2389dc47-f229-409f-80ba-2d817884397f.wav	đấy nên thường ấy khi mình nảy ra ý tưởng này ý thì mình hay research
./data/30c5a8eb-baab-4007-9551-9243ddb9bdac.wav	ấy có nghĩa thay vì các bạn sử dụng à một cái layer mà các bạn sử dụng hai layer
./data/57e2971a-573b-4e90-8dbf-a3858d634723.wav	ấy thì đây các bạn thấy này người ta sẽ bắt đầu với một cái mô hình rất là đơn giản gọi là tiny model thôi
./data/d533dae4-420e-4dfb-9825-e8a84e63d20e.wav	có nghĩa người ta ví dụ mình train một cái a cái task để học được xác suất của dữ liệu trước
./data/811af4fc-24ed-4881-a752-c93543600d56.wav	rồi ranking nữa một cái mô hình nó train mấy cái task liền
./data/7df82c79-410a-46fd-ac40-7514b54f7f06.wav	được không ví dụ à kết thúc một epoch tôi phải kiểm tra xem là độ chính xác của tôi là thế nào rồi
./data/4e27bcfe-b0aa-49f2-8ae8-994d700974c3.wav	ấy thì các bạn thấy người ta in ra này người ta in a
./data/3becf6a4-4074-4cec-a0d9-2b8348034060.wav	đấy lập trình à thuật toán lập trình leetcode
./data/0afaa464-8f92-468a-9da6-00800470c6fc.wav	ấy thì mình có thể áp dụng được những cái ý tưởng của ảnh ở trong đấy
./data/1eab450c-ceef-48ae-a56c-73c3079edace.wav	pretrain trước để học được chủ đề đang nói đến
./data/68a3ffa2-96f1-4485-b15f-64adcddbd887.wav	đúng không chỗ này từ à bốn mươi chín phần trăm lên tận một luôn
./data/c98bbad0-61ae-4d18-9c40-4371de18c87e.wav	ở đây người ta chia thành có ba từ đi hoặc là ba cụm từ đi cụm từ đạo hàm cụm từ là và cụm từ gì
./data/9df30222-1baf-4966-80b1-a31edf04096c.wav	anh em train được chưa sao có ba người train được thế này
./data/c0b75f99-746f-408b-8c2e-c42a4a19d609.wav	những cái này các bạn đã khá là quen rồi sau đó chúng ta phi tuyến nó đi
./data/69e55829-05d7-4b2b-8206-0fde283a8598.wav	ấy mặc dù ở trên cái tập train thì vẫn đang giảm
./data/daba644b-8e66-40dd-b60a-6ea56ee3458e.wav	ở đây thì mình chạy ít epoch cho nên nó có thể là chưa thấy được
./data/708ebfda-e6ce-46a5-ba36-97d78db485b3.wav	đây các bạn tạo ra một cái vòng lặp này
./data/f8c3c0fb-c46f-43b2-9e08-c33f461b6389.wav	tại vì mình là người lập trình cho nên là mình cứ thấy ai feedback là mình sẽ sửa ngay ấy thì đây là cái đầu tiên
./data/ab71546b-b1a5-4538-ba36-f354c3ead4d6.wav	có nghĩa bây giờ em coi cái a hàm loss ấy
./data/b3973e7a-83d6-498a-bb5f-07be2e038c1f.wav	với cái mô hình lớn nhất như thế này các bạn thấy này các bạn thấy không
./data/b16cf390-d47f-471d-bc39-7f76fb76dfee.wav	nếu sử dụng gan là tăng số lượng dữ liệu lên
./data/1118e978-4e4a-459a-a037-c58289841347.wav	đấy à tôi thấy là cái pretrain này chưa tốt bây giờ mình pretrain theo một cách khác đi
./data/2d8a1ce2-7b59-4e80-aeb0-1a2543117c31.wav	đây trong khi training mạng nơ ron nó hay bị a qua những cái lớp này ý
./data/6d58df04-0dd1-4e88-b288-09d391d2c1db.wav	nhìn nó đang ở bản alpha thôi có nghĩa mới gửi cho những người thân quen thôi
./data/6dbede35-7db7-4581-be59-abb3f512ac00.wav	một cái mạng nơ ron có mười sáu nốt trong một cái lớp ẩn duy nhất
./data/71b7f2ea-3117-494c-9b2f-e46cf0840c4f.wav	ấy mà bây giờ mình cũng đang dùng rất nhiều cái này trong thực tế
./data/42554e5d-bacb-4752-9608-2ddad0e6a355.wav	ấy cái thằng tiny với cái thằng a small thì tốt nó vẫn xuống cùng nhau
./data/57751d19-eaa3-4543-abaf-c27cfebb5a81.wav	thì cần rất nhiều ai model bên trong đấy ví dụ đầu tiên sẽ là ai model để đọc được video
./data/6ca41c1d-d6cc-478c-beb2-cde2b7bee370.wav	không tính toán nữa mà nó sẽ chỉ tính toán ở trên những cái nốt mà nó lựa chọn mà thôi
./data/ee2055ac-a4c1-4e3b-ac44-14c5ec5cfeb0.wav	ấy tuy nhiên đến gần đây các bạn thấy bắt đầu là không có nhiều cải tiến thêm rồi đúng không
./data/5bdfe754-e3cb-4456-9469-6e1362ba3997.wav	giờ mình thêm một a vài epoch nữa xem nào
./data/e8598a09-e927-4d0c-9a39-fab0d09cecfa.wav	check point là cái gì có nghĩa là mỗi một lần các bạn train ý các bạn sẽ lưu lại cái model ở thời điểm đấy thôi
./data/66933463-fd9e-4a6a-a1ad-b793c98acfb9.wav	về cái chủ đề đấy thì khi em phân loại em sẽ tốt hơn ví dụ bây giờ cái chủ đề của em liên quan đến
./data/9ba5ed66-eea4-4b2d-bd8d-aae34a7b2750.wav	chúng ta không nên gọi là đi vào xong mang một cái mô hình to đùng ra xong rồi train xong đợi vài ngày
./data/a546971a-f756-4607-a6ce-42da4f183a11.wav	tất nhiên là mình muốn làm nhanh thì mình dùng tên này thôi mình không muốn dùng tool
./data/cd0eb7a3-5a7c-4f92-9160-bb15b0867a8e.wav	ví dụ mình hoàn toàn có thể sử dụng cnn vào trong âm thanh được đúng không đến cái bài mà âm thanh đây này
./data/e21dd0fd-06c3-4c6e-9d99-0958fa9a5587.wav	đây giả sử bây giờ có một cái bài toán phân loại à câu đi
./data/a7bc4852-5fc0-49cc-8cc9-88ba442d9e8f.wav	có ai đang làm bài toán gì mà thấy khó khăn về mô hình không chúng ta có thể trao đổi thêm
./data/fa6ab83a-00c9-4b03-bc06-a3b79dc3b6e4.wav	tất nhiên đây một cái paper khá tranh cãi
./data/6956571a-cdf0-4d4c-afea-3d153273c739.wav	cái pretrain này
./data/7789cd53-a14f-49b4-a8fd-a864a0c556ea.wav	được không ạ thay vì sử dụng cái pretrain kiểu như thế này masking như thế này
./data/a8deca85-7fac-420a-85b1-ba5a4af718a1.wav	đây các bạn chạy thử cái này đi
./data/f94b7e5b-b56f-4bb4-aedc-ddfc52c44bb0.wav	chỉ có giảm learning rate thôi ấy nhưng mà mình thì mình nghĩ ưu tiên là bây giờ các bạn nên dùng theo kiểu warm up này tốt hơn
./data/24bb9f97-2de9-4b8f-ba58-9063d88cab29.wav	ấy thì bọn mình sẽ công bố cái khóa học đấy ở trên cái trang này rồi các bạn muốn thiết kế những cái thư viện ai tự design các thứ
./data/e99b0ca6-41b5-460f-bd2b-a2aff7246aa6.wav	ấy thì như thế thì nó sẽ tốt hơn chứ nếu mà chúng ta thử những cái người ta đã thử rồi mà lại mất công
./data/edf0f92c-cc9f-4fe7-9687-ba802311bb07.wav	optimizer
./data/c2f1e298-b7d6-4af3-8a0b-61dc47430c6d.wav	cái mà nhỏ nhất phía trước chẳng hạn thì các bạn mới cập nhật
./data/2222da64-8e4d-4a65-80d2-ce5f33a0af10.wav	bây giờ cái model của mình nó không phải là sequential nữa mà nó rất phức tạp đây ví dụ bây mình bật cái model cho các bạn xem
./data/b8cf3afd-dbd7-4738-902b-dad5018ffae5.wav	cái layer đây người ta gọi là encoder này nó sẽ học được cái thông tin của tôi đi học
./data/b64d67a5-26df-4faa-85c8-6b91a408573b.wav	ở đây thì người ta cũng hiển thị lên cái dạng dữ liệu thôi
./data/be229a0e-7bee-4abe-94a9-1a80654003ac.wav	có ai có câu hỏi về phần này không
./data/af8e852f-d99f-482f-8f5c-58f55d9eb803.wav	nhiều những cái feature tổng hợp thông tin được tốt hơn thực ra các bạn có thể hiểu được đây là giống như các bạn chuyển miền vậy
./data/3ebc33ae-a9bd-4c1b-b3b9-3096caa71420.wav	ngồi với các bạn à gõ cả ba cái model tương đối là mất thời gian đúng không
./data/8d11d0e6-b81d-41e3-ab9c-c3c2b0db4218.wav	mà là giảng viên muốn xây dựng một cái khóa học như bọn mình tạo ra ở đây chẳng hạn
./data/586cac8d-8e44-438a-953d-b19ddff95791.wav	còn đâu nếu mà ai thích lập trình thì mình sử dụng một cái hàm lập trình bình thường thôi ấy rồi dùng một cái vòng for
./data/728d647e-a9f9-4a3a-8ce6-9c2edcfbf707.wav	cái gradient của cái loss trên cái tham số ấy thì các bạn chỉ cần viết một cái hàm là
./data/64d45200-10ed-4d68-8594-2559d48386b6.wav	đấy thì mình có những bài toán người ta đã làm như vậy rồi thì mình xem là à ok
./data/7fef03ef-7c8e-42d2-b5c4-cc57f43fef23.wav	đấy các bạn thấy cái l này là cái mà mình gọi là thấp nhất ở phía trước
./data/4573d919-9721-4826-bee2-70827062604d.wav	ấy cái này thì à cái cách code thôi ấy cho nên nếu các bạn gặp ai viết như này thì chúng ta cũng không có vấn đề gì
./data/d4ff483d-6133-4806-94bf-ad149610cab5.wav	ấy thì một kĩ thuật người ta gọi là early stopping ấy
./data/65f4adb7-2271-4ce8-92c7-44a0cb443853.wav	để mình verify mình kiểm tra xem là cái solution của mình nó có hiệu quả hay không
./data/eac089a4-3d77-490e-b026-7640345360f0.wav	thì tôi phải reset nó đi tôi phải tiếp tục khi mà nó cao hơn tôi phải chờ mười lần nữa
./data/c499b93e-af89-4f81-bfc6-913bf0135370.wav	ấy thì mình hiểu là mỗi một epoch mình có một cái model khác
./data/adb57101-8ee9-47e8-91c0-08799949506f.wav	đấy dưới những cái dạng mà ví dụ google họ có những cái a data type riêng họ định nghĩa ấy chúng ta sẽ build ra cái dạng đó
./data/fc2f5e53-21c7-4b02-8af3-430c4adad2e6.wav	đấy là câu chuyện khá thú vị khi mà tác giả của batch norm thì nói là đây là hiện tượng à
./data/7ce42ae9-0af8-4d76-be2d-640776e003fd.wav	tất nhiên thì mình có training nhiều model về nlp thì mình sẽ lắm được mô hình ảnh thì mình ít training cho nên là mình sẽ đi theo hướng về nlp nhiều hơn
./data/fd4251f1-7057-41e7-b32c-a2c024529ad9.wav	ví dụ mình masking tầm khoảng hai mươi phần trăm ở đây
./data/4d4b234f-c854-4276-a0ac-3637381104d1.wav	ờ không chỉ đơn thuần với là các bạn biết train một cái model đâu
./data/57f606ff-38aa-419b-9cb8-91b12578ee55.wav	đấy kiểu kiểu như vậy để làm một cái bộ data mà nó giống như kiểu data chính nhưng mà dùng để pretrain
./data/9d163128-00e1-45f8-9232-34b94bc9f718.wav	ây các bạn thấy đây cái công thức của nó này cái tốc độ học nó sẽ điều chỉnh theo cái a step hiện tại của mình
./data/a79ea00c-8210-43f1-a49d-a3fcaadfec1b.wav	tắt đi để tôi cố gắng là dự đoán là cái vị trí này sẽ chính là thích rồi tương tự

./data/abefb6ff-8911-412e-8c31-31e7871cd9e9.wav

cái việc phân loại ranh giới nó chỉ đủ như vậy thôi nhưng mà nếu các bạn train cái kiểu mà học cái dữ liệu hiện tại ấy

./data/3e2545b3-2e4c-47a5-a29c-0f6349b31b75.wav

các bạn thấy không đấy thì chúng ta sẽ có một cái a

./data/13a7f92d-7931-4119-b3b5-324280543d38.wav

đây fit model này

./data/b4387da0-e398-48a3-8c4b-51d0f446a8bf.wav

nhiều khi các bạn mà không có đến một lúc các bạn đọc bài báo ấy mà không có kĩ năng tốt ờ lập trình tốt ấy thì các bạn không thể lập trình

./data/28d45a06-6854-405e-9a37-46ae19239809.wav

ây mình đang nói đến cái ấy cái a gradient tape đây các bạn thấy này

./data/a1753446-ebae-4653-bc7b-f2639dfbb96c.wav

binary cross entropy này với cái bài toán mà phân loại nhị phân thì chúng ta dùng cái loss function như này

./data/9659b6f3-b3fb-4cbb-8c08-473d2082098a.wav

đây người ta hiển thị cái a loss đúng không

./data/dbcc02a2-78b4-4784-9f36-64d9d97e93e8.wav

ấy thì đây là một cái kĩ thuật như vậy lát nữa mình sẽ show cho các bạn một cái hình mà bây giờ những cái model nó hay dùng

./data/f46574db-9663-4f13-98eb-5c89290e1124.wav

kiểu masking thôi đúng không nó vẫn học những câu này tuy nhiên nó học để là hiểu được cái chủ đề này

./data/a8344466-39a9-43ca-8c8c-a072cf88b850.wav

đúng không ạ

./data/734f07f8-38a1-4423-901d-a1b073ffffeb.wav

ấy thì cái hàm relu có một cái là cái đạo hàm ở cái vị trí ấy bằng không à không tồn tại thì đúng hơn

./data/a97175f2-a25f-4b07-9bcf-c624b1013c36.wav

đây chúng ta định nghĩa một cái mạng à trong trường hợp này sẽ là gì

./data/484f9bb7-8ad3-4cfa-aa65-fc856e7e2885.wav

cái đấy mình thấy khá là đúng thường những cái người researcher nổi tiếng ấy

./data/d5e4babb-deac-4e5c-a14d-b7b6cfa149b3.wav

có nghĩa là các bạn dùng rất nhiều mô hình kết hợp vào nhau đấy

./data/4ea6b4e9-123f-4c62-85d3-69996bf2780f.wav

nói chung cái này nó liên quan rất nhiều đến kĩ năng về kĩ sư để building một cái a system lên như thế nào

./data/8b85d9d2-5309-4900-b61e-0dc6dfe03932.wav

thứ nhất là bán giám sát đấy

./data/626f0a8c-25c3-41ba-aa49-18ae4f29eb39.wav

ấy còn đâu không không thể dám chắc được không thể nói là à nó học được cái gì cái đấy thì chúng ta không biết

./data/f4d716ff-82f9-447e-874e-d86107d6c507.wav

ấy rồi các bạn sẽ hình thành lên một cái khoảng mà các bạn nắm được là nên ở trong khoảng nào

./data/8ca6807e-08cf-4269-b86e-5db5ff5a4b8d.wav

sử dụng cái hệ thống này một lúc đấy ví dụ như kiểu là năm ngàn người hoặc sáu ngàn người dùng một lúc

./data/47e369e1-da14-47fe-9292-6e73ce35534e.wav

ấy dừng lại thì chúng ta sẽ đỗ được đúng cái điểm đó chứ nếu các bạn đi nhanh quá thì có thể vượt qua

./data/8f6fa947-e502-45d9-a4c3-5c0c66bc9b50.wav

đấy ấy thì một cái âm thanh thì nó có vài thứ thứ nhất là cái thời gian

./data/ef8ba5ec-b7b5-43e6-9462-c1bd8fa366a9.wav

đấy sau đó người ta bắt đầu giảm dần ấy đúng không ạ

./data/03d5d7ae-c8e8-44fc-beb6-2c6f283cb482.wav

ấy thì đây là một cái mà trong thực tế có thể các bạn sẽ phải vướng phải

./data/caa26201-8863-4cdd-8824-884d4920817d.wav

rồi tập validation này đấy và truyền callback các bạn thấy không

./data/17e4edda-89d0-4462-8635-b14b18d765c1.wav

ấy thì mình à làm cái pretrain giống giống như thế này đây là data chính nhá

./data/b80b45fd-2e54-4ad2-be40-6c97a4ae04d1.wav

chứ nó sẽ không tự động à làm cho mình

./data/320c83ef-4363-4fc4-9170-b988793979db.wav

train step

./data/e482b0a6-179f-4e19-a510-a9ff8b3f7352.wav

hoặc là dùng folder cũng được folder thì hơi cực thì các bạn lại phải à

./data/6a47f6b5-9568-4ad1-8c49-c7f54e0def96.wav

nên thì khi đó ta dùng cái mô hình ấy ta đi dành cho cái task của mình nó sẽ tốt hơn

./data/2389dc47-f229-409f-80ba-2d817884397f.wav

đấy nên thường ấy khi mình nảy ra ý tưởng này ý thì mình hay research

./data/30c5a8eb-baab-4007-9551-9243ddb9bdac.wav

ấy có nghĩa thay vì các bạn sử dụng à một cái layer mà các bạn sử dụng hai layer

./data/57e2971a-573b-4e90-8dbf-a3858d634723.wav

ấy thì đây các bạn thấy này người ta sẽ bắt đầu với một cái mô hình rất là đơn giản gọi là tiny model thôi

./data/d533dae4-420e-4dfb-9825-e8a84e63d20e.wav

có nghĩa người ta ví dụ mình train một cái a cái task để học được xác suất của dữ liệu trước

./data/811af4fc-24ed-4881-a752-c93543600d56.wav

rồi ranking nữa một cái mô hình nó train mấy cái task liền

./data/7df82c79-410a-46fd-ac40-7514b54f7f06.wav

được không ví dụ à kết thúc một epoch tôi phải kiểm tra xem là độ chính xác của tôi là thế nào rồi

./data/4e27bcfe-b0aa-49f2-8ae8-994d700974c3.wav

ấy thì các bạn thấy người ta in ra này người ta in a

./data/3becf6a4-4074-4cec-a0d9-2b8348034060.wav

đấy lập trình à thuật toán lập trình leetcode

./data/0afaa464-8f92-468a-9da6-00800470c6fc.wav

ấy thì mình có thể áp dụng được những cái ý tưởng của ảnh ở trong đấy

./data/1eab450c-ceef-48ae-a56c-73c3079edace.wav

pretrain trước để học được chủ đề đang nói đến

./data/68a3ffa2-96f1-4485-b15f-64adcddbd887.wav

đúng không chỗ này từ à bốn mươi chín phần trăm lên tận một luôn

./data/c98bbad0-61ae-4d18-9c40-4371de18c87e.wav

ở đây người ta chia thành có ba từ đi hoặc là ba cụm từ đi cụm từ đạo hàm cụm từ là và cụm từ gì

./data/9df30222-1baf-4966-80b1-a31edf04096c.wav

anh em train được chưa sao có ba người train được thế này

./data/c0b75f99-746f-408b-8c2e-c42a4a19d609.wav

những cái này các bạn đã khá là quen rồi sau đó chúng ta phi tuyến nó đi

./data/69e55829-05d7-4b2b-8206-0fde283a8598.wav

ấy mặc dù ở trên cái tập train thì vẫn đang giảm

./data/daba644b-8e66-40dd-b60a-6ea56ee3458e.wav

ở đây thì mình chạy ít epoch cho nên nó có thể là chưa thấy được

./data/708ebfda-e6ce-46a5-ba36-97d78db485b3.wav

đây các bạn tạo ra một cái vòng lặp này

./data/f8c3c0fb-c46f-43b2-9e08-c33f461b6389.wav

tại vì mình là người lập trình cho nên là mình cứ thấy ai feedback là mình sẽ sửa ngay ấy thì đây là cái đầu tiên

./data/ab71546b-b1a5-4538-ba36-f354c3ead4d6.wav

có nghĩa bây giờ em coi cái a hàm loss ấy

./data/b3973e7a-83d6-498a-bb5f-07be2e038c1f.wav

với cái mô hình lớn nhất như thế này các bạn thấy này các bạn thấy không

./data/b16cf390-d47f-471d-bc39-7f76fb76dfee.wav

nếu sử dụng gan là tăng số lượng dữ liệu lên

./data/1118e978-4e4a-459a-a037-c58289841347.wav

đấy à tôi thấy là cái pretrain này chưa tốt bây giờ mình pretrain theo một cách khác đi

./data/2d8a1ce2-7b59-4e80-aeb0-1a2543117c31.wav

đây trong khi training mạng nơ ron nó hay bị a qua những cái lớp này ý

./data/6d58df04-0dd1-4e88-b288-09d391d2c1db.wav

nhìn nó đang ở bản alpha thôi có nghĩa mới gửi cho những người thân quen thôi

./data/6dbede35-7db7-4581-be59-abb3f512ac00.wav

một cái mạng nơ ron có mười sáu nốt trong một cái lớp ẩn duy nhất

./data/71b7f2ea-3117-494c-9b2f-e46cf0840c4f.wav

ấy mà bây giờ mình cũng đang dùng rất nhiều cái này trong thực tế

./data/42554e5d-bacb-4752-9608-2ddad0e6a355.wav

ấy cái thằng tiny với cái thằng a small thì tốt nó vẫn xuống cùng nhau

./data/57751d19-eaa3-4543-abaf-c27cfebb5a81.wav

thì cần rất nhiều ai model bên trong đấy ví dụ đầu tiên sẽ là ai model để đọc được video

./data/6ca41c1d-d6cc-478c-beb2-cde2b7bee370.wav

không tính toán nữa mà nó sẽ chỉ tính toán ở trên những cái nốt mà nó lựa chọn mà thôi

./data/ee2055ac-a4c1-4e3b-ac44-14c5ec5cfeb0.wav

ấy tuy nhiên đến gần đây các bạn thấy bắt đầu là không có nhiều cải tiến thêm rồi đúng không

./data/5bdfe754-e3cb-4456-9469-6e1362ba3997.wav

giờ mình thêm một a vài epoch nữa xem nào

./data/e8598a09-e927-4d0c-9a39-fab0d09cecfa.wav

check point là cái gì có nghĩa là mỗi một lần các bạn train ý các bạn sẽ lưu lại cái model ở thời điểm đấy thôi

./data/66933463-fd9e-4a6a-a1ad-b793c98acfb9.wav

về cái chủ đề đấy thì khi em phân loại em sẽ tốt hơn ví dụ bây giờ cái chủ đề của em liên quan đến

./data/9ba5ed66-eea4-4b2d-bd8d-aae34a7b2750.wav

chúng ta không nên gọi là đi vào xong mang một cái mô hình to đùng ra xong rồi train xong đợi vài ngày

./data/a546971a-f756-4607-a6ce-42da4f183a11.wav

tất nhiên là mình muốn làm nhanh thì mình dùng tên này thôi mình không muốn dùng tool

./data/cd0eb7a3-5a7c-4f92-9160-bb15b0867a8e.wav

ví dụ mình hoàn toàn có thể sử dụng cnn vào trong âm thanh được đúng không đến cái bài mà âm thanh đây này

./data/e21dd0fd-06c3-4c6e-9d99-0958fa9a5587.wav

đây giả sử bây giờ có một cái bài toán phân loại à câu đi

./data/a7bc4852-5fc0-49cc-8cc9-88ba442d9e8f.wav

có ai đang làm bài toán gì mà thấy khó khăn về mô hình không chúng ta có thể trao đổi thêm

./data/fa6ab83a-00c9-4b03-bc06-a3b79dc3b6e4.wav

tất nhiên đây một cái paper khá tranh cãi

./data/6956571a-cdf0-4d4c-afea-3d153273c739.wav

cái pretrain này

./data/7789cd53-a14f-49b4-a8fd-a864a0c556ea.wav

được không ạ thay vì sử dụng cái pretrain kiểu như thế này masking như thế này

./data/a8deca85-7fac-420a-85b1-ba5a4af718a1.wav

đây các bạn chạy thử cái này đi

./data/f94b7e5b-b56f-4bb4-aedc-ddfc52c44bb0.wav

chỉ có giảm learning rate thôi ấy nhưng mà mình thì mình nghĩ ưu tiên là bây giờ các bạn nên dùng theo kiểu warm up này tốt hơn

./data/24bb9f97-2de9-4b8f-ba58-9063d88cab29.wav

ấy thì bọn mình sẽ công bố cái khóa học đấy ở trên cái trang này rồi các bạn muốn thiết kế những cái thư viện ai tự design các thứ

./data/e99b0ca6-41b5-460f-bd2b-a2aff7246aa6.wav

ấy thì như thế thì nó sẽ tốt hơn chứ nếu mà chúng ta thử những cái người ta đã thử rồi mà lại mất công

./data/edf0f92c-cc9f-4fe7-9687-ba802311bb07.wav

optimizer

./data/c2f1e298-b7d6-4af3-8a0b-61dc47430c6d.wav

cái mà nhỏ nhất phía trước chẳng hạn thì các bạn mới cập nhật

./data/2222da64-8e4d-4a65-80d2-ce5f33a0af10.wav

bây giờ cái model của mình nó không phải là sequential nữa mà nó rất phức tạp đây ví dụ bây mình bật cái model cho các bạn xem

./data/b8cf3afd-dbd7-4738-902b-dad5018ffae5.wav

cái layer đây người ta gọi là encoder này nó sẽ học được cái thông tin của tôi đi học

./data/b64d67a5-26df-4faa-85c8-6b91a408573b.wav

ở đây thì người ta cũng hiển thị lên cái dạng dữ liệu thôi

./data/be229a0e-7bee-4abe-94a9-1a80654003ac.wav

có ai có câu hỏi về phần này không

./data/af8e852f-d99f-482f-8f5c-58f55d9eb803.wav

nhiều những cái feature tổng hợp thông tin được tốt hơn thực ra các bạn có thể hiểu được đây là giống như các bạn chuyển miền vậy

./data/3ebc33ae-a9bd-4c1b-b3b9-3096caa71420.wav

ngồi với các bạn à gõ cả ba cái model tương đối là mất thời gian đúng không

./data/8d11d0e6-b81d-41e3-ab9c-c3c2b0db4218.wav

mà là giảng viên muốn xây dựng một cái khóa học như bọn mình tạo ra ở đây chẳng hạn

./data/586cac8d-8e44-438a-953d-b19ddff95791.wav

còn đâu nếu mà ai thích lập trình thì mình sử dụng một cái hàm lập trình bình thường thôi ấy rồi dùng một cái vòng for

./data/728d647e-a9f9-4a3a-8ce6-9c2edcfbf707.wav

cái gradient của cái loss trên cái tham số ấy thì các bạn chỉ cần viết một cái hàm là

./data/64d45200-10ed-4d68-8594-2559d48386b6.wav

đấy thì mình có những bài toán người ta đã làm như vậy rồi thì mình xem là à ok

./data/7fef03ef-7c8e-42d2-b5c4-cc57f43fef23.wav

đấy các bạn thấy cái l này là cái mà mình gọi là thấp nhất ở phía trước

./data/4573d919-9721-4826-bee2-70827062604d.wav

ấy cái này thì à cái cách code thôi ấy cho nên nếu các bạn gặp ai viết như này thì chúng ta cũng không có vấn đề gì

./data/d4ff483d-6133-4806-94bf-ad149610cab5.wav

ấy thì một kĩ thuật người ta gọi là early stopping ấy

./data/65f4adb7-2271-4ce8-92c7-44a0cb443853.wav

để mình verify mình kiểm tra xem là cái solution của mình nó có hiệu quả hay không

./data/eac089a4-3d77-490e-b026-7640345360f0.wav

thì tôi phải reset nó đi tôi phải tiếp tục khi mà nó cao hơn tôi phải chờ mười lần nữa

./data/c499b93e-af89-4f81-bfc6-913bf0135370.wav

ấy thì mình hiểu là mỗi một epoch mình có một cái model khác

./data/adb57101-8ee9-47e8-91c0-08799949506f.wav

đấy dưới những cái dạng mà ví dụ google họ có những cái a data type riêng họ định nghĩa ấy chúng ta sẽ build ra cái dạng đó

./data/fc2f5e53-21c7-4b02-8af3-430c4adad2e6.wav

đấy là câu chuyện khá thú vị khi mà tác giả của batch norm thì nói là đây là hiện tượng à

./data/7ce42ae9-0af8-4d76-be2d-640776e003fd.wav

tất nhiên thì mình có training nhiều model về nlp thì mình sẽ lắm được mô hình ảnh thì mình ít training cho nên là mình sẽ đi theo hướng về nlp nhiều hơn

./data/fd4251f1-7057-41e7-b32c-a2c024529ad9.wav

ví dụ mình masking tầm khoảng hai mươi phần trăm ở đây

./data/4d4b234f-c854-4276-a0ac-3637381104d1.wav

ờ không chỉ đơn thuần với là các bạn biết train một cái model đâu

./data/57f606ff-38aa-419b-9cb8-91b12578ee55.wav

đấy kiểu kiểu như vậy để làm một cái bộ data mà nó giống như kiểu data chính nhưng mà dùng để pretrain

./data/9d163128-00e1-45f8-9232-34b94bc9f718.wav

ây các bạn thấy đây cái công thức của nó này cái tốc độ học nó sẽ điều chỉnh theo cái a step hiện tại của mình

./data/a79ea00c-8210-43f1-a49d-a3fcaadfec1b.wav

tắt đi để tôi cố gắng là dự đoán là cái vị trí này sẽ chính là thích rồi tương tự