Lợi ích của học viên
Mục tiêu khóa học
- Cung cấp cho người học kiến thức tổng quan về Xử lý ngôn ngữ tự nhiên (NLP), Deep Learning và các mô hình Deep Learning ứng dụng cho NLP. Tìm hiểu các ứng dụng thực tiễn của NLP hiện nay và hiểu được giá trị của NLP mang lại đối với sự phát triển của xu hướng công nghệ trong tương lai
- Khám phá và nghiên cứu nguyên lý hoạt động sâu bên trong của các mô hình Deep Learning từ đó hiểu được cách ứng dụng Deep Learning vào các bài toán xử lý ngôn ngữ tự nhiên nói chung và cho tiếng việt nói riêng trên bộ dữ liệu thực tế
- Làm quen và thành thạo các công cụ xử lý dữ liệu dạng text và framework Pytorch (Python) để giải quyết các tác vụ của 1 bài toán NLP
- Ứng dụng được các mô hình state-of-art của Deep Learning hiện nay cho NLP như Word2vec, Glove, Transformers, BERT, GPT, T5, FastText, ELMo, ... cho các bài toán xử lý ngôn ngữ Tiếng Anh và Tiếng Việt
- Nắm được quy trình xây dựng một sản phẩm NLP đầy đủ các bước từ tiền xử lý dữ liệu, gán nhãn, mô hình hóa dữ liệu, huấn luyện, diễn giải và tinh chỉnh kết quả mô hình, ...
- Tự xây dựng một số sản phẩm NLP đang là xu hướng công nghệ hiện nay như chatbot, dịch máy, hệ thống hỏi đáp, tóm tắt văn bản, tạo văn bản mới, xác định ý định người dùng qua các đánh giá, ...
Dự án của học viên
Thông tin giảng viên
Chuyên gia Nguyễn Xuân Nhật
- Leader AI tại FPT Software. Phó kiến trúc sư kỹ thuật. Nhà khoa học ứng dụng. Back-End Developer.
Nguyễn Văn Toàn
Chuyên gia Bùi Anh Tuấn
AI Engineer, tại trung tâm CNTT - Ngân hàng Bảo Việt
Thông tin lộ trình học
1.1. Giới thiệu khóa học
1.2. NLP là gì?
1.3. Lịch sử NLP
1.4. Giới thiệu các cách biểu diễn vector trong quá khứ
1.5. Word2vec
1.6. Xây dựng Word2vec tiếng việt
2.1. giới thiệu Negative Sampling
2.2. giới thiệu Co-occurrence matrix
2.3 giới thiệu Glove
3.1. Name Entity Recognition
3.2. Matrix Calculus
4.1. Two views of linguistic structure: Context-free grammar and Dependency grammar
4.2. Dependencies Treebanks
4.3 Dependency Parsing Methods
4.4 Neural Dependency Parsing
5.1. Tree + NN
5.2. Multiple W + Tree + RNN
5.3. Matrix-Vector + Tree + RNN
5.4 Tensor + Tree + RNN
6.1. Language Modeling
6.2. Recurrent Neural Networks
7.1. Vanishing Gradients
7.2. Long Short-Term Memory
7.3. Bidirectionality and Multi-Layer RNNs
8.1. Pre-Neural Machine Translation
8.2. Neural Machine Translation
8.3 NMT with Attention
9.1. Limitations of RNNs
9.2. Transformers
9.3. Transformers Limitations
10.1. Pretraining
10.2. Pretraining - decoders
10.3. Pretraining - encoders
10.4. Pretraining - encoder-decoder
10.5. Very large models and in-context learning
10.6. Finetuning
11.1. Pure character level model
11.2. Hybrid model
11.3. Subword-based models
11.4. FastText
11.5. ELMo
12.1. Giới thiệu Natural Language Generation
12.2. Text Summarization
12.3. Evaluation
13.1. Giới thiệu Question-Answering
13.2. Giới thiệu Reading Comprehension
13.3. Open-domain (textual) question-answering
14.1. Analyze by input
14.2. Analyze by output
14.3. Analyze by noise
14.4. Analyze by looking at inside the network
15.1. Motivation
15.2. Knowledge Integration Techniques
15.3. Evaluating knowledge in LMs
16.1. Intent Detection
16.2. Text Summarization
17.1. Evolution of NLP (or AI in general)
17.2. Main limitations
17.3. Multitask Learning
18.1. Meta Learning
18.2 Meta Learning Approaches
19.1.Workshop 1
19.2. Workshop 2
20.1.1 Final project
Cảm nhận của học viên
Câu hỏi thường gặp
Bạn đang học hoặc đã đăng ký một khóa học mà muốn đổi sang khóa khác thì phí đổi là 500,000/ lần đổi
Khi bạn đăng ký tham gia chương trình học, bạn sẽ được bảo lưu khóa học nếu chưa có thời gian học
Giảng viên, các trợ giảng sẽ hỗ trợ sau giờ học. Các khóa sẽ có cộng đồng trên Facebook và Zalo để hỗ trợ lẫn nhau.
Mỗi buổi học online sẽ được record lại và gửi lại cho học viên theo quy định của lớp
Khóa học dành cho mọi trình độ, dạy từ cơ bản đến nâng cao. Tuy nhiên, dù ở trình độ nào khóa học yêu cầu nỗ lực và kiên trì nhất định của học viên. Hãy chắc chắn bạn có đủ tinh thần để theo khóa học nhé!
