Series Masterclass Agent: Agent engineer & AgentOps

Thời lượng

20 buổi

Hình thức đào tạo

Online

Học phí

Liên hệ

Tổng quan

LLM ngày càng mạnh, việc xây AI Agent cũng dễ tiếp cận hơn. Nhưng một Agent chạy được chưa có nghĩa là đã sẵn sàng đưa vào production.
Khi bắt tay vào bài toán thật, Agent không chỉ cần LLM reasoning mà còn phải biết lập kế hoạch, gọi tools, truy xuất dữ liệu, duy trì context & memory, phối hợp giữa các Agent. Chỉ cần một mắt xích không ổn định, Agent có thể trả sai, gọi nhầm tool, truy xuất thiếu hoặc sai dữ liệu, khó kiểm soát hành vi.
Đưa Agent lên môi trường thực tế lại là một bài toán khác: triển khai thế nào, theo dõi ra sao, đánh giá chất lượng bằng gì, kiểm soát chi phí và độ trễ thế nào, xử lý task dài hoặc sự cố khi hệ thống đang chạy ra sao? Series Masterclass Agent được thiết kế để giải quyết khoảng cách đó — đi từ xây dựng một AI Agent bài bản đến đưa Agent vào sử dụng và vận hành trong thực tế.
🎯 SERIES GỒM 02 MASTERCLASS:
01. Agent Engineering:
Tập trung vào cách xây dựng một Agent có khả năng reasoning, sử dụng công cụ, làm việc với dữ liệu, ghi nhớ thông tin và phối hợp nhiều Agent. Trong suốt khóa học, một Agent sẽ được xây dựng và hoàn thiện qua từng buổi, từ Agent Loop, Context, Tools, MCP, Memory, Retrieval, Multi-Agent đến Evaluation, Security và Agent API. 02. AgentOps:
Tập trung vào bài toán đưa Agent từ môi trường thử nghiệm lên hệ thống thực tế: API, Docker, Cloud Deployment, CI/CD, Observability, Continuous Evaluation, Cost & Latency Optimization, Durable Execution và xử lý sự cố khi vận hành.
📌 THÔNG TIN CHI TIẾT
• Khai giảng: Thứ 4 — 07.10.2026
• Thời gian: 20:00 – 22:00 (Thứ 4 & Thứ 6 hàng tuần)
• Hình thức: Online qua Zoom (có record)
• Quyền lợi: Notebook, source code, evaluation template, deployment template, recording và certificate cuối khóa
• Học bổng: Hoàn 50% học phí cho Top 3 Final Project

Lợi ích khóa học

Hỗ trợ tài nguyên toàn diện

Được cung cấp đầy đủ slide bài giảng, notebook thực hành, source code toàn bộ pipeline, setup lab

Đồng hành cùng giảng viên và record

Được hỗ trợ giải đáp trong suốt chương trình, có recording đầy đủ các buổi học để xem lại.

Chứng nhận & Học bổng

Nhận chứng nhận hoàn thành khóa học và cơ hội được hoàn 50% học phí cho Top 3 Final Project xuất sắc nhất.

Mục tiêu học tập

Masterclass Agent Engineering: Build Modern, Secure and Reliable AI Agents
Khóa học hướng dẫn xây dựng một AI agent hiện đại có khả năng lập kế hoạch, sử dụng công cụ, truy xuất tri thức, duy trì ngữ cảnh, phối hợp với agent khác và kiểm chứng kết quả.
Học viên tiếp cận các building block quan trọng trong agent harness của những sản phẩm như Claude Code, ChatGPT và Cursor: agent loop, context, memory, Skills, tools, MCP, human-in-the-loop, guardrails, persistence, observability và evaluation. Kiến trúc có thể áp dụng cho nhiều sản phẩm như Customer Support, Sales, Research, Data Analytics, Operations hoặc Coding Agent.
Bên cạnh việc xây agent, khóa học tập trung vào những thách thức thường gặp trong thực tế: đánh giá chất lượng agent, cải thiện kết quả và chất lượng truy vấn, bảo vệ dữ liệu, kiểm soát tool, duy trì độ tin cậy và phục vụ nhiều người dùng trên cùng hệ thống.
Masterclass AgentOps: Deploy, Operate and Continuously Improve AI Agents
Khóa học hướng dẫn đưa một AI agent từ môi trường phát triển lên thành sản phẩm có thể triển khai, theo dõi và cải thiện liên tục trên môi trường thực tế.
Học viên thực hành toàn bộ vòng đời AgentOps: chuẩn hóa project, cung cấp agent qua API, đóng gói bằng Docker, triển khai lên cloud, tự động hóa CI/CD, xây dựng observability và continuous evaluation, tối ưu cost/latency, vận hành tác vụ dài và ứng phó sự cố production.
Khóa học tập trung vào những khó khăn xuất hiện khi vận hành agent: môi trường không đồng nhất, thay đổi khó kiểm soát, thiếu dữ liệu để điều tra lỗi, khó đánh giá và duy trì chất lượng, chi phí tăng, latency cao và tác vụ dài bị gián đoạn. Hệ thống được thiết kế để phục vụ nhiều người dùng và có thể theo dõi chất lượng, hiệu năng, mức sử dụng theo từng nhóm.

Lộ trình học tập 

Theory
- Nền tảng LLM cho agent: reasoning model và tool calling.
- Các cấp độ từ workflow đến agent và cách lựa chọn phù hợp với từng nhiệm vụ.
- Agent = Model + Harness và các thành phần tạo nên một agent hiện đại.
- Cách những agent như Claude Code, ChatGPT và Cursor tổ chức context, tools, memory và execution environment.
Lab:
Khám phá một agent harness có sẵn, quan sát toàn bộ quá trình agent thực hiện task và thảo luận định hướng xây dựng Agent cùng học viên.
Theory
- Các thành phần nền tảng của LangGraph và cách tổ chức agent workflow.
- Agent loop: Observe → Think → Act → Verify.
- Kỹ thuật đảm bảo agent bền bỉ: quản lý state, checkpoint, middleware, human approval, retry, resume và streaming.
- Kiểm soát vòng lặp để agent không chạy vô hạn, dừng quá sớm hoặc lặp lại hành động.
Lab:
Xây agent đầu tiên bằng LangChain và LangGraph; bổ sung agent loop có state, persistence, streaming và human-in-the-loop.
Theory
- Function calling và cách agent lựa chọn, gọi và sử dụng kết quả từ tool.
- Nguyên tắc thiết kế tool rõ ràng, ổn định, dễ kiểm thử và phục hồi khi lỗi.
- Database, SQL, RAG, API và sandbox tools.
- MCP host, client, server; tools, resources và capability discovery.
- Least Privilege Design, authentication, authorization, retry và audit cho tool/MCP.
Lab:
Hoàn thiện read-only database tool từ starter code, cung cấp qua một remote MCP server có authentication cơ bản và kết nối từ các MCP-compatible agents/hosts được cấp quyền.
Theory
- Các thành phần tạo nên context của một agent.
- Những kỹ thuật quản lý và tối ưu context cho tác vụ dài hoặc phức tạp.
- Xây dựng prompts, Skills, short-term memory và long-term memory.
- Filesystem và artifacts như không gian làm việc bền vững của agent.
- Thiết kế context, session và memory an toàn cho nhiều người dùng.
Lab:
Xây context pipeline, một Skill và memory cho agent; bảo đảm context và dữ liệu của từng người dùng được tách biệt.
Theory
- Kiến trúc RAG và vai trò của retrieval tool trong agent loop.
- Kiến thức nền tảng về embeddings, vector database, indexing, metadata và filtering.
- Các chiến lược retrieval nâng cao và cách cải thiện chất lượng truy vấn.
- Đánh giá relevance, nguồn tham chiếu, data freshness và cách xử lý khi dữ liệu truy xuất chưa đủ để trả lời đáng tin cậy.
- Thiết kế knowledge base phục vụ nhiều người dùng mà không làm lộ dữ liệu.
Lab:
Xây retrieval tool bằng Qdrant trên knowledge base mẫu, tích hợp vào agent loop, bổ sung data access filter và source metadata để agent trả lời có trích dẫn.
Theory
- Khi nào nên dùng một agent với Skills hoặc nhiều specialist agents.
- Các pattern nền tảng: subagent-as-tool/supervisor, handoff và router.
- Agent delegation với các subagents chạy độc lập và bất đồng bộ.
- Cách truyền task, context, kết quả và bằng chứng giữa các agent.
- Kiểm soát chi phí phối hợp, parallel execution, timeout, lỗi từng phần và kết quả xung đột.
Lab:
Thực hành với Deep Agents của LangChain: xây executor–advisor và một Research Agent Team có các subagents phối hợp song song.
Theory
- Vì sao đánh giá agent khó hơn đánh giá một câu trả lời của LLM.
- Theo dõi quá trình agent sử dụng model, retrieval và tools.
- Xây eval dataset từ yêu cầu sản phẩm và các failure case thực tế.
- Đánh giá end-to-end, trajectory, tool use và retrieval quality.
- Kết hợp code evaluator, LLM-as-a-judge và human review để cải thiện agent.
Lab:
Instrument agent bằng Langfuse, xây eval set và chạy experiment; tạo regression cases cho agent.
Theory
- Guardrails và cách xử lý yêu cầu không thuộc phạm vi.
- Prompt Injection, Jailbreak Defense, poisoned context, data leakage và PII protection.
- Authentication, authorization và tách dữ liệu giữa nhiều người dùng.
- Secure tool/MCP access, credential management, sandbox và human approval.
- Audit trail và cách kiểm thử các security controls của agent.
Lab:
Thực hiện Attack & Defend AI Agents; bổ sung guardrails, access controls và security tests vào agent xuyên khóa.
Theory
- FastAPI fundamentals và cách đưa agent thành một web service.
- Server-Sent Events (SSE) để truyền tiến độ, tool activity và kết quả về giao diện người dùng.
- Request/response schema, session, authentication và data isolation cho nhiều người dùng.
- Error handling và health check cơ bản cho API.
Lab:
Xây FastAPI service, kết nối starter UI qua SSE và hiển thị tiến độ, tool activity cùng kết quả của agent.
Theory
- Lựa chọn kiến trúc và building block phù hợp với từng use case.
- Review chất lượng, độ an toàn, giới hạn sản phẩm và hướng mở rộng.
- Chuẩn bị agent cho các bước triển khai và vận hành tiếp theo.
Lab:
Hoàn thiện và demo một agent tự chọn; xử lý một failure scenario, trình bày evaluation results và bàn giao architecture document cùng improvement backlog.
Theory
- Vòng đời một sản phẩm agent từ development đến production.
- Sự khác biệt giữa MLOps và AgentOps.
- Cấu trúc project, dependency management và cấu hình môi trường.
- Git/GitHub workflow và cách quản lý các phiên bản release.
- Versioning cho code và các thành phần quan trọng của agent.
Lab:
Chuẩn hóa agent project thành repository có cấu trúc, cấu hình theo môi trường và phiên bản baseline có thể tái lập.
Theory
- Ôn tập agent harness ở mức cần thiết cho vận hành.
- Xây dựng Agent API bằng FastAPI.
- SSE streaming để truyền tiến độ, tool activity và kết quả về giao diện người dùng.
- User/session metadata, data isolation, error handling, health check và application logs cơ bản.
Lab:
Đưa starter agent thành FastAPI service, kết nối giao diện qua SSE và bổ sung health check cùng logs cơ bản.
Theory
- Image, container, registry và container lifecycle.
- Dockerfile, build cache, dependency pinning và tối ưu image.
- Environment variables, secrets, networking và persistent data.
- Health check, graceful shutdown và tính nhất quán giữa local–production.
Lab:
Đóng gói Agent API bằng Docker và chạy toàn bộ agent cùng các dependencies qua Docker Compose.
Theory
- Kiến trúc cloud cơ bản cho Agent API và các dịch vụ liên quan.
- Cấu hình runtime, secrets, identity và access control.
- Scaling, logs, persistent data, quản lý phiên bản triển khai, rollback và kiểm soát chi phí.
Lab:
Triển khai containerized Agent API lên Google Cloud Run, cấu hình các thành phần cần thiết và có thể truy cập qua URL công khai.
Theory
- Continuous Integration, Continuous Delivery và release workflow.
- Cách GitHub Actions tự động kiểm tra, đóng gói và triển khai ứng dụng.
- Unit test và kiểm thử tự động cho code, Agent API cùng các hành vi quan trọng của agent.
- Quản lý phiên bản triển khai, môi trường release và rollback.
Lab:
Xây CI/CD workflow để tự động kiểm tra và triển khai một phiên bản Agent API từ repository lên môi trường cloud
Theory
- Logs, metrics và traces trong một agent system.
- Structured logging và correlation giữa API logs với agent traces.
- Langfuse tracing cho agent execution, quality, cost và latency. - OpenTelemetry và Grafana cho application/service monitoring.
- Dashboard, alert và quy trình điều tra một request lỗi.
Lab:
Instrument Agent API bằng Langfuse và OpenTelemetry; hoàn thiện dashboard từ template và truy ngược một request lỗi từ service log đến agent trace.
Theory
- AI Engineering Loop và vòng đời cải thiện chất lượng agent.
- Offline evaluation trước release và online evaluation trên production traces.
- Xây regression dataset từ feedback và failure cases. - Code evaluator, LLM-as-a-judge, human review và quality gate. - So sánh thay đổi với baseline trước khi release. Lab:
Tạo regression dataset nhỏ trên Langfuse, chạy experiment so sánh baseline/candidate và đưa một quality gate vào release workflow.
Theory
- Đo cost, token usage và latency theo model, feature, user và release.
- Phân tích bottleneck trong model, context, tools và agent loop.
- Tối ưu ở application layer: lựa chọn model, quản lý context, caching, tool calls và parallel execution.
- Kong Gateway/Kong AI Gateway cho routing, load balancing, rate limiting và kiểm soát usage.
- Cân bằng cost, latency và quality khi phục vụ nhiều người dùng.
Lab:
Dùng Langfuse xác định một bottleneck, tối ưu agent ở application layer, áp dụng cấu hình Kong phù hợp và so sánh cost, latency, quality trước–sau.
Theory
- Khi nào agent cần chạy nền thay vì phụ thuộc vào kết nối với người dùng.
- Kiến trúc Agent API, message queue, worker, state và checkpoint.
- Task lifecycle, progress tracking, retry và error recovery.
- Cancel, resume, idempotency và xử lý nhiều tác vụ đồng thời.
Lab:
Nâng cấp Agent API thành queue/worker workflow bằng RabbitMQ, Celery và Docker Compose; gửi task, theo dõi tiến độ và phục hồi tác vụ khi worker bị gián đoạn.
Theory
- Production readiness và release checklist.
- Release approval, rollback và xác minh sau triển khai.
- Incident response và cải thiện sau sự cố.
- Operations ownership và production runbook.
Lab:
Triển khai phiên bản agent cuối, xử lý một failure scenario bằng logs, traces và eval results; phục hồi hệ thống và hoàn thiện production runbook.

Giảng viên

Principal AI Engineer

• Principal AI Engineer tại Backbase – phát triển sản phẩm Conversational Banking, tích hợp LLMs vào hệ thống tài chính.
• Senior Lead Data Engineer tại Zalo Adtima – thiết kế hệ thống quảng cáo real-time & A/B testing framework.
• Machine Learning Engineer tại Momo eWallet – xây dựng recommendation system, search engine & notification system cho hàng triệu người dùng.
• Machine Learning Engineer & R&D Lead tại Mimosa Technology – triển khai AI trong nông nghiệp chính xác (dự báo, computer vision UAV).
• Thành thạo MLOps, LLMs, Deep Learning pipelines, Kubernetes, Cloud (AWS, GCP, Azure).
• Giàu kinh nghiệm mentoring & đào tạo kỹ sư AI, ứng dụng đa lĩnh vực: tài chính, thương mại điện tử, nông nghiệp.

Xem thêm

Senior AI Engineer

• Senior AI Engineer tại KiotViet – phát triển hệ thống Agentic SaaS và các dịch vụ Personalized AI cho dữ liệu âm thanh, hình ảnh và tabular.
• AI Engineer tại TikTok – phát triển mô hình kiểm duyệt hội thoại buyer–seller đa ngôn ngữ cho TikTok Shop.
• AI Engineer tại DNSE Securities – xây dựng hệ thống multi-agent ứng dụng RAG cho lĩnh vực chứng khoán.
• Có kinh nghiệm thực tế với LLMs, AI Agents, Multimodal Models, AgentOps, Vector Databases; xây dựng và triển khai hệ thống AI từ research đến production ở quy mô lớn.
• Có product mindset, mạnh về phân tích bài toán nghiệp vụ và phát triển sản phẩm AI end-to-end (Zero-to-One).

Xem thêm

Lợi ích chỉ có tại COLE

Giới thiệu việc làm sau khóa học

Học lại free

Cộng đồng chuyển đổi số 1

Câu hỏi thường gặp

Đầu vào: kiến thức lập trình cơ bản; biết Python và LLM API là một lợi thế.
Khóa học gồm 20 buổi, được tổ chức online qua Zoom vào tối thứ Tư và thứ Sáu hàng tuần, từ 20:00 – 22:00. Học viên được cung cấp tài liệu và bản ghi (record) của các buổi học để sử dụng trước, trong và sau khóa học.
Toàn bộ buổi học đều được ghi hình (record) đầy đủ, học viên có thể xem lại bất cứ lúc nào để không bị gián đoạn tiến độ.
Học viên đạt đủ điều kiện hoàn thành khóa học sẽ được cấp Chứng nhận hoàn thành khóa học từ COLE. Ngoài ra, Top 3 Final Project xuất sắc nhất còn có cơ hội nhận hoàn 50% học phí.
Liên hệ với chúng tôi

Để biết thêm thông tin chi tiết đừng ngần ngại gọi cho chúng tôi.

Hoặc để lại thông tin

COLE - Lựa chọn hàng đầu cho nhân
sự về Digital Skills

5000+

Học viên theo học

30%

Thu nhập học viên tăng lên sau khi học

30+ Khóa học

Hàng đầu về ứng dụng công nghệ

50+

Chuyên gia hàng đầu về chuyển đổi số

300+ Doanh nghiệp hàng đầu lựa chọn Cole để nâng cấp kỹ năng