AI Engineering: Thiết kế & Xây dựng Hệ thống AI Thực chiến với Foundation Models

Giới thiệu Giáo trình AI Engineering – VietCyber

Khóa học AI Engineering: Thiết kế & Xây dựng Hệ thống AI Thực chiến với Foundation Models là bộ giáo trình chuẩn hóa chuyên sâu của VietCyber, cung cấp hệ thống kiến thức toàn diện từ nguyên lý toán học đến kiến trúc triển khai các hệ thống AI ứng dụng Mô hình Nền tảng (Foundation Models) ở quy mô doanh nghiệp.

Khác với các khóa học chỉ hướng dẫn gọi API cơ bản, giáo trình này tập trung vào nền tảng kỹ thuật cốt lõi (Engineering Fundamentals) giúp kỹ sư chuyển đổi một bản thử nghiệm (Demo) thành một hệ thống AI cấp độ Production đáng tin cậy, tối ưu chi phí, độ trễ thấp và an toàn trước các cuộc tấn công bảo mật.

Cấu trúc Chương trình Chuẩn hóa (10 Học phần • 32 Bài giảng Chuyên sâu • 5 Bài kiểm tra)

• Học phần 1: Nền tảng Kỹ thuật AI & Chiến lược Xây dựng Ứng dụng (3 Bài giảng) – Từ Language Models đến Foundation Models, khung đánh giá Use Cases (Crawl-Walk-Run, Defensibility) và Kiến trúc 3 tầng của AI Stack.
• Học phần 2: Giải phẫu Mô hình Nền tảng (Foundation Models Under the Hood) (4 Bài giảng + Quiz 1) – Dữ liệu tiền huấn luyện, Kiến trúc Transformer vs. MoE/SSM, Định luật Chinchilla Scaling Laws, Post-Training (SFT, RLHF, DPO) và toán học của Sampling / Test-Time Compute.
• Học phần 3: Phương pháp Luận Đánh giá Mô hình Nền tảng (Evaluation Methodology) (3 Bài giảng) – Toán học của Entropy, Cross-Entropy, Perplexity (PPL), Functional Correctness (pass@k), Lexical/Semantic Similarity, hệ thống AI as a Judge và Comparative Evaluation (Elo/Bradley-Terry).
• Học phần 4: Đánh giá Hệ thống AI Thực tế & Lựa chọn Mô hình (3 Bài giảng + Quiz 2) – Phát hiện Hallucinations (Faithfulness vs. Factualness), bài toán Build vs. Buy (Commercial API vs. Open-Weight Self-Hosting), giải mã Benchmarks và thiết kế Evaluation Pipeline 3 bước.
• Học phần 5: Kỹ nghệ Prompt & Phòng thủ An toàn Prompt (Prompt Engineering & Security) (3 Bài giảng) – Cơ chế In-Context Learning, Context Efficiency, Prompt Chaining/CoT, và Defensive Prompt Engineering (chống Prompt Injection, Jailbreaking, System Prompt Extraction).
• Học phần 6: Kiến trúc RAG Nâng cao & Hệ thống AI Agents (4 Bài giảng + Quiz 3) – Thuật toán truy xuất BM25 vs. Vector ANN (HNSW, IVF, PQ), Hybrid Search (RRF), Reranking, Contextual Retrieval, Multimodal/Text-to-SQL RAG, cùng kiến trúc AI Agents (Tools, ReAct Planning, Memory Systems & Failure Modes).
• Học phần 7: Tinh chỉnh Mô hình (Finetuning) & Toán học Bộ nhớ (3 Bài giảng) – Khi nào chọn Finetuning vs. RAG, giải phẫu VRAM (Memory Math, FP16/BF16/INT8/NF4 Quantization), PEFT chuyên sâu (LoRA, QLoRA) và Model Merging (SLERP, TIES, DARE).
• Học phần 8: Kỹ nghệ Dữ liệu cho AI (Dataset Engineering) (3 Bài giảng + Quiz 4) – 6 tiêu chuẩn Data Curation, tổng hợp dữ liệu bằng AI (Self-Instruct, Evol-Instruct, Verification), Model Distillation và đường ống Deduplication (MinHash LSH) & Chat Templates.
• Học phần 9: Tối ưu hóa Suy luận (Inference Optimization) (3 Bài giảng) – Giải phẫu Prefill (Compute-bound) vs. Decode (Memory-bound), chỉ số TTFT/TPOT/MFU/MBU, Speculative Decoding, KV Cache, PagedAttention (vLLM), Continuous Batching và Tensor/Pipeline Parallelism.
• Học phần 10: Kiến trúc Hệ thống AI Toàn diện & Vòng lặp Phản hồi (Architecture & User Feedback) (3 Bài giảng + Final Exam) – Lộ trình tiến hóa kiến trúc AI (Context, Guardrails, Model Router/Gateway, Semantic Cache, Agent Write Actions), Observability/Drift Detection và thiết kế Data Flywheel từ Conversational Feedback.