Deployment dan Pengelolaan Model AI Generatif
Kategori: Teknis AI
Tentang Kursus
Kursus “Deployment dan Pengelolaan Model AI Generatif” dirancang untuk membekali peserta dengan pemahaman komprehensif tentang aspek operasional, evaluasi, keamanan, dan tata kelola dalam implementasi sistem AI generatif di lingkungan produksi. Kursus ini menggabungkan prinsip MLOps dengan praktik AI yang bertanggung jawab, mencakup evaluasi LLM, mitigasi bias, interpretabilitas, privasi data, hingga perlindungan sistem berbasis AI generatif. Melalui pendekatan praktis dengan tools dan framework modern, peserta akan mampu mengelola siklus hidup model AI generatif secara profesional, mulai dari evaluasi, deployment, hingga monitoring yang aman dan andal.
Apa yang akan kamu pelajari?
- Memahami fondasi MLOps, komponen utama seperti data operations, model registry, dan CI/CD, serta tantangan dalam mengoperasionalkan model generatif ke lingkungan produksi.
- Mempelajari metode evaluasi komprehensif, termasuk metrik seperti BLEU, ROUGE, perplexity, dan groundedness, serta teknik perbandingan model dan praktik evaluasi sebelum maupun sesudah deployment.
- Memahami teknik seperti de-identification, differential privacy, DP-SGD, federated learning, dan safeguards input-output untuk melindungi data pengguna dan data pelatihan.
- Mengenal penggunaan Model Armor untuk melindungi aplikasi LLM dari ancaman seperti file berbahaya, prompt injection, kebocoran data, dan konten ofensif.
- Mengidentifikasi sumber bias dari data, nilai manusia, dan desain sistem, serta mempelajari tools dan strategi untuk mendeteksi dan mengurangi bias model.
- Mempelajari teknik explainability global dan lokal, metode berbasis konsep, tools seperti SHAP dan LIT, serta dokumentasi transparan melalui Data Cards dan Model Cards.
- Memahami komponen sistem AI yang aman, ancaman siber berbasis AI, dan penerapan Secure AI Framework (SAIF) untuk melindungi ekosistem AI secara menyeluruh.
Course Content
1.1 Pengantar MLOps dan AI Generatif
1.2 Machine Learning Operations (MLOps) untuk AI Generatif
1.3 Navigasi AI Generatif: Tantangan dan Adaptasi MLOps
1.4 Pengantar Evaluasi Model
1.5 Evaluasi Model dalam MLOps
Module 1 Quiz
2.1 Tantangan dalam Mengevaluasi Tugas AI Generatif
2.2 Melampaui Akurasi: Menguasai Metrik Evaluasi untuk AI Generatif
2.3 Praktik Terbaik untuk Evaluasi LLM
2.4 Mengatasi Tantangan Evaluasi
2.5 Metrik Evaluasi dan Perbandingan Model
Module 2 Quiz
3.1 AI dan Tanggung Jawab
3.2 Praktik AI yang Bertanggung Jawab
3.3 Keadilan dan Bias dalam AI
3.4 Identifikasi Bias: TFDV, What-If, dan TFMA Tools
3.5 Mitigasi Bias: Intervensi Data dan Model
Module 3 Quiz
4.1 Gambaran Umum Interpretabilitas dan Transparansi
4.2 Penjelasan Berbasis Fitur: Model Agnostik
4.3 Penjelasan Berbasis Fitur: Model Spesifik
4.4 Penjelasan Berbasis Konsep dan Contoh serta Tool untuk Interpretabilitas
4.5 Transparansi Data dan Model
Module 4 Quiz
5.1 Gambaran Umum Privasi AI & Privasi dalam Data Pelatihan
5.2 Privasi dalam Data Pelatihan: Teknik Pengacakan
5.3 Privasi dalam Pelatihan Machine Learning: DP-SGD & Federated Learning
5.4 Keamanan Sistem pada Google Cloud & AI Generatif
5.5 Gambaran Umum Keamanan AI & Evaluasi Keamanan
5.6 Pencegahan Bahaya (Harms Prevention)
5.7 Pelatihan Model untuk Keamanan & Keamanan di Google Cloud GenAI
Module 5 Quiz
6.1 Memahami Dasar-Dasar AI dan Sistem AI
6.2 Mengapa Keamanan AI Penting dan Memahami Aliran Data
6.3 Tiga Pilar Keamanan AI dan Komponen Sistem AI yang Aman
6.4 SAIF – Kerangka Kerja untuk Keamanan AI
Module 6 Quiz
7.1 Model Armor: Platform Keamanan untuk LLM
7.2 Kustomisasi Model Armor
7.3 Setup dan Monitoring Model Armor
7.4 Menguji dan Mengintegrasikan Model Armor
Module 7 Quiz
Module 8 Quiz