Kursus Pelatihan Deploying and Optimizing LLMs with Ollama
Ollama menyediakan cara yang efisien untuk menyebarkan dan menjalankan model bahasa besar (LLM) secara lokal atau di lingkungan produksi, menawarkan kontrol atas kinerja, biaya, dan keamanan.
Pelatihan langsung yang dipimpin instruktur ini (online atau di tempat) ditujukan untuk profesional tingkat menengah yang ingin menerapkan, mengoptimalkan, dan mengintegrasikan LLM menggunakan Ollama.
Pada akhir pelatihan ini, peserta akan dapat:
- Siapkan dan terapkan LLM menggunakan Ollama.
- Optimalkan model AI untuk kinerja dan efisiensi.
- Memanfaatkan akselerasi GPU untuk meningkatkan kecepatan inferensi.
- Integrasikan Ollama ke dalam alur kerja dan aplikasi.
- Pantau dan pertahankan kinerja model AI dari waktu ke waktu.
Format Kursus
- Kuliah dan diskusi interaktif.
- Banyak latihan dan praktik.
- Implementasi langsung di lingkungan lab langsung.
Opsi Kustomisasi Kursus
- Untuk meminta pelatihan khusus untuk kursus ini, silakan hubungi kami untuk mengaturnya.
Kerangka Materi
Pengantar Ollama untuk Penerapan LLM
- Tinjauan umum kemampuan Ollama
- Keuntungan penerapan model AI lokal
- Perbandingan dengan solusi hosting AI berbasis cloud
Menyiapkan Lingkungan Penerapan
- Menginstal Ollama dan dependensi yang diperlukan
- Konfigurasi perangkat keras dan GPU akselerasi
- Dockermengubah Ollama untuk penerapan yang dapat diskalakan
Menerapkan LLM dengan Ollama
- Memuat dan mengelola model AI
- Menyebarkan Llama 3, DeepSeek, Mistral, dan model lainnya
- Membuat API dan titik akhir untuk akses model AI
Mengoptimalkan Kinerja LLM
- Menyempurnakan model untuk efisiensi
- Mengurangi latensi dan meningkatkan waktu respons
- Mengelola alokasi memori dan sumber daya
Mengintegrasikan Ollama ke dalam Alur Kerja AI
- Menghubungkan Ollama ke aplikasi dan layanan
- Mengotomatiskan proses yang digerakkan oleh AI
- Menggunakan Ollama di lingkungan komputasi tepi
Pemantauan dan Pemeliharaan
- Melacak kinerja dan men-debug masalah
- Memperbarui dan mengelola model AI
- Memastikan keamanan dan kepatuhan dalam penerapan AI
Skala Penerapan Model AI
- Praktik terbaik untuk menangani beban kerja tinggi
- Skala Ollama untuk kasus penggunaan perusahaan
- Kemajuan masa depan dalam penerapan model AI lokal
Ringkasan dan Langkah Berikutnya
Persyaratan
- Pengalaman dasar dengan pembelajaran mesin dan model AI
- Keakraban dengan antarmuka baris perintah dan skrip
- Pemahaman tentang lingkungan penyebaran (lokal, edge, cloud)
Hadirin
- Insinyur AI mengoptimalkan penerapan AI lokal dan berbasis cloud
- Praktisi ML menerapkan dan menyempurnakan LLM
- DevOps spesialis yang mengelola integrasi model AI
Kursus Pelatihan Terbuka membutuhkan minimal 5 peserta.
Kursus Pelatihan Deploying and Optimizing LLMs with Ollama - Pemesanan
Kursus Pelatihan Deploying and Optimizing LLMs with Ollama - Penyelidikan
Deploying and Optimizing LLMs with Ollama - Permintaan Konsultasi
Permintaan Konsultasi
Kursus Mendatang
Kursus Terkait
Pengujian dan Evaluasi Model Ollama Tingkat Lanjut
35 JamAdvanced Ollama Model Debugging & Evaluation adalah kursus mendalam yang berfokus pada mendiagnosa, mengetes, dan mengukur perilaku model saat menjalankan pemasangan Ollama lokal atau swasta.
Pelatihan ini, yang dipimpin instruktur, tersedia dalam format online langsung atau pelatihan langsung tatap muka dan ditujukan untuk insinyur AI tingkat lanjut, profesional ML Ops, dan praktisi QA yang ingin memastikan keandalan, kesesuaian, dan kesiapan operasi dari model berbasis Ollama dalam produksi.
Dengan menyelesaikan pelatihan ini, peserta akan mampu:
- Melakukan debugging sistematis dari model yang diselenggarakan oleh Ollama dan mengulang kembali mode kegagalan dengan andal.
- Membuat dan menjalankan pipa evaluasi yang kuat dengan metrik kuantitatif dan kualitatif.
- Menerapkan observabilitas (log, jejak, dan metrik) untuk memantau kesehatan model dan drift.
- Mengotomatisasi pengujian, validasi, dan pemeriksaan regresi yang terintegrasi dalam pipa CI/CD.
Format Kursus
- Perkuliahan dan diskusi interaktif.
- Lab praktis dan latihan debugging menggunakan pemasangan Ollama.
- Kasus studi, sesi perbaikan kelompok, dan workshop otomatisasi.
Opsi Pengaturan Kursus
- Untuk meminta pelatihan disesuaikan untuk kursus ini, silakan hubungi kami untuk mengatur.
Membangun Alur Kerja AI Pribadi dengan Ollama
14 JamPelatihan langsung yang dipandu instruktur ini di Indonesia (online atau tatap muka) ditujukan untuk profesional tingkat lanjut yang ingin mengimplementasikan alur kerja berbasis AI yang aman dan efisien menggunakan Ollama.
Pada akhir pelatihan ini, peserta akan dapat:
- Menyebarkan dan mengonfigurasi Ollama untuk pemrosesan AI pribadi.
- Mengintegrasikan model AI ke dalam alur kerja perusahaan yang aman.
- Mengoptimalkan kinerja AI sambil mempertahankan privasi data.
- Memautomatisasi proses bisnis dengan kemampuan AI on-premise.
- Menjamin keterpatutan dengan kebijakan keamanan dan tata kelola perusahaan.
Penyesuaian dan Pencustoman Model AI di Ollama
14 JamPelatihan ini yang dipandu instruktur (online atau tatap muka) ditujukan untuk profesional tingkat lanjut yang ingin menyesuaikan dan mencustom model AI di Ollama untuk kinerja yang lebih baik dan aplikasi spesifik domain.
Pada akhir pelatihan ini, peserta akan mampu:
- Menyiapkan lingkungan efisien untuk penyesuaian model AI di Ollama.
- Menyiapkan dataset untuk penyesuaian terawasi dan pembelajaran penguatan.
- Mengoptimalkan model AI untuk kinerja, akurasi, dan efisiensi.
- Menerapkan model yang dicustom di lingkungan produksi.
- Mengevaluasi peningkatan model dan memastikan kehandalan.
Aplikasi Multimodal dengan Ollama
21 JamOllama adalah platform yang memungkinkan menjalankan dan menyempurnakan model bahasa dan multimodal besar secara lokal.
Pelatihan ini yang diketuai instruktur dan dilaksanakan secara langsung (online langsung atau pelatihan langsung tatap muka) ditujukan untuk insinyur ML tingkat lanjut, peneliti AI, dan pengembang produk yang ingin membangun dan mengimplementasikan aplikasi multimodal dengan Ollama.
Di akhir pelatihan ini, peserta akan dapat:
- Menyiapkan dan menjalankan model multimodal dengan Ollama.
- Mengintegrasikan input teks, gambar, dan audio untuk aplikasi dunia nyata.
- Membangun sistem pemahaman dokumen dan QA visual.
- Mengembangkan agen multimodal yang mampu beralasan di antara modalitas.
Format Kursus
- Kuliah interaktif dan diskusi.
- Praktik langsung dengan dataset multimodal yang sebenarnya.
- Implementasi laboratorium langsung dari pipa multimodal menggunakan Ollama.
Opsi Penyesuaian Kursus
- Untuk meminta pelatihan yang disesuaikan untuk kursus ini, silakan hubungi kami untuk mengatur.
Memulai dengan Ollama: Menjalankan Model AI Lokal
7 JamPelatihan langsung ini, dipandu instruktur di Indonesia (online atau tatap muka), ditujukan untuk profesional tingkat pemula yang ingin menginstal, mengonfigurasi, dan menggunakan Ollama untuk menjalankan model AI di mesin lokal mereka.
Pada akhir pelatihan ini, peserta akan dapat:
- Memahami dasar-dasar Ollama dan kemampuannya.
- Mengatur Ollama untuk menjalankan model AI lokal.
- Menyebarkan dan berinteraksi dengan LLMs menggunakan Ollama.
- Mempertingkatkan kinerja dan penggunaan sumber daya untuk beban kerja AI.
- Menjelajahi kasus penggunaan penyebaran AI lokal di berbagai industri.
Ollama & Data Privacy: Pola Implementasi yang Aman
14 JamOllama adalah sebuah platform yang memungkinkan menjalankan model bahasa besar dan multimodal secara lokal sambil mendukung strategi pelaksanaan yang aman.
Pelatihan langsung ini, yang dipimpin instruktur (pelatihan online langsung atau pelatihan langsung tatap muka), ditujukan untuk profesional tingkat menengah yang ingin men-deploy Ollama dengan ukuran keamanan data yang kuat dan patuh terhadap aturan peraturan.
Di akhir pelatihan ini, peserta akan dapat:
- Men-deploy Ollama secara aman dalam lingkungan containerized dan on-prem.
- Menerapkan teknik privasi diferensial untuk melindungi data sensitif.
- Menerapkan praktik logging, monitoring, dan auditing yang aman.
- Melaksanakan kontrol akses data yang sesuai dengan persyaratan kelayakan.
Format Pelatihan
- Pembelajaran interaktif dan diskusi.
- Lab praktek dengan pola deploy aman.
- Studi kasus dan latihan praktis yang difokuskan pada kelayakan.
Opsi Pemasangan Pelatihan
- Untuk meminta pelatihan yang disesuaikan untuk kursus ini, silakan hubungi kami untuk menyiapkan.
Aplikasi Ollama dalam Keuangan
14 JamOllama adalah platform ringan untuk menjalankan model bahasa besar secara lokal.
Pelatihan yang dipandu instruktur ini (online atau tatap muka) ditujukan kepada praktisi keuangan dan personel IT tingkat menengah yang ingin mengimplementasikan, menyesuaikan, dan menjalankan solusi AI berbasis Ollama dalam lingkungan keuangan.
Dengan menyelesaikan pelatihan ini, peserta akan memperoleh keterampilan yang diperlukan untuk:
- Menyebarkan dan mengkonfigurasi Ollama untuk digunakan dengan aman dalam operasi keuangan.
- Mengintegrasikan LLM lokal ke dalam alur kerja analitik dan pelaporan.
- Menyesuaikan model untuk terminologi dan tugas khusus bidang keuangan.
- Menerapkan praktik terbaik keamanan, privasi, dan kepatuhan.
Format Kursus
- Kuliah interaktif dan diskusi.
- Latihan data keuangan praktis.
- Implementasi live-lab dari skenario berfokus pada keuangan.
Pilihan Penyesuaian Kursus
- Untuk meminta pelatihan yang disesuaikan untuk kursus ini, silakan hubungi kami untuk mengatur.
Aplikasi Ollama dalam Kesehatan
14 JamOllama adalah platform ringan untuk menjalankan model bahasa besar secara lokal.
Pelatihan langsung ini yang dipandu instruktur (online atau tatap muka) ditujukan kepada praktisi kesehatan dan tim IT tingkat menengah yang ingin menerapkan, menyesuaikan, dan mengoperasikan solusi AI berbasis Ollama dalam lingkungan klinis dan administratif.
Setelah menyelesaikan pelatihan ini, peserta akan dapat:
- Menginstal dan mengkonfigurasi Ollama untuk penggunaan yang aman dalam lingkungan kesehatan.
- Mengintegrasikan LLM lokal ke dalam alur kerja klinis dan proses administratif.
- Menyesuaikan model untuk terminologi dan tugas spesifik kesehatan.
- Menerapkan praktik terbaik untuk privasi, keamanan, dan kepatuhan regulasi.
Format Kursus
- Ceramah interaktif dan diskusi.
- Demonstrasi praktis dan latihan terbimbing.
- Implementasi praktis dalam lingkungan simulasi kesehatan yang disandikan.
Pilihan Penyesuaian Kursus
- Untuk meminta pelatihan yang disesuaikan untuk kursus ini, silakan hubungi kami untuk mengatur.
Ollama untuk AI yang Bertanggung Jawab dan Pemerintahan
14 JamOllama adalah platform untuk menjalankan model bahasa besar dan multimodal secara lokal, mendukung praktik pengelolaan dan AI yang bertanggung jawab.
Pelatihan online langsung atau pelatihan langsung tatap muka ini bertujuan untuk profesional dengan tingkat menengah hingga tingkat lanjut yang ingin mengimplementasikan ketidakberpihakan, ketransparansian, dan ketanggungjawaban dalam aplikasi yang dipacu oleh Ollama.
Di akhir pelatihan ini, peserta akan dapat:
- Menerapkan prinsip AI yang bertanggung jawab dalam penyebaran Ollama.
- Mengimplementasikan strategi penyaringan konten dan pengurangan bias.
- Merancang alur kerja pengelolaan untuk penyelarasan dan auditabilitas AI.
- Membangun kerangka pemantauan dan pelaporan untuk keteraturan.
Format Kursus
- Perkuliahan interaktif dan diskusi.
- Laboratorium desain alur kerja pengelolaan tangan.
- Studi kasus dan latihan yang berfokus pada keteraturan.
Opsi Kustomisasi Kursus
- Untuk meminta pelatihan yang dikustomisasi untuk kursus ini, silakan hubungi kami untuk menyusun rencana.
Pemangkatan Skala & Optimasi Infrastruktur Ollama
21 JamOllama adalah platform untuk menjalankan model bahasa besar dan multimodal secara lokal dan secara besar-besaran.
Pelatihan ini yang dipimpin oleh instruktur (online langsung atau tatap muka) ditujukan untuk insinyur tingkat menengah hingga tingkat lanjut yang ingin mengskalakan penempatan Ollama untuk lingkungan multi-pengguna, throughput tinggi, dan efisien biaya.
Sampai akhir pelatihan ini, peserta akan dapat:
- Mengkonfigurasi Ollama untuk beban kerja yang terdistribusi dan multi-pengguna.
- Memaksimalkan alokasi sumber daya GPU dan CPU.
- Menerapkan strategi otomatisasi peningkatan, pemrosesan berkelompok, dan penurunan latensi.
- Memantau dan mengoptimalkan infrastruktur untuk kinerja dan efisiensi biaya.
Format Pelatihan
- Ceramah interaktif dan diskusi.
- Lab penempatan dan peningkatan skalabilitas secara praktis.
- Latihan optimisasi praktis dalam lingkungan langsung.
Opsi Penyesuaian Pelatihan
- Untuk meminta pelatihan yang disesuaikan untuk pelatihan ini, silakan hubungi kami untuk mengatur.
Kemampuan Master dalam Prompt Engineering dengan Ollama
14 JamOllama adalah sebuah platform yang memungkinkan menjalankan model bahasa dan multimodal besar secara lokal.
Pelatihan ini yang dibimbing instruktur (pelatihan online langsung atau pelatihan langsung tatap muka) ditujukan untuk praktisioner tingkat menengah yang ingin memahami teknik prompt engineering untuk mengoptimalkan output Ollama.
Pada akhir pelatihan ini, peserta akan mampu:
- Mendesain prompt efektif untuk berbagai kasus penggunaan.
- Menerapkan teknik seperti priming dan struktur chain-of-thought.
- Mengimplementasikan template prompt dan strategi manajemen konteks.
- Membangun pipa multi-stage prompting untuk alur kerja yang kompleks.
Format Kursus
- Lecture dan diskusi interaktif.
- Latihan praktis dengan desain prompt.
- Implementasi praktis dalam lingkungan lab langsung.
Opsi Kustomisasi Kursus
- Untuk meminta pelatihan yang disesuaikan untuk kursus ini, silakan hubungi kami untuk mengatur.