Terima kasih telah mengirimkan pertanyaan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Terima kasih telah mengirimkan pemesanan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Kerangka Materi
Fondasi AI Lokal yang Aman
- Arti AI lokal dan on-prem dalam lingkungan yang teregulasi
- AI cloud versus penerapan internal untuk beban kerja sensitif
- Kasus penggunaan perusahaan umum untuk asisten pribadi dan dukungan alur kerja
- Komponen utama arsitektur AI lokal yang aman
Dasar-Dasar Ollama dan Model Terbuka
- Peran Ollama dalam tumpukan pengembangan lokal
- Mengunduh, menjalankan, dan mengelola model secara lokal
- Memilih model berdasarkan ukuran, kualitas, perangkat keras, dan lisensi
- Menyesuaikan pilihan model dengan tugas bisnis praktis
Menyiapkan Lingkungan On-Prem
- Persiapan host, workstation, dan server
- Menginstal dan mengkonfigurasi Ollama untuk inferensi lokal
- Menggunakan kontainer dan alat pengembangan internal
- Memverifikasi akses API dan kesiapan operasional dasar
Bekerja dengan Model Lokal Secara Efektif
- Menjalankan prompt dan membentuk output dengan instruksi sistem
- Menggunakan kembali templat untuk tugas perusahaan yang konsisten
- Mengelola versi model dan artefak internal
- Penalaan kinerja dasar untuk penerapan CPU dan GPU
Membangun Alur Kerja Agens Praktis
- Apa yang membuat alur kerja menjadi agens dalam pengaturan terkontrol
- Pola sederhana untuk perencanaan, penggunaan alat, dan putaran respons
- Merancang asisten berfokus tugas untuk operasi internal
- Menambahkan tinjauan manusia, logika cadangan, dan penanganan kesalahan
Alur Kerja Pengambilan Pribadi
- Dasar-dasar generasi yang diperkuat pengambilan untuk akses pengetahuan internal
- Menyiapkan dokumen untuk pemotongan, pengindeksan, dan pencarian
- Menghubungkan penyimpanan vektor lokal ke aplikasi berbasis Ollama
- Meningkatkan relevansi dan kualitas jawaban dengan pola pengambilan yang lebih baik
Praktik Keamanan, Tata Kelola, dan Kepatuhan
- Batasan penanganan data dan pertimbangan privasi
- Kontrol akses, pencatatan, dan dukungan audit
- Keamanan prompt, kontrol output, dan pengaman
- Titik pemeriksaan tata kelola untuk penerapan dan operasi yang teregulasi
Pola Integrasi Perusahaan
- Menampilkan kemampuan AI lokal melalui API internal
- Mengintegrasikan asisten dengan aplikasi dan layanan internal
- Mendukung kasus penggunaan asisten, batch, dan otomatisasi alur kerja
- Menjaga solusi tetap dalam batas jaringan terkontrol
Evaluasi Solusi AI Lokal
- Menilai kualitas, keandalan, dan konsistensi
- Menguji terhadap persyaratan bisnis, kebijakan, dan keamanan
- Membandingkan pilihan model untuk tugas perusahaan tertentu
- Menetapkan siklus peningkatan praktis untuk tim internal
Laboratorium Implementasi Langsung
- Membangun asisten pribadi dengan Ollama dan model terbuka
- Menambahkan pengambilan informasi atas dokumen internal yang disetujui
- Memperkenalkan tindakan agens sederhana dan kontrol keamanan
- Meninjau penerapan, operasi, dan titik pemeriksaan tata kelola
Perencanaan Adopsi dan Langkah Selanjutnya
- Meninjau keputusan desain dan penerapan utama
- Mengidentifikasi jebakan umum dalam proyek AI yang teregulasi
- Merencanakan kasus penggunaan percontohan dan keselarasan pemangku kepentingan
- Mendefinisikan peta jalan untuk adopsi AI lokal yang aman
Persyaratan
- Pemahaman dasar tentang konsep AI dan pengembangan perangkat lunak
- Familiar dengan alat baris perintah, kontainer, atau lingkungan pengembangan lokal
- Pengalaman dasar dalam scripting atau pemrograman
Target Peserta
- Pengembang dan tim teknis yang membangun solusi AI pribadi di infrastruktur internal
- Profesional keamanan, kepatuhan, dan platform yang mendukung AI di lingkungan teregulasi
- Pemimpin teknis di bidang keuangan, kesehatan, pemerintahan, dan pertahanan yang mengevaluasi adopsi AI on-prem
21 Jam