دوره آموزشی استقرار و مدیریت هوش مصنوعی خصوصی در زیرساخت اختصاصی
4 ساعت 51 دقیقهمتوسط2026-09-16
مدرسین

Pearson
جزئیات دوره
اجرای هوش مصنوعی روی زیرساخت اختصاصی سازمان به شما امکان میدهد کنترل بیشتری بر دادهها، هزینهها و حریم خصوصی داشته باشید. در این دوره، Sander van Vugt با تکیه بر تجربه چندینساله خود در حوزه متنباز (Open Source)، نحوه استقرار و مدیریت مدلهای هوش مصنوعی مولد (Generative AI) را در محیطهای محلی و زیرساختهای تحت کنترل سازمان بررسی میکند. با اجزای اصلی هوش مصنوعی مولد و کاربردهای آن در گردشکارهای خصوصی آشنا میشوید و یاد میگیرید چگونه با انتخاب زیرساخت مناسب، راهکارهای هوش مصنوعی را متناسب با نیازهای سازمان خود پیادهسازی کنید.
در ادامه، روش میزبانی و اجرای سیستمهای هوش مصنوعی روی پلتفرمهایی مانند Linux و Kubernetes را بررسی میکنید و با توجه به نیازهای عملیاتی سازمان، محیط مناسب را انتخاب خواهید کرد. همچنین با معماری مدلهای زبانی بزرگ (Large Language Models یا LLMs) آشنا میشوید و یاد میگیرید چگونه آنها را بدون نیاز به منابع پرهزینه، برای کاربردهای مشخص تنظیم دقیق (Fine-Tuning) کنید. در بخش دیگری از دوره، نحوه افزودن دادههای خصوصی به گردشکارهای هوش مصنوعی با استفاده از تولید تقویتشده با بازیابی (Retrieval-Augmented Generation یا RAG) و آداپترها (Adapters) بررسی میشود. در پایان، روشهای مقیاسدهی مدلهای هوش مصنوعی در محیطهایی با اتصال محدود به اینترنت را میآموزید؛ بهگونهای که پردازش دادهها در محیطی امن و تحت کنترل باقی بماند. این دوره برای افرادی مناسب است که میخواهند مدلهای هوش مصنوعی را بهجای اتکا به سرویسهای ابری عمومی، روی زیرساخت اختصاصی خود اجرا و مدیریت کنند.
اهداف یادگیری
استقرار مدلهای هوش مصنوعی مولد (Generative AI) در زیرساخت محلی برای افزایش کنترل بر دادهها و حفظ حریم خصوصی
شناسایی اجزای اصلی سیستمهای هوش مصنوعی مولد و کاربردهای آنها در گردشکارهای خصوصی
راهاندازی و میزبانی سیستمهای هوش مصنوعی روی Linux متناسب با نیازهای سازمان
استفاده از Kubernetes برای استقرار و مدیریت سیستمهای هوش مصنوعی در زیرساختهای مناسب
بررسی معماری مدلهای زبانی بزرگ (LLMs) و درک اجزای مؤثر بر عملکرد آنها
تنظیم دقیق مدلهای زبانی بزرگ برای کاربردهای اختصاصی بدون نیاز به منابع محاسباتی پرهزینه
افزودن دادههای خصوصی به گردشکارهای هوش مصنوعی با استفاده از RAG و آداپترها
انتخاب زیرساخت مناسب برای اجرای مدلهای هوش مصنوعی بر اساس نیازهای فنی و سازمانی
مقیاسدهی مدلهای هوش مصنوعی در محیطهایی با اتصال محدود به اینترنت
حفظ امنیت پردازش دادهها و کنترل اطلاعات در زمان استقرار و مدیریت مدلهای هوش مصنوعی
در ادامه، روش میزبانی و اجرای سیستمهای هوش مصنوعی روی پلتفرمهایی مانند Linux و Kubernetes را بررسی میکنید و با توجه به نیازهای عملیاتی سازمان، محیط مناسب را انتخاب خواهید کرد. همچنین با معماری مدلهای زبانی بزرگ (Large Language Models یا LLMs) آشنا میشوید و یاد میگیرید چگونه آنها را بدون نیاز به منابع پرهزینه، برای کاربردهای مشخص تنظیم دقیق (Fine-Tuning) کنید. در بخش دیگری از دوره، نحوه افزودن دادههای خصوصی به گردشکارهای هوش مصنوعی با استفاده از تولید تقویتشده با بازیابی (Retrieval-Augmented Generation یا RAG) و آداپترها (Adapters) بررسی میشود. در پایان، روشهای مقیاسدهی مدلهای هوش مصنوعی در محیطهایی با اتصال محدود به اینترنت را میآموزید؛ بهگونهای که پردازش دادهها در محیطی امن و تحت کنترل باقی بماند. این دوره برای افرادی مناسب است که میخواهند مدلهای هوش مصنوعی را بهجای اتکا به سرویسهای ابری عمومی، روی زیرساخت اختصاصی خود اجرا و مدیریت کنند.
اهداف یادگیری
استقرار مدلهای هوش مصنوعی مولد (Generative AI) در زیرساخت محلی برای افزایش کنترل بر دادهها و حفظ حریم خصوصی
شناسایی اجزای اصلی سیستمهای هوش مصنوعی مولد و کاربردهای آنها در گردشکارهای خصوصی
راهاندازی و میزبانی سیستمهای هوش مصنوعی روی Linux متناسب با نیازهای سازمان
استفاده از Kubernetes برای استقرار و مدیریت سیستمهای هوش مصنوعی در زیرساختهای مناسب
بررسی معماری مدلهای زبانی بزرگ (LLMs) و درک اجزای مؤثر بر عملکرد آنها
تنظیم دقیق مدلهای زبانی بزرگ برای کاربردهای اختصاصی بدون نیاز به منابع محاسباتی پرهزینه
افزودن دادههای خصوصی به گردشکارهای هوش مصنوعی با استفاده از RAG و آداپترها
انتخاب زیرساخت مناسب برای اجرای مدلهای هوش مصنوعی بر اساس نیازهای فنی و سازمانی
مقیاسدهی مدلهای هوش مصنوعی در محیطهایی با اتصال محدود به اینترنت
حفظ امنیت پردازش دادهها و کنترل اطلاعات در زمان استقرار و مدیریت مدلهای هوش مصنوعی
سرفصل ها
مقدمه
- معرفی دوره
مقدمهای بر Generative AI (GenAI)
- ماژول 1 - معرفی مبانی Generative AI (GenAI)
- اهداف یادگیری
- مروری بر راهحلهای هوش مصنوعی
- موارد استفاده و قابلیتهای Generative AI
- اجزای اصلی یک راهحل GenAI
- پلتفرمها و اکوسیستمهای رایج
- یادگیری ماشین در مقابل مدلهای زبانی بزرگ (LLM)
- هوش مصنوعی مسئولانه
- مهارتهای کلیدی برای میزبانی راهحلهای GenAI
- نیازمندیهای سختافزاری این دوره
اجزای کلیدی GenAI
- اهداف یادگیری
- LLM چیست؟
- موتور استنتاج (inference engine)
- عاملها و ارکستراسیون
- در معرض قرار دادن API و ابزارهای کلاینت
- آزمایشگاه - کاوش Hugging Face
- راهحل آزمایشگاه - کاوش Hugging Face
مدلهای زبانی بزرگ (LLM)
- اهداف یادگیری
- درک معماری LLM در سطح بالا
- انتخاب مدل مناسب
- خانوادههای LLM
- استفاده از Hugging Face
- دانلود مدلها از Hugging Face
- استفاده از llama.cpp بهعنوان runtime ساده استنتاج
- استفاده از Ollama برای استنتاج
- آزمایشگاه - تست عملی یک LLM با llama.cpp
- راهحل آزمایشگاه - تست عملی یک LLM با llama.cpp
کاهش نیازمندیهای سیستمی استفاده از LLM
- اهداف یادگیری
- GPU یا CPU
- انتخاب پارامترهای مناسب LLM
- انتخاب موتور استنتاج مناسب
- شروع سرد در مقابل شروع گرم
- اجرای LLMها در Podman AI Lab
- آزمایشگاه - اجرای LLMها در Podman AI Lab
- راهحل آزمایشگاه - اجرای LLMها در Podman AI Lab
مروری بر پلتفرمهای میزبانی
- اهداف یادگیری
- چرا میزبانی پلتفرم AI خودتان منطقی است
- میزبانی GenAI روی Linux
- میزبانی GenAI روی Kubernetes
- میزبانی GenAI روی ابر عمومی
- آزمایشگاه - میزبانی GenAI روی ابر عمومی
- راهحل آزمایشگاه - میزبانی GenAI روی ابر عمومی
تنظیم Linux برای هوش مصنوعی
- ماژول 2 - معرفی میزبانی GenAI روی Linux
- اهداف یادگیری
- مدیریت درایورهای GPU در Linux
- نصب درایورهای GPU روی RHEL
- افزودن پشتیبانی GPU برای کانتینرها
- مبانی بهینهسازی GPU
- تنظیم Linux برای استنتاج فقط با CPU
- آزمایشگاه - اجرای llama.cpp روی GPU
- راهحل آزمایشگاه - اجرای llama.cpp روی GPU
اجرای یک سرور استنتاج
- اهداف یادگیری
- Llama.cpp در مقابل vLLM
- اجرای سرورهای استنتاج بهصورت کانتینر
- نیازمندیهای استفاده از vLLM
- اجرای vLLM
- پیکربندی پایه و تنظیم vLLM
- استفاده از Open WebUI
- آزمایشگاه - اجرای vLLM
- راهحل آزمایشگاه - اجرای vLLM
گزینههای افزودن داده به یک LLM
- ماژول 3 - معرفی افزودن داده به یک LLM
- اهداف یادگیری
- مشکل دانش
- تزریق مبتنی بر پرامپت
- تولید تقویتشده با بازیابی (RAG)
- آداپترها
- تنظیم دقیق (fine-tuning)
- آزمایشگاه - اجرای Qwen با آداپتر
- راهحل آزمایشگاه - اجرای Qwen با آداپتر
استفاده از Retrieval-Augmented Generation (RAG)
- اهداف یادگیری
- درک راهاندازی مناسب RAG
- اجرای سرویسهای بکاند برای RAG
- پیکربندی Open WebUI برای RAG
- تست RAG
- آزمایشگاه - افزودن RAG به یک LLM خصوصی
- راهحل آزمایشگاه - افزودن RAG به یک LLM خصوصی
آمادهسازی پلتفرم Kubernetes
- ماژول 4 - معرفی میزبانی GenAI روی Kubernetes و Red Hat
- اهداف یادگیری
- مروری بر معماری GenAI در Kubernetes
- مروری بر منابع اصلی Kubernetes
- نصب یک کلاستر ساده Kubernetes در محل
- استقرار workloadهای GPU با پلاگین NVIDIA
- آزمایشگاه - نصب Kubernetes با پشتیبانی GPU
- راهحل آزمایشگاه - نصب Kubernetes با پشتیبانی GPU
اجرای GenAI روی Kubernetes
- اهداف یادگیری
- ارائه ذخیرهسازی پایدار برای GenAI
- اجرای استنتاج روی Kubernetes
- دسترسیپذیر کردن موتور استنتاج با Gateway API
- مقیاسپذیری و نظارت
- آزمایشگاه - ارائه استنتاج LLM مبتنی بر Kubernetes
- راهحل آزمایشگاه - ارائه استنتاج LLM مبتنی بر Kubernetes
راهحلهای Red Hat AI
- اهداف یادگیری
- مروری بر محصولات Red Hat AI
- امتحان کردن Red Hat AI Inference Server
جمعبندی همه چیز
- ماژول 5 - معرفی جمعبندی همه چیز
- اهداف یادگیری
- جمعبندی - ساخت یک دستیار AI عملی آفلاین برای محیطهای کماتصال
- مطالعه موردی - آمادهسازی پلتفرم
- مطالعه موردی - انتخاب LLM مناسب
- مطالعه موردی - اجرای موتور استنتاج
- مطالعه موردی - اتصال کلاینت Open WebUI
- مطالعه موردی - پیکربندی Open WebUI برای RAG
- جمعبندی با بهترین شیوهها
نتیجهگیری
- خلاصه دوره