دوره آموزشی امنیت محصولات هوش مصنوعی: معماری، استقرار و زیرساختهای امن
2 ساعت 20 دقیقهمتوسط2025-04-18
مدرسین

Sam Sehgal
Cloud and Application Security Leader
جزئیات دوره
تو این دوره، سم سهگال که متخصص امنیت ابری و برنامههای نرمافزاریه، راهنمای کاملی درباره ساخت محصولات هوش مصنوعی امن بهت ارائه میده. تمرکز این دوره روی چالشهای خاص امنیتی تو حوزه یادگیری ماشین (ML) و مدلهای زبانی بزرگ (LLM) هست. یاد میگیری چطور سیستمهای هوش مصنوعی رو در همه مراحل توسعه، از محافظت دادهها و کدنویسی امن گرفته تا امنیت مدل و استقرار، حفظ کنی.
همچنین با فریمورکهای امنیتی، مدلسازی تهدیدها و راهکارهای مقابلهای آشنا میشی تا بتونی حملات احتمالی رو پیشبینی و جلوشون رو بگیری. در این دوره بهترین روشهای صنعت برای امنسازی استقرار هوش مصنوعی، زیرساختها و زنجیره تامین نرمافزار هم بررسی میشه.
تا پایان این دوره، مهارتهایی مثل استفاده از لاگگیری، پایش و ممیزی برای حفظ امنیت مستمر و رعایت استانداردها رو کسب میکنی. این دوره برای توسعهدهندهها، مدیران محصول و متخصصان امنیت مناسب هست و بهت کمک میکنه امنیت محصولات هوش مصنوعیات رو به صورت کامل تضمین کنی.
اهداف یادگیری:
شناسایی تهدیدها و آسیبپذیریهای کلیدی مخصوص محصولات هوش مصنوعی مبتنی بر یادگیری ماشین و مدلهای زبانی بزرگ.
توضیح معماری کامل سیستمهای هوش مصنوعی و تدابیر امنیتی لازم در هر مرحله توسعه، استقرار و بهرهبرداری.
بهکارگیری بهترین روشها برای حفاظت از دادهها، کد و مدلهای هوش مصنوعی در برابر نفوذ، حملات مخرب و دسترسی غیرمجاز.
ارزیابی فریمورکها و تکنیکهای امنیتی مختلف برای محافظت از استقرار و زیرساختهای هوش مصنوعی و تضمین امنیت قوی در محیطهای تولیدی.
همچنین با فریمورکهای امنیتی، مدلسازی تهدیدها و راهکارهای مقابلهای آشنا میشی تا بتونی حملات احتمالی رو پیشبینی و جلوشون رو بگیری. در این دوره بهترین روشهای صنعت برای امنسازی استقرار هوش مصنوعی، زیرساختها و زنجیره تامین نرمافزار هم بررسی میشه.
تا پایان این دوره، مهارتهایی مثل استفاده از لاگگیری، پایش و ممیزی برای حفظ امنیت مستمر و رعایت استانداردها رو کسب میکنی. این دوره برای توسعهدهندهها، مدیران محصول و متخصصان امنیت مناسب هست و بهت کمک میکنه امنیت محصولات هوش مصنوعیات رو به صورت کامل تضمین کنی.
اهداف یادگیری:
شناسایی تهدیدها و آسیبپذیریهای کلیدی مخصوص محصولات هوش مصنوعی مبتنی بر یادگیری ماشین و مدلهای زبانی بزرگ.
توضیح معماری کامل سیستمهای هوش مصنوعی و تدابیر امنیتی لازم در هر مرحله توسعه، استقرار و بهرهبرداری.
بهکارگیری بهترین روشها برای حفاظت از دادهها، کد و مدلهای هوش مصنوعی در برابر نفوذ، حملات مخرب و دسترسی غیرمجاز.
ارزیابی فریمورکها و تکنیکهای امنیتی مختلف برای محافظت از استقرار و زیرساختهای هوش مصنوعی و تضمین امنیت قوی در محیطهای تولیدی.
مهارت ها
Application SecurityVulnerability ManagementArtificial Intelligence FoundationsCybersecurityArtificial Intelligence (AI)One-Off
سرفصل ها
0. مقدمه
- 01 - محصولات هوش مصنوعی خود را ایمن بسازید
- 02 - آنچه باید بدانید
1. مبانی ایمن سازی محصولات هوش مصنوعی
- 03 - توسعه مبتنی بر ML- در مقابل LLM
- 04 - توسعه محصول هوش مصنوعی مبتنی بر ML
- 05 - مراحل MLOps
- 06 - توسعه محصول هوش مصنوعی مبتنی بر LLM
- 07 - مراحل LLMOps
2. چه چیزی میتواند اشتباه باشد
- 08 - چه چیزی ممکن است در ML و MLOها اشتباه شود
- 09 - چه چیزی میتواند در LLM و LLMOps اشتباه کند
3. مدل امنیتی برای محصولات هوش مصنوعی
- 10 - معرفی مدل فاکتور N برای ایمن سازی محصولات هوش مصنوعی
- 11 - عامل - ایمن سازی داده ها
- 12 - فاکتور - مدلهای ایمن
- 13 - فاکتور - کد امنیتی
- 14 - عامل - ایمن سازی استقرارها و زیرساخت ها
- 15 - ماهیت به هم پیوسته همه عوامل
4. ایمن سازی داده ها
- 16 - قرار گرفتن در معرض دادهها در حین حمل و نقل
- 17 - حملات تزریقی
- 18 - دسترسی غیرمجاز
- 19 - تهدید خودی
- 20 - مسمومیت با ویژگی
- 21 - نشت حریم خصوصی
- 22 - حلقه بازخورد مسموم
5. ایمن سازی مدل ها
- 23 - مقدمه مسمومیت
- 24 - مسمومیت داده ها
- 25 - مسمومیت مدل
- 26 - سرقت مدل
- 27 - پیش نیازهای حمله تست مدل
- 28 - سناریوهای حمله آزمایشی مدل
- 29 - تست مدل دفاع حمله
- 30 - تغییرات غیرمجاز رجیستری مدل
- 31 - تهدید استخراج مدل
- 32 - دفاع استخراج مدل
- 33 - مقایسه وارونگی مدل
- 34 - تهدید وارونگی مدل
- 35 - مدل دفاع وارونگی
- 36 - حمله سریع تزریق
6. کد امنیتی
- 37 - کد پردازش داده ناامن
- 38 - اسرار سخت کد
- 39 - آسیب پذیری در کتابخانههای منبع باز
- 40 - سردرگمی وابستگی
- 41 - کتابخانههای پشتی
- 42 - نتیجه گیری
7. ایمن سازی استقرار و زیرساخت هوش مصنوعی
- 43 - محاسبات و ذخیرهسازی ناامن
- 44 - خطوط لوله CI CD
- 45 - دسترسی نامحدود به شبکه
- 46 - جداسازی ناکافی منابع
- 47 - تصاویر کانتینر نادرست پیکربندی شده است
- 48 - رانش
- 49 - پایگاههای داده برداری
8. بهترین شیوه ها
- 50 - معرفی 10 تمرین برتر
- 51 - مدل سازی تهدید
- 52 - تست امنیت
- 53 - پاسخ بروز
- 54 - حکومت داری
- 55 - حریم خصوصی
- 56 - استحکام خصمانه
- 57 - همکاری
- 58 - قابل توضیح و شفافیت
- 59 - ثبت و نظارت
- 60 - آموزش امنیتی و آگاهی
- 61 - جمع کردن همه
نتیجه گیری
- 62 - مراحل بعدی در سفر هوش مصنوعی شما
دوره های مرتبط
- دوره آموزشی 10 تهدید برتر OWASP برای برنامههای مبتنی بر مدلهای زبان بزرگ (LLM): یک مرور کلی
- دوره آموزشی ساخت و ایمنسازی برنامههای بلوتوث کممصرف (BLE)
- دوره آموزشی کارگاه امنیت میکروسرویسها: از ساخت تا استقرار در محیط عملیاتی
- دوره آموزشی گواهینامههای SSL برای توسعهدهندگان وب
- دوره آموزشی پیادهسازی مدل اعتماد صفر برای 5G و Open RAN
- دوره آموزشی امنیت برنامهها در DevSecOps
- دوره آموزشی امنیت در میکروسرویسها
- دوره آموزشی راهنمای کامل امنیت اپلیکیشنها