دوره آموزشی خطرات امنیتی در هوش مصنوعی و یادگیری ماشینی: دسته بندی حملات و حالت های شکست (2022)
1 ساعت 12 دقیقهمبتدی2022-02-23
مدرسین
Diana Kelley
CTO and Cofounder of SecurityCurve
جزئیات دوره
از پیشبینی نتایج پزشکی گرفته تا مدیریت صندوقهای بازنشستگی، ما به فناوری یادگیری ماشین (ML) و هوش مصنوعی (AI) اعتماد زیادی داریم، حتی اگر میدانیم که آنها در برابر حملات آسیبپذیر هستند و گاهی اوقات میتوانند ما را کاملاً شکست دهند. در این دوره، مدرس دایانا کلی نمونههای دنیای واقعی را از آخرین تحقیقات ML میآورد و راههایی را که ML و AI ممکن است شکست بخورند، ارائه میدهد و نکاتی را در مورد نحوه طراحی، ساخت و نگهداری سیستمهای انعطافپذیر ارائه میدهد.
در مورد خرابی های عمدی ناشی از حملات و شکست های غیرعمدی ناشی از نقص های طراحی و مشکلات پیاده سازی اطلاعات کسب کنید. تهدیدات امنیتی و خطرات حریم خصوصی جدی هستند، اما با ابزارها و آماده سازی مناسب می توانید خود را برای کاهش آنها آماده کنید. دیانا برخی از مؤثرترین روشها و تکنیکها را برای ایجاد ML قوی و انعطافپذیر، مانند بهداشت مجموعه دادهها، آموزش دشمنان، و کنترل دسترسی به APIها توضیح میدهد.
در مورد خرابی های عمدی ناشی از حملات و شکست های غیرعمدی ناشی از نقص های طراحی و مشکلات پیاده سازی اطلاعات کسب کنید. تهدیدات امنیتی و خطرات حریم خصوصی جدی هستند، اما با ابزارها و آماده سازی مناسب می توانید خود را برای کاهش آنها آماده کنید. دیانا برخی از مؤثرترین روشها و تکنیکها را برای ایجاد ML قوی و انعطافپذیر، مانند بهداشت مجموعه دادهها، آموزش دشمنان، و کنترل دسترسی به APIها توضیح میدهد.
مهارت ها
Vulnerability ManagementMachine LearningArtificial Intelligence FoundationsCybersecurityArtificial Intelligence (AI)Deep Dive (X:Y)
سرفصل ها
مقدمه
- نگرانی های امنیتی یادگیری ماشین
- آنچه باید بدانید
مبانی یادگیری ماشین
- چگونه سیستم ها ممکن است خراب شوند و چگونه از آنها محافظت کنیم
- چرا امنیت ML اهمیت دارد
- حملات در مقابل حالت های شکست غیرعمدی
- اهداف امنیتی برای ML - CIA
حملات حالت های شکست عمدی
- حملات اغتشاش و AUP
- حملات مسمومیت
- برنامه ریزی مجدد شبکه های عصبی
- دامنه فیزیکی (اشیاء متخاصم سه بعدی)
- حملات زنجیره تامین
- وارونگی مدل
- دستکاری سیستم
- استنباط عضویت و سرقت مدل
- Backdoor ها و اکسپلویت های موجود
حالت های شکست غیر عمدی اشکالات طراحی ذاتی
- هک پاداش
- عوارض در یادگیری تقویتی
- شیفت های توزیعی و تست ناقص
- تعبیه بیش از حد زیر فیتینگ
- ملاحظات سوگیری داده ها
Building Resilient ML
- تکنیک های موثر برای ایجاد تاب آوری در ML
- بهداشت مجموعه داده ML
- آموزش خصمانه ML
- کنترل دسترسی ML به API ها
نتیجه
- مراحل بعدی
دوره های مرتبط
- دوره آموزشی حریم خصوصی و رعایت مقررات در عصر هوش مصنوعی مولد: حاکمیت دادهها، دستهبندی و فهرستبندی
- دوره آموزشی مدیریت آسیبپذیری: ارزیابی ریسکها با CVSS، CISA KEV، EPSS و SSVC
- دوره آموزشی مدیریت آسیبپذیری در امنیت سایبری: مبانی
- دوره آموزشی معماری امنیت: رویکردی راهبردی
- دوره آموزشی آمادگی برای آزمون گواهی CompTIA SecurityX (CAS-005)
- دوره آموزشی آمادگی برای گواهینامه تکنسین پشتیبانی مجاز سیسکو (CCST) در امنیت سایبری (100-160)
- دوره آموزشی امنیت مدلهای زبانی بزرگ (LLM): چطور از سرمایهگذاریهات تو هوش مصنوعی مولد محافظت کنی
- دوره آموزشی جستجوی تهدید بهصورت عمیق: استراتژیهای شناسایی و پاسخ مبتنی بر اطلاعات و هوش