دوره آموزشی مهار تزریق و نفوذ به دستور

از آنجایی که مدل‌های زبان بزرگی مانند Chat GPT، Bard، Claude و دیگران در فرهنگ نفوذ کرده‌اند، هکرها مشغول تلاش برای دستکاری مدل‌هایی هستند که بر اساس آن‌ها مانند GPT، Palm2 و دیگران ساخته شده‌اند تا نحوه واکنش آنها را تغییر دهند. در این دوره، Ray Villalobos مکانیسم های پشت هک سریع و برخی از تکنیک های کاهش را مورد بحث قرار می دهد. در دنیایی که شرکت‌ها برای توسعه پیاده‌سازی‌های خود از این مدل‌های محبوب عجله دارند، درک مفاهیم پشت هک سریع و برخی از دفاع‌هایی که برای پرداختن به پیامدهای بالقوه استفاده از آن استفاده می‌شوند، مهم است.

اهداف یادگیری
بدانید که هک سریع چیست و چگونه می توان از آن برای دستکاری LLM ها استفاده کرد.
برخی از تکنیک هایی که هکرها استفاده می کنند را شرح دهید.
راهبردهای کاهش و سایر راهبردها را برای کاهش تأثیر آن معرفی کنید.