دوره آموزشی LLMOs پیشرفته: استقرار و مدیریت LLM در تولید
1 ساعت 45 دقیقهپیشرفته2024-07-19
مدرسین

Soham Chatterjee
Machine Learning Lead

Archana Vaidheeswaran
جزئیات دوره
فناوری های پیشرفته هوش مصنوعی در حال تغییر جهان هستند. اما بدون استقرار و مدیریت مناسب، برنامه های شما ممکن است هرگز به پتانسیل کامل خود نرسند. بدتر از آن، آنها به سادگی می توانند از کار بیفتند یا حتی باعث ایجاد خطاهای مهم در سیستم شما شوند. از آنجایی که سازمانهای بیشتری مدلهای زبانی بزرگ را در جریان کار خود وارد میکنند، نیاز روزافزونی به متخصصان ماهر در استقرار و نظارت بر این مدلها به طور موثر، مسئولانه و ایمن در محیطهای تولید وجود دارد. در این دوره، تکنیک های پیشرفته و بهترین شیوه ها برای استقرار و نظارت بر LLM ها در محیط های تولیدی را بیاموزید. گزینههای استقرار LLM، مدیریت محدودیتهای API، تکنیکهای نظارت بر عملکرد، مدیریت سریع، رسیدگی به توهمات و موارد دیگر را کاوش کنید. به علاوه، در مورد ملاحظات امنیت و هزینه اطلاعات کسب کنید و یادگیری خود را با چالش ها و راه حل ها آزمایش کنید.
مهارت ها
Software DeploymentNatural Language Processing (NLP)AdvancedGenerative AIArtificial Intelligence (AI)Network and System Administration
سرفصل ها
0. مقدمه
- 01 - استقرار LLM برای تولید
- 02 - کار در Google Colab
1. گزینههای استقرار برای LLM
- 03 - مروری بر گزینههای استقرار
- 04 - استقرار از طریق APIها
- 05 - استفاده از مدلهای تنظیم شده برای استقرار
- 06 - مدلهای سفارشی - ساخت و استقرار
2. مدیریت محدودیتهای API
- 07 - درک محدودیتهای API
- 08 - استراتژیهایی برای رسیدگی به محدودیتهای زمان پایانی
- 09 - کاهش مشکلات تاخیر در استقرار LLM
- 10 - چالش - محدودیتهای API برای استقرار LLM
- 11 - راه حل - محدودیتهای API برای استقرار LLM
3. معماری استقرار
- 12 - پایگاه داده برداری برای استقرار LLM
- 13 - عوامل در استقرار LLM
- 14 - زنجیره در استقرار LLM
- 15 - چالش - یک برنامه RAG ساده را با استفاده از یک API مستقر کنید
- 16 - راه حل - استقرار یک برنامه RAG ساده با استفاده از یک API
4. نظارت بر عملکرد LLM
- 17 - مقدمه ای بر نظارت بر عملکرد LLM
- 18 - پرداختن به توهم در LLM ها
5. تکنیکهای پیشرفته استقرار
- 19 - مدیریت سریع برای استقرار LLM
- 20 - ارزیابی LLMها در تولید
- 21 - چالش - ارزیابی سیستمهای LLM
- 22 - راه حل - ارزیابی سیستمهای LLM
6. ملاحظات امنیت و هزینه
- 23 - ملاحظات امنیتی برای LLM در تولید
- 24 - متعادل کردن هزینهها و عملکرد در استقرار LLM
- 25 - استراتژی برای استقرار مقرون به صرفه LLM
- 26 - چالش - برآورد هزینههای یک API LLM
- 27 - راه حل - برآورد هزینههای یک API LLM
نتیجه
- 28 - مراحل بعدی
دوره های مرتبط
- دوره آموزشی یادگیری Microsoft Configuration Manager
- دوره آموزشی استقرار و مدیریت Defender برای Endpoint برای ویندوز
- دوره آموزشی راهنمای کامل استقرار نرم افزار AWS
- دوره آموزشی مدیریت بسته NET با NuGet
- دوره آموزشی آمادگی گواهینامه GitHub Administration: بخش هفتم مدیریت پکیج ها
- دوره آموزشی آمادگی گواهینامه GitHub Administration: بخش سوم شرح استقرار، توزیع و صدور مجوز
- دوره آموزشی SQL Server Containerization: راهبردهای نوین استقرار برای سازمانهای دادهمحور
- دوره آموزشی مدیریت بسته برای لینوکس Red Hat