دوره آموزشی مدل‌های زبان بزرگ در AWS: ساخت و استقرار مدل‌های زبان بزرگ متن‌باز

در این دوره، نوآ گیفت، کارشناس MLOps، به بررسی دنیای مدل‌های زبان بزرگ (LLM) منبع‌باز در AWS می‌پردازد. در این دوره، شما با ابزارهای ضروری آشنا می‌شوید، از جمله نحوه بهینه‌سازی و کامپایل LLM‌ها مانند llama.cpp. همچنین، مفاهیم قانون آمداهل برای وظایف محاسباتی شما بررسی خواهد شد و دموهای عملی با استفاده از فرمت فایل GGUF ارائه می‌شود. در این دوره با اسکریپت‌نویسی Python UV و بسته‌بندی آن‌ها برای بیشینه کردن عملکرد و کارایی مدل‌ها آشنا خواهید شد. مفاهیم کلیدی در llama.cpp از طریق راهنمایی‌های دقیق و همچنین دموهای کامل از مدل‌های کمی‌شده روی AWS G5 instances بررسی می‌شود. شما دانش عملی و تجربه‌های عملی به دست خواهید آورد که می‌توانید به طور مستقیم در پروژه‌های خود استفاده کنید. در پایان این دوره، قادر خواهید بود به طور مؤثر از LLM‌های منبع‌باز در AWS استفاده کرده و آن‌ها را بهینه‌سازی کنید و کاربردهای هوش مصنوعی خود را کارآمدتر و قدرتمندتر سازید.

اهداف یادگیری:
آشنایی با ابزارهای ضروری برای بهینه‌سازی و کامپایل LLM‌ها مانند llama.cpp.
درک قانون آمداهل و کاربرد آن در محاسبات.
یادگیری نحوه استفاده از فرمت GGUF برای بهینه‌سازی مدل‌ها.
استفاده از اسکریپت‌نویسی Python UV برای بهبود کارایی مدل‌ها.
درک عمیق از llama.cpp و کاربرد آن در مدل‌های کمی‌شده.
پیاده‌سازی و بهینه‌سازی مدل‌های زبان بزرگ منبع‌باز در AWS G5 instances.