Modal and AI Chatbot 2025-3 is a comprehensive, hands-on course designed to take you from the fundamentals to advanced, real-world mastery of fastapi. Whether you are just starting out or looking to level up, this course gives you the structured path and practical projects you need to succeed.
Throughout the lessons you will build genuine confidence with fastapi and vllm, learning through clear explanations and step-by-step examples you can apply immediately. Below you will find everything the course covers, who it is for, and a full breakdown of the curriculum before you download.
Course Description
دوره Production LLM Deployment: vLLM,FastAPI,Modal and AI Chatbot. این دوره آموزشی جامع، شرکتکنندگان را با چگونگی استقرار کارآمد و مقیاسپذیر مدلهای زبانی بزرگ برای پشتیبانی از هزاران درخواست، با بهرهگیری از فناوریهای پیشرفتهای مانند vLLM، FastAPI و پلتفرم Modal آشنا میسازد. این دوره با ترکیب مبانی تئوری و تمرینهای عملی فشرده، مهارت لازم برای طراحی و راهاندازی سرویسهای استنتاجی پایدار و تعاملی را فراهم میکند. شرکتکنندگان میآموزند که چگونه با استفاده از vLLM، مدلهایی با توان پردازش هزاران درخواست موازی را مستقر کنند، یک پایپلاین ماژولار برای دانلود و استنتاج مدل طراحی نمایند، و یک ربات گفتگوگر با قابلیت حافظه ایجاد کنند که با endpointهای ساختهشده تعامل داشته باشد. همچنین، توسعه APIهای قدرتمند و سازگار با OpenAI به کمک FastAPI و vLLM، و استقرار آنها در محیطهای کانتینری شده برای تسهیل یکپارچهسازی با برنامههای خارجی از دیگر محورهای آموزشی است. مدیریت بهینه منابع از طریق تکنیکهای همزمانی و همگامسازی برای دسترسی بالا به مدل، بهینهسازی استفاده از GPU برای درخواستهای موازی، و طراحی سرویسهای امن و مقیاسپذیر با مکانیزمهای احراز هویت پیشرفته و کنترل دسترسی مبتنی بر توکن نیز پوشش داده میشود. این دوره بهصورت عمقی کار با پلتفرم Modal را آموزش میدهد که با رویکرد زیرساخت بهعنوانکد، استقرار و مقیاسدهی مدلها را تنها با چند دکوراتور پایتون ساده میسازد. مباحثی از قبیل راهاندازی محیط، اجرای اسکریپتهای محلی و ریموت، استقرار مدل با یک دستور، مدیریت چرخه حیات برنامهها، تبدیل توابع به سرویسهای وب با FastAPI، استفاده از هوکهای چرخه حیات برای مدیریت منابع، و خودکارسازی کامل گردش کار استقرار از مباحث کلیدی این بخش هستند. در نهایت، این دوره شرکتکننده را قادر میسازد تا مدلهای هوش مصنوعی را برای برنامههای تجاری، پروژههای شخصی یا تعامل با مشتری بهصورتی حرفهای و کارآمد مستقر نماید.
What You Will Learn
- نقشهبرداری (Mapping) حجم را برای مدیریت کارآمد ذخیرهسازی مدل، کاهش بازیابی دادههای زائد، بهینهسازی ذخیره وزن و سرعت بخشیدن به دسترسی با استفاده از استراتژی ذخیرهسازی محلی (Local Storage Strategy) فرا خواهند گرفت.
- استقرار مدلهای هوش مصنوعی با vLLM، مدیریت هزاران درخواست، و طراحی معماریهای ماژولار برای دانلود و استنتاج کارآمد مدل را میآموزند.
- ایجاد یک چت بات هوش مصنوعی مکالمهای با استفاده از Python، ادغام API OpenAI برای چتهای بیدرنگ و بدون وقفه با مدلهای زبان استقرار یافته را خواهند آموخت.
- استفاده از FastAPI و vLLM برای ساخت APIهای کارآمد و سازگار با OpenAI؛ استقرار نقاط پایانی REST API در کانتینرها (Containers) برای تعاملات یکپارچه مدل هوش مصنوعی با برنامههای کاربردی خارجی را فرا میگیرند.
- استفاده از همروندی (Concurrency) و همگامسازی (Synchronization) برای مدیریت مدل، تضمین در دسترس بودن بالا (High Availability)؛ بهینهسازی استفاده از GPU برای مدیریت کارآمد بسیاری از درخواستهای استنتاج موازی (Parallel Inference Requests) را میآموزند.
- طراحی سیستمهای مقیاسپذیر با مقیاسدهی (Scaling) کارآمد از طریق وزنها و ذخیرهسازی مدل محلی (Local Model Weights and Storage)؛ ایمنسازی برنامههای کاربردی با استفاده از احراز هویت پیشرفته (Advanced Authentication) و کنترل دسترسی مبتنی بر توکن (Token-based Access Control) را فرا خواهند گرفت.
- اجرای توابع GPU یا CPU فشرده در برنامه کاربردی که به صورت محلی در حال اجرا است بر روی زیرساخت قدرتمند از راه دور (Remote Infrastructure) Modal را میآموزند.
- استقرار مدلهای هوش مصنوعی با یک دستور واحد برای اجرا بر روی یک زیرساخت از راه دور که در کد برنامه کاربردی تعریف شده است را فرا خواهند گرفت.
- پیادهسازی Web APIها: تبدیل توابع Python به سرویسهای وب (Web Services) با استفاده از FastAPI در Modal، ادغام مؤثر با برنامههای کاربردی چندزبانه (Multi-language Applications) را میآموزند.
Who This Course Is For
- این دوره برای توسعهدهندگان نرمافزار و متخصصان IT طراحی شده است که به دنبال ارتقاء مهارتهای خود در استقرار و مقیاسدهی مدلهای یادگیری ماشین در یک محیط ابری هستند.
- افرادی که میخواهند از چالشهای زیرساخت سنتی مانند مقیاسدهی دستی و راهاندازیهای پیچیده سرور فراتر رفته و علاقهمند به استفاده از معماری بدون سرور برای عملیات ساده هستند.
- شرکتکنندگانی که از رویکرد عملی برای یادگیری قدردانی میکنند و بر پیادهسازی راهحلهای واقعی شامل یکپارچهسازی API، مدیریت کانتینر و استراتژیهای استقرار مقرون به صرفه تمرکز دارند.
- افرادی که مایلند درک خود از فناوریهای مبتنی بر ابر را تعمیق بخشند، به ویژه در مورد بهینهسازی گردش کارهای یادگیری ماشین با استفاده از پلتفرمهایی مانند Modal.
Course Features & Specifications
- ناشر: Udemy
- مدرس: Petar Petkanov
- سطح آموزش: مبتدی تا پیشرفته
- مدت زمان آموزش: 5 ساعت و 28 دقیقه
- تعداد دروس: 20
Prerequisites
- Basic Python Skills: Familiarity with Python programming, as the course involves scripting and using Python-based tools.
- Understanding of Machine Learning Concepts: A foundational grasp of machine learning principles and workflows will help in the application of deployment strategies.
- Experience with Command Line Interfaces: Competence in using command line tools for installing packages and running scripts is beneficial.
- Access to a Computer with Internet: A reliable computer setup with internet access is necessary to follow along with the cloud-based exercises and deployments.
Preview
راهنمای نصب
پس از Extract، با Player دلخواه خود مشاهده کنید.
زیرنویس: انگلیسی
کیفیت: 720p
Installation Guide
پس از Extract، با Player دلخواه خود مشاهده کنید.
زیرنویس: انگلیسی
کیفیت: 720p
