یادگیری ماشین، الگوریتم بیز ساده و درخت تصمیم

توضیحات

در جلسه بیست ویکم هوش مصنوعی استاد انصاری با عنوان «یادگیری ماشین، الگوریتم بیز ساده و درخت تصمیم»، مفاهیم اولیه یادگیری ماشین تدریس می‌شود. سه مطلب مهم در این جلسه مورد بحث و بررسی قرار می‌گیرند: 1) مفاهیم مقدماتی یادگیری ماشین (Machine Learning) 2) الگوریتم بیز ساده 3) درخت تصمیم (Decision Tree). یک عامل در حال یادگیری است اگر پس از انجام مشاهدات از محیط، بتواند عملکردش را بهبود دهد. ویژگی یادگیری از سه جهت حائز اهمیت است: 1) طراح عامل معمولاً نمی‌تواند همه موقعیت‌هایی که عامل ممکن است در آن قرار بگیرد را پیش‌بینی کند. 2) طراح‌ها نمی‌توانند همه تغییرات را پیش‌بینی کنند. 3) گاهی اوقات انسان‌ها نمی‌دانند چگونه راه حل مسئله را تبدیل به یک برنامه کنند. در این جلسه ابتدا انواع مختلف مسائل یادگیری و متدهای کلی برای حل آنها معرفی می‌شوند و سپس الگوریتم‌های پایه‌ای حل آنها معرفی و تشریح خواهد شد. این مطالب را با معرفی یادگیری ماشین و یادگیری مدل‌های احتمالی آغاز می‌شود. مسائل یادگیری بر اساس نوع فیدبک همراه با داده ورودی به سه دسته تقسیم می‌شوند: 1) یادگیری نظارت شده (supervised Learning) که عامل جفت‌های ورودی-خروجی را مشاهده می‌کند و تابعی را می‌آموزد که ورودی را به خروجی نگاشت کند. 2) یادگیری غیر نظارت شده (unsupervised Learning) که عامل در پی یادگیری الگوها در ورودی بدون دریافت هرگونه فیدبک است. 3) یادگیری تقویتی (Reinforcement Learning) که عامل از طریق دریافت پاداش و مجازات سعی در یادگیری دارد. در این جلسه روی یادگیری نظارت شده تمرکز می‌شود. ابتدا این گونه مسائل به شکل دقیق تعریف می‌شوند. مفاهیمی مانند مجموعه آموزشی (Training Set) معرفی و الگوریتم بیز ساده شرح داده می‌شود. سپس تخمین پارامتر و روش MLE برای تخمین پارامترهای مدل مسئله دسته‌بندی ایمیل شرح داده می‌شود. روش صاف کردن (Smoothing) نیز مورد بررسی قرار می‌گیرد و همه موارد با مثال‌های متعدد تشریح خواهد شد. سپس یک تست در این رابطه مطرح و حل تشریحی آن ارائه می‌گردد. پس از آن درخت تصمیم (Decision Tree) و در انتها آنتروپی (Entropy) به تفصیل شرح داده خواهد شد.