الگوریتم انتظار-بیشینه سازی رویکردی برای انجام تخمین بیشینه درستنمایی در حضور متغیرهای پنهان است. این کار را با تخمین مقادیر برای متغیرهای پنهان، سپس بهینه سازی مدل، سپس تکرار این دو مرحله تا زمان همگرایی انجام می دهد. این یک رویکرد موثر و کلی است و بیشتر برای تخمین چگالی با داده های گمشده، مانند الگوریتم های خوشه بندی مانند مدل مخلوط گاوسی استفاده می شود.

الگوریتم انتظار-بیشینه سازی
الگوریتم انتظار-بیشینه سازی یا به اختصار الگوریتم EM، رویکردی برای تخمین بیشینه درستنمایی در حضور متغیرهای پنهان است.

یک تکنیک کلی برای یافتن برآوردگرهای حداکثر درستنمایی در مدل‌های متغیر پنهان، الگوریتم حداکثرسازی انتظار (EM) است.

الگوریتم EM یک رویکرد تکراری است که بین دو حالت تکرار می شود. حالت اول تلاش می کند تا متغیرهای گمشده یا پنهان را تخمین بزند که مرحله تخمین یا E-step نامیده می شود. حالت دوم تلاش می‌کند تا پارامترهای مدل را بهینه‌سازی کند تا داده‌ها را به بهترین شکل توضیح دهد که مرحله حداکثرسازی یا M-step نامیده می‌شود.

E-Step. متغیرهای گمشده در مجموعه داده را تخمین میزند.
M-Step. پارامترهای مدل را در حضور داده ها به حداکثر می رساند.
الگوریتم EM را می توان به طور گسترده به کار برد، اگرچه شاید در یادگیری ماشین برای استفاده در مسائل یادگیری بدون نظارت، مانند تخمین چگالی و خوشه بندی، شناخته شده ترین باشد.

شاید مورد بحث ترین کاربرد الگوریتم EM برای خوشه بندی با یک مدل مخلوط باشد.