পর্ব ১৭ · প্রোবাবিলিটি ও পরিসংখ্যান

Bayes, MLE ও MAP

ডেটা দেখে বিশ্বাস হালনাগাদ — ML training-এর philosophical ভিত্তি।

শেখার লক্ষ্য

  • Bayes' theorem
  • likelihood, prior, posterior
  • MLE vs MAP

পূর্বপ্রয়োজন

conditional probability, log।

Bayes' theorem

P(θ|D) = P(D|θ)·P(θ) / P(D)

Posterior ∝ Likelihood × Prior।

MLE

θ_MLE = argmax_θ ∏ p(xᵢ|θ) = argmax_θ ∑ log p(xᵢ|θ)

Gaussian likelihood-এ MLE = least squares; Categorical-এ = cross-entropy minimization।

MAP ও regularization

θ_MAP = argmax_θ [log p(D|θ) + log p(θ)]