পর্ব ১৮ · অপ্টিমাইজেশন গণিত

ক্যালকুলাস → অপ্টিমাইজেশন সেতু

Critical point-এর গণিত থেকে algorithmic minimization-এর পথ।

শেখার লক্ষ্য

  • Calculus tool কোথায় কীভাবে use
  • iterative methods-এর প্রয়োজন বোঝা
  • convergence-এর ধারণা

পূর্বপ্রয়োজন

gradient, Hessian, MVT।

কেন iterative

∇f=0 closed-form solve প্রায়ই অসম্ভব (high-dim, nonlinear)। তাই iterative descent — গণিত (gradient) থেকে algorithm-এ যাওয়া।

Tool mapping

  • Gradient → direction।
  • Hessian → step size/curvature (Newton)।
  • Convexity → global optimum guarantee।
  • MVT → convergence rate প্রমাণ।

Convergence

First-order O(1/k), accelerated O(1/k²), strongly convex linear। আগামী অধ্যায়গুলো এই tool-গুলোর উপর গঠিত।