পর্ব ১৩ · বহু-চলকীয় ক্যালকুলাস

গ্রেডিয়েন্টের জ্যামিতিক অন্তর্দৃষ্টি

Contour, level set ও steepest ascent — পাহাড়ের ছবিতে gradient দেখা।

শেখার লক্ষ্য

  • level set ⊥ gradient বোঝা
  • contour plot পড়া
  • steepest descent-এর জ্যামিতি

পূর্বপ্রয়োজন

gradient, partials।

Level set ও gradient

f(x,y)=c রেখাকে level curve বলা হয়। সেই রেখার যেকোনো বিন্দুতে ∇f সব সময় রেখার লম্ব — কারণ level-এর উপর f পরিবর্তন হয় না।

Steepest ascent

max_{‖u‖=1} ∇f·u = ‖∇f‖, achieved at u=∇f/‖∇f‖

Cauchy–Schwarz দিয়ে প্রমাণিত — তাই −∇f সবচেয়ে দ্রুত নামার দিক।

Loss landscape হিসাবে

Deep learning-এ 2D 'pretty picture' প্রতারণামূলক — প্রকৃত landscape million-dim। তবু intuition: saddle (3D-তে ঘোড়ার পিঠ), ravine (সরু উপত্যকা), plateau।