ইনফরমেশন জিওমেট্রি
Distribution-এর space-এর জ্যামিতি — Fisher information ও natural gradient।
~২ মিনিট
শেখার লক্ষ্য
- Fisher information matrix
- KL ≈ ½ Fisher quadratic
- natural gradient
পূর্বপ্রয়োজন
probability, multivariable calculus।
Fisher information
Distribution-এর local curvature। Cramér–Rao bound: Var(θ̂) ≥ I⁻¹।
KL-Fisher সম্পর্ক
তাই Fisher = KL-induced Riemannian metric।
Natural gradient
Parameter-invariant; K-FAC, EWC, TRPO/PPO — সবই natural-gradient inspired।
কীবোর্ড: ← আগের · → পরের · / খুঁজুন · g শব্দকোষ