হাইপারবোলিক ফাংশন

sinh, cosh, tanh — exponential-এর জোড়/বিজোড় অংশ, neural network activation-এর শিকড়।

~২ মিনিট

শেখার লক্ষ্য

exp/log ফাংশন।

s inh x = (e^{x} - e^{- x}) /2, cos h x = (e^{x} + e^{- x}) /2, t anh x = s inh x / cos h x

cosh² x − sinh² x = 1 — circular identity-র hyperbolic প্রতিচ্ছবি।

(s inh)^{'} = cos h, (cos h)^{'} = s inh, (t anh)^{'} = 1 - t an h^{2} x = sec h^{2} x

tanh activation: output ∈(−1,1), zero-centered। Sigmoid σ(x)=1/(1+e⁻ˣ)=(1+tanh(x/2))/2। gradient vanish সমস্যা উভয়ের।

কীবোর্ড: ← আগের · → পরের · / খুঁজুন · g শব্দকোষ