Mosbarazimi i Jensenit

Në matematikë, mosbarazimi i Jensenit, e quajtur sipas matematikanit danez Johan Jensen, lidh vlerën e një funksioni të lugët të një integrali me integralin e funksionit të lugët. Ajo u vërtetua nga Jenseni në vitin 1906, duke u mbështetur në një provë të mëparshme të së njëjtës pabarazi për funksionet e dyfishta të diferencueshme nga Otto Hölder në 1889. Duke pasur parasysh përgjithësinë e saj, pabarazia shfaqet në shumë forma në varësi të kontekstit, disa prej të cilave janë paraqitur më poshtë. Në formën e tij më të thjeshtë, pabarazia thotë se transformimi i lugët i një mesatareje është më i vogël ose i barabartë me mesataren e zbatuar pas transformimit të lugët; është një përfundim i thjeshtë se e kundërta është e vërtetë për shndërrimet e mysëta.

Pabarazia e Jensenit përgjithëson pohimin se një vijë sekante e një funksioni të lugët shtrihet mbi grafikun e tij.

Vizualizimi i lugtësisë dhe pabarazisë së Jensen

Pabarazia e Jensenit përgjithëson pohimin se vija sekante e një funksioni të lugët qëndron mbi grafikun e funksionit, që është pabarazia e Jensenit për dy pika: vija sekante përbëhet nga mesataret e peshuara të funksionit të lugët (për t ∈ [0,1]),

$tf(x_{1})+(1-t)f(x_{2}),$

ndërsa grafiku i funksionit është funksioni i lugët i mesatares së peshuar,

$f(tx_{1}+(1-t)x_{2}).$

Kështu, pabarazia e Jensenit është

$f(tx_{1}+(1-t)x_{2})\leq tf(x_{1})+(1-t)f(x_{2}).$

Në kontekstin e teorisë së probabilitetit, përgjithësisht shprehet në formën e mëposhtme: nëse X është një ndryshore e rastit dhe φ është një funksion i lugët, atëherë

$\varphi (\operatorname {E} [X])\leq \operatorname {E} \left[\varphi (X)\right].$

Zbatime dhe raste të veçanta

Trajta që përfshin një funksion të dendësisë së probabilitetit

Supozoni se Ω është një nëngrup i matshëm i vijës reale dhe $f(x)$ është një funksion jo negativ i tillë që

$\int _{-\infty }^{\infty }f(x)\,dx=1.$

Në gjuhën probabiliste, $f$ është një funksion i dendësisë së probabilitetit .

Atëherë pabarazia e Jensen bëhet pohimi i mëposhtëm në lidhje me integralet e lugëta:

Nëse g është ndonjë funksion i matshëm me vlerë reale dhe ${\textstyle \varphi }$ është i lugët mbi shtrirjen e g, atëherë

$\varphi \left(\int _{-\infty }^{\infty }g(x)f(x)\,dx\right)\leq \int _{-\infty }^{\infty }\varphi (g(x))f(x)\,dx.$

Nëse $g(x)=x$, atëherë kjo formë e pabarazisë reduktohet në një rast të veçantë të përdorur zakonisht:

$\varphi \left(\int _{-\infty }^{\infty }x\,f(x)\,dx\right)\leq \int _{-\infty }^{\infty }\varphi (x)\,f(x)\,dx.$

Kjo aplikohet në metodat variacionale Bejesiane .

Shembull: momentet çift të një ndryshoreje të rastit

Nëse $g(x)=x^{2n}$, dhe X është një ndryshore e rastit, atëherë g është i lugët si

${\frac {d^{2}g}{dx^{2}}}(x)=2n(2n-1)x^{2n-2}\geq 0\quad \forall \ x\in \mathbb {R}$

dhe kështu

$g(\operatorname {E} [X])=(\operatorname {E} [X])^{2n}\leq \operatorname {E} [X^{2n}].$

Fizika statistikore

Pabarazia e Jensenit ka një rëndësi të veçantë në fizikën statistikore kur funksioni i lugët është një eksponencial, duke dhënë:

$e^{\operatorname {E} [X]}\leq \operatorname {E} \left[e^{X}\right],$

ku pritjet matematike janë në lidhje me disa shpërndarje probabiliteti në ndryshoren e rastit X

Teoria e informacionit

Nëse $p(x)$ është dendësia e vërtetë e probabilitetit për $X$, dhe $q(x)$ është një dendësi tjetër, atëherë duke zbatuar pabarazinë e Jensenit për ndryshoren e rastit $Y(x)={\frac {q(x)}{p(x)}}$ dhe funksionin e lugët $\phi (y)=-\log(y)$ jep

$\operatorname {E} [\varphi (Y)]\geq \varphi (\operatorname {E} [Y])$

Prandaj:

$-D(p(x)\|q(x))=\int p(x)\log \left({\frac {q(x)}{p(x)}}\right)\,dx\leq \log \left(\int p(x){\frac {q(x)}{p(x)}}\,dx\right)=\log \left(\int q(x)\,dx\right)=0$

një rezultat i quajtur pabarazia e Gibbs-it .

Teorema Rao–Blackwell

Nëse L është një funksion i lugët dhe ${\mathfrak {G}}$ një nën-sigma-algjebër, atëherë, nga versioni i kushtëzuar i pabarazisë së Jensenit, marrim

$L(\operatorname {E} [\delta (X)\mid {\mathfrak {G}}])\leq \operatorname {E} [L(\delta (X))\mid {\mathfrak {G}}]\quad \Longrightarrow \quad \operatorname {E} [L(\operatorname {E} [\delta (X)\mid {\mathfrak {G}}])]\leq \operatorname {E} [L(\delta (X))].$

Pra, nëse $\delta (x)$ është një vlerësues i një parametri të pavëzhguar $\theta$ dhënë një vektor të vëzhguesve $X$ ; dhe nëse $T(X)$ është një statistikë e mjaftueshme për $\theta$ atëherë një vlerësues i përmirësuar, në kuptimin e të paturit një humbje më të vogël të pritshme L, mund të merret duke llogaritur

$\delta _{1}(X)=\operatorname {E} _{\theta }[\delta (X')\mid T(X')=T(X)],$

pritja matematike e $\delta$ në lidhje me $\theta$, marrë mbi të gjithë vektorët e mundshëm të vëzhgimeve $X$ të përputhshëm me të njëjtën vlerë të $T(X)$ si ajo e vëzhguar. Më tej, për shkak se T është një statistikë e mjaftueshme, $\delta _{1}(X)$ nuk varet nga $\theta$, prandaj bëhet statistikë.