\phi_X(t) = \mathbb{E}[e^{itX}]

|\mathbb{E}(e^{itX})| \le \mathbb{E}[|e^{itX}|] = 1.

Dimostrazione.

• Uniforme continuità: Siano s, t \in \mathbb{R}, allora

  |\phi_X(t+s) - \phi_X(t)| = |\mathbb{E}(e^{i(t+s)X}) - \mathbb{E}(e^{itX})| = |\mathbb{E}[e^{itX}(e^{isX}-1)]| \le \mathbb{E}[|e^{isX}-1|].

  Poiché |e^{isX}-1| \le 2 e e^{isX}-1 \to 0 per s \to 0, per il teorema della convergenza dominata si ha che \mathbb{E}[|e^{isX}-1|] \to 0 quando s \to 0. \square

\int \varphi(t) \int e^{itx} \mathbb P_X(\mathrm d x) \mathrm d t = \int \left(\int \varphi(t) e^{itx} \mathrm d t\right) \mathbb P_X(\mathrm d x) = \int \hat{\varphi}(x) \mathbb P_X(\mathrm d x).

\phi_X^{(j)}(t) = i^j \mathbb{E}[X^j e^{itX}]

Dimostrazione. Per k=1, consideriamo il rapporto incrementale:

\frac{\phi_X(t+h) - \phi_X(t)}{h} = \mathbb{E}\left[\frac{e^{i(t+h)X} - e^{itX}}{h}\right] = \mathbb{E}\left[e^{itX}\left(\frac{e^{ihX}-1}{h}\right)\right].

Poiché \left|e^{itX} \frac{e^{ihX}-1}{h}\right| \le |X| e \mathbb{E}[|X|] < \infty, per il teorema della convergenza dominata il limite per h \to 0 passa sotto il segno di integrale, ottenendo \mathbb{E}[e^{itX} iX].

Per la derivata seconda, si procede analogamente:

\frac{\phi_X'(t+h) - \phi_X'(t)}{h} = i \mathbb{E}\left[X e^{itX} \left(\frac{e^{ihX}-1}{h}\right)\right] \to (i)^2 \mathbb{E}[X^2 e^{itX}].

Si conclude osservando che \left|i X e^{itX} \frac{e^{ihX}-1}{h}\right| \le |X|^2, che è integrabile per ipotesi. \square

\frac{\partial^{a_1 + \dots + a_d}}{\partial t_1^{a_1} \dots \partial t_d^{a_d}} \phi_X(t) = i^{a_1 + \dots + a_d} \mathbb{E}[X_1^{a_1} \dots X_d^{a_d} e^{it \cdot X}]

\phi_X(t) = \sum_{n=0}^\infty \frac{\phi_X^{(n)}(t_0)}{n!} (t-t_0)^n

Dimostrazione. Se t_0 \in \mathbb{R}, \phi_X^{(n)}(t_0) = i^n \mathbb{E}[X^n e^{it_0 X}], da cui |\phi_X^{(n)}(t_0)| \le \mathbb{E}[|X|^n] \le M \frac{n!}{r^n}. Sviluppando in serie di Taylor con resto di Lagrange:

\phi_X(t) = \sum_{k=0}^n \frac{1}{k!} \phi_X^{(k)}(t_0) (t-t_0)^k + R_n

con |R_n| \le \frac{|\phi_X^{(n+1)}(\xi)|}{(n+1)!} |t-t_0|^{n+1} \le M \left(\frac{|t-t_0|}{r}\right)^{n+1}, che tende a 0 se |t-t_0| < r.

Per il corollario, \mathbb{E}[X^n] = \mathbb{E}[Y^n] \implies \phi_X^{(n)}(0) = \phi_Y^{(n)}(0) per ogni n. Quindi \phi_X(t) = \phi_Y(t) per |t| < r. Ripetendo l’argomento centrando lo sviluppo in punti vicini al bordo dell’intervallo di convergenza, si ottiene \phi_X = \phi_Y su tutto \mathbb{R}. \square

g(z) = \mathbb{E}[f(z-X)]

Dimostrazione. Sia A \in \mathcal{B}(\mathbb{R}), allora:

\begin{aligned}
\mathbb{P}(X+Y \in A) &= \iint_{\{x+y \in A\}} \mathbb P_X(\mathrm d x) P_Y(\mathrm d y) = \int \left( \int \mathbb{1}_A(x+y) f(y) \mathrm d y \right) \mathbb P_X(\mathrm d x) \\
&= \int \left( \int \mathbb{1}_A(z) f(z-x) \mathrm d z \right) \mathbb P_X(\mathrm d x) \\
&= \int \mathbb{1}_A(z) \left( \int f(z-x) \mathbb P_X(\mathrm d x) \right) \mathrm d z \\
&= \int \mathbb{1}_A(z) \mathbb{E}[f(z-X)] \mathrm d z
\end{aligned}

dove abbiamo usato il cambio di variabile z = x+y e il teorema di Fubini-Tonelli. \square

Dimostrazione. Per il Lemma 3.4.1, la densità di X + \sqrt{\epsilon} Y è data da g_\epsilon(z) = \mathbb{E}[f_{\sqrt{\epsilon} Y}(z-X)]. Poiché \sqrt{\epsilon} Y \sim N(0, \epsilon), la sua densità è f_{\sqrt{\epsilon} Y}(u) = \frac{1}{\sqrt{2\pi\epsilon}} e^{-\frac{u^2}{2\epsilon}}. Quindi:

g_\epsilon(z) = \frac{1}{\sqrt{2\pi\epsilon}} \int e^{-\frac{(z-x)^2}{2\epsilon}} \mathbb P_X(\mathrm d x)

• Continuità e limitatezza: Ricordiamo che

  \int_{-\infty}^{+\infty} e^{-ax^2} \mathrm d x = \sqrt{\dfrac{\pi}{a}} \quad \text{per ogni } a > 0.

  dunque, per ogni z:

  \int_{-\infty}^{+\infty} e^{-\frac{(z-x)^2}{2\epsilon}} \mathrm d x = \sqrt{2\pi\epsilon}.

  e per arbitrarietà di \epsilon > 0 si ha che e^{-\frac{(z-x)^2}{2\epsilon}} \le 1. Si ha g_\epsilon(z) \le \frac{1}{\sqrt{2\pi\epsilon}}, dunque g_\epsilon è limitata. Per la continuità, sia z_n \to z. Allora e^{-\frac{(z_n-x)^2}{2\epsilon}} \to e^{-\frac{(z-x)^2}{2\epsilon}} per ogni x. Poiché l’integranda è dominata dalla funzione costante 1 (che è integrabile rispetto alla misura di probabilità P_X), per il teorema della convergenza dominata si ha g_\epsilon(z_n) \to g_\epsilon(z).

• Caso con densità f: Se X ha densità f continua e limitata, allora:

  g_\epsilon(z) = \frac{1}{\sqrt{2\pi\epsilon}} \int e^{-\frac{(z-x)^2}{2\epsilon}} f(x) \mathrm d x \le \sup_x f(x) \cdot \frac{1}{\sqrt{2\pi\epsilon}} \int e^{-\frac{(z-x)^2}{2\epsilon}} \mathrm d x = \sup_x f(x)

  Effettuando il cambio di variabile y = \frac{x-z}{\sqrt{\epsilon}}, ovvero x = z + \sqrt{\epsilon}y e \mathrm d x = \sqrt{\epsilon} \mathrm d y, otteniamo:

  g_\epsilon(z) = \frac{1}{\sqrt{2\pi}} \int e^{-\frac{1}{2}y^2} f(z + \sqrt{\epsilon}y) \mathrm d y = \mathbb{E}[f(z + \sqrt{\epsilon}Y)]

  dove Y \sim N(0,1). Poiché f è continua, f(z + \sqrt{\epsilon}y) \to f(z) per \epsilon \to 0. Inoltre |f(z + \sqrt{\epsilon}y)| \le \sup_x f(x), che è integrabile rispetto alla misura Gaussiana standard. Per il teorema della convergenza dominata:

  \lim_{\epsilon \to 0} g_\epsilon(z) = \mathbb{E}[\lim_{\epsilon \to 0} f(z + \sqrt{\epsilon}Y)] = \mathbb{E}[f(z)] = f(z)

\square

\int |\hat{f}(t)|^2 \mathrm d t = 2\pi \int |f(x)|^2 \mathrm d x

\int |\phi(t)|^2 \mathrm d t = 2\pi \int |f(x)|^2 \mathrm d x

f_X(x) = \frac{1}{2\pi} \int \phi_X(t) e^{-itx} \mathrm d t

Dimostrazione. Mostriamo innanzitutto che l’espressione a destra è reale:

\overline{\frac{1}{2\pi} \int \phi_X(t) e^{-itx} \mathrm d t} = \frac{1}{2\pi} \int \overline{\phi_X(t)} e^{itx} \mathrm d t = \frac{1}{2\pi} \int \phi_X(-t) e^{itx} \mathrm d t

Effettuando il cambio di variabile u = -t, otteniamo \frac{1}{2\pi} \int \phi_X(u) e^{-iux} \mathrm d u, che è l’espressione di partenza.

Mostriamo che f_X è continua e limitata:

• Limitatezza: |f_X(x)| \le \frac{1}{2\pi} \int |\phi_X(t)| \mathrm d t < \infty poiché \phi_X è integrabile.
• Continuità: Sia x_n \to x. Allora \phi_X(t) e^{-itx_n} \to \phi_X(t) e^{-itx} puntualmente e |\phi_X(t) e^{-itx_n}| \le |\phi_X(t)|. Per il teorema della convergenza dominata, f_X(x_n) \to f_X(x).

Supponiamo ora che X abbia densità f_X continua e limitata. Se g è continua a supporto compatto, per il teorema di Plancherel applicato a f_X + g e singolarmente a f_X e g si ha:

2\pi \int |f_X(x) + g(x)|^2 \mathrm d x = \int |\hat{f}_X(t) + \hat{g}(t)|^2 \mathrm d t \implies 2\pi \int f_X(x) g(x) \mathrm d x = \text{Re} \int \hat{f}_X(t) \overline{\hat{g}(t)} \mathrm d t

Sviluppando l’integrale a destra:

\int \hat{f}_X(t) \overline{\hat{g}(t)} \mathrm d t = \int \phi_X(t) \left( \int g(x) e^{itx} \mathrm d x \right) \mathrm d t = \int g(x) \left( \int \phi_X(t) e^{itx} \mathrm d t \right) \mathrm d x

Da cui \int f_X(x) g(x) \mathrm d x = \int g(x) \left( \frac{1}{2\pi} \int \phi_X(t) e^{-itx} \mathrm d t \right) \mathrm d x. Sia A = \{x \mid f_X(x) > \frac{1}{2\pi} \int \phi_X(t) e^{-itx} \mathrm d t\} un insieme aperto. Se A fosse non vuoto, potremmo scegliere g continua, positiva e con supporto compatto in A. Allora:

\int \left( f_X(x) - \frac{1}{2\pi} \int \phi_X(t) e^{-itx} \mathrm d t \right) g(x) \mathrm d x > 0

che è un assurdo. Dunque |A|=0 e poiché A è aperto questo significa A=\emptyset. Dunque f_X(x) \le \frac{1}{2\pi} \int \phi_X(t) e^{-itx} \mathrm d t. Analogamente si dimostra \ge, da cui f_X(x) = \frac{1}{2\pi} \int \phi_X(t) e^{-itx} \mathrm d t.

Sia ora X v.a. con funzione caratteristica integrabile. Consideriamo X + \sqrt{\epsilon} Z con Z gaussiana standard indipendente da X. Ricordiamo che \phi_Z(t) = e^{-t^2/2}, quindi \phi_{X+\sqrt{\epsilon}Z}(t) = \phi_X(t) e^{-\epsilon t^2/2} e la densità g_\epsilon di X+\sqrt{\epsilon}Z è data da:

g_\epsilon(x) = \frac{1}{2\pi} \int \phi_{X+\sqrt{\epsilon}Z}(t) e^{-itx} \mathrm d t = \frac{1}{2\pi} \int \phi_X(t) e^{-\epsilon t^2/2} e^{-itx} \mathrm d t

Osserviamo intanto che per ogni x,

\frac{1}{2\pi} \int \phi_X(t) e^{-\epsilon t^2/2} e^{-itx} \mathrm d t \xrightarrow{\epsilon \to 0} \frac{1}{2\pi} \int \phi_X(t) e^{-itx} \mathrm d t

per convergenza dominata.

Sia dunque g continua e a supporto compatto (dunque anche limitata). Allora \mathbb{E}[g(X+\sqrt{\epsilon}Z)] \xrightarrow{\epsilon \to 0} \mathbb{E}[g(X)], infatti X+\sqrt{\epsilon}Z \xrightarrow{P.U.} X \implies g(X+\sqrt{\epsilon}Z) \xrightarrow{P.U.} g(X) perché g è continua; inoltre, poiché g è limitata, si può applicare la convergenza dominata.

D’altra parte \mathbb{E}[g(X+\sqrt{\epsilon}Z)] = \int g(x) g_\epsilon(x) \mathrm d x. Si ha:

|g_\epsilon(x)| = \left|\frac{1}{2\pi} \int \phi_X(t) e^{-itx} e^{-\epsilon t^2/2} \mathrm d t\right| \le \frac{1}{2\pi} \int |\phi_X(t)| \mathrm d t

e |g(x) g_\epsilon(x)| \le |g(x)| \frac{1}{2\pi} \int |\phi_X(t)| \mathrm d t.

Dunque, per convergenza dominata:

\mathbb{E}[g(X+\sqrt{\epsilon}Z)] \to \int g(x) \left(\frac{1}{2\pi} \int \phi_X(t) e^{-itx} \mathrm d t\right) \mathrm d x.

Dunque \mathbb{E}[g(X)] = \int g(x) \left(\frac{1}{2\pi} \int \phi_X(t) e^{-itx} \mathrm d t\right) \mathrm d x.

Questo è vero per g continua a supporto compatto. Quindi è vero anche per g continua limitata positiva: infatti presa \psi_n come in figura, si ha che la tesi è vera per g \psi_n \nearrow g, dunque si conclude per convergenza monotona. Per g continua limitata a segno variabile si conclude usando g = g_+ - g_-.

Segue che f_X(x) = \frac{1}{2\pi} \int \phi_X(t) e^{-itx} \mathrm d t dal fatto che due v.a. X, Y hanno la stessa legge se \forall g continua e limitata \mathbb{E}[g(X)] = \mathbb{E}[g(Y)]. \square

Dimostrazione. Sia Z gaussiana standard indipendente da X e Z' gaussiana standard indipendente da Y. X + \sqrt{\epsilon} Z ha funzione caratteristica integrabile, infatti \phi_{X+\sqrt{\epsilon}Z}(t) = \phi_X(t) e^{-\epsilon t^2/2}. Similmente \phi_{Y+\sqrt{\epsilon}Z'}(t) = \phi_Y(t) e^{-\epsilon t^2/2}. (Nota: \phi_X e \phi_Y sono limitate, e^{-\epsilon t^2/2} è integrabile). Per il teorema precedente, poiché \phi_X(t) = \phi_Y(t), X+\sqrt{\epsilon}Z e Y+\sqrt{\epsilon}Z' hanno la stessa densità, dunque la stessa legge. Dunque \mathbb{E}[g(X+\sqrt{\epsilon}Z)] = \mathbb{E}[g(Y+\sqrt{\epsilon}Z')] per ogni g continua e limitata. Dunque, per convergenza dominata, per \epsilon \to 0, \mathbb{E}[g(X+\sqrt{\epsilon}Z)] \xrightarrow{\epsilon \to 0} \mathbb{E}[g(X)], \mathbb{E}[g(Y+\sqrt{\epsilon}Z')] \xrightarrow{\epsilon \to 0} \mathbb{E}[g(Y)] \implies \mathbb{E}[g(X)] = \mathbb{E}[g(Y)] \implies X e Y hanno la stessa legge. \square

Dimostrazione. \implies) Visto. \Longleftarrow) Si può costruire una coppia di v.a. indipendenti X' e Y' con X e X' aventi la stessa legge e Y e Y' aventi la stessa legge. Dunque: \phi_X(t_1) = \phi_{X'}(t_1), \phi_Y(t_2) = \phi_{Y'}(t_2), dunque: \phi_{(X,Y)}(t) = \phi_X(t_1) \phi_Y(t_2) = \phi_{X'}(t_1) \phi_{Y'}(t_2) = \phi_{(X',Y')}(t), dunque (X,Y) e (X',Y') hanno la stessa legge, e dato che X' e Y' sono indipendenti anche X e Y lo sono. \square

\Psi_X(t) \coloneqq \mathbb{E}[e^{tX}]

\tag{*}
\sum_{n=0}^{+\infty} \frac{a^n}{n!} \mathbb{E}[|X|^n] < +\infty