Opérateurs non-bornés et opérateur adjoint

En dimension finie toutes les applications linéaires sont continues, mais ce n’est plus le cas en dimension infinie. Dans ce contexte on dit qu’une application $A:{\mathcal H}\longrightarrow{\mathcal G}$ est bornée sur l’espace vectoriel normé $\mathcal H$ si : $$\exists C>0,\, \forall {\bf u}\in{\mathcal H},\, \Vert A{\bf u}\Vert \leq C\Vert {\bf u}\Vert$$ la plus petite constante $C$ vérifiant l’inégalité précédente étant la norme $\Vert A\Vert$ de l’opérateur. S’il n’existe pas de telle constante on dit que $A$ est non-bornée. Beaucoup d'opérateurs bien connus des espaces de fonctions sont des opérateurs non-bornés , comme la dérivation par exemple. Sous certaines conditions on peut étendre les propriétés des opérateurs bornées aux opérateurs non-bornées, en particulier les notions de spectre  dont j'ai parlé dans un précédent billet.

Domaine d’un opérateur non-borné

Pour bien définir un opérateur non-borné il faut lui donner un domaine de définition le plus grand possible. Hélas ce choix n'est pas toujours unique, pour le comprendre on a besoin des 4 définitions suivantes :

Domaine d'un opérateur

${\mathcal D}(A)$=“domaine de l’opérateur $A$” est un sev de ${\mathcal H}$ sur lequel l’opérateur est défini : $${\mathcal D}(A)\subset\{{\bf u}\in{\mathcal H}\,\vert\,\Vert A{\bf u}\Vert<\infty \}$$

extension d'un opérateur

$B$ est une extension de l’opérateur $A$ (noté $A\subset B$) si $$\forall {\bf u}\in {\mathcal D}(A)\cap {\mathcal D}(B)\,et\, A{\bf u}=B{\bf u}$$

opérateur fermé

On dit que $A$ est fermé sur ${\mathcal D}(A)$ si $$\forall ({\bf u}_n)_{\mathbb N}\subset {\mathcal D}(A),\, \left[\lim_{n\to\infty}{\bf u}_n={\bf u} \,et\,\lim_{n\to\infty}A{\bf u}_n={\bf v} \Rightarrow {\bf u}\in{\mathcal D}(A)\,et\, A{\bf u}={\bf v}\right]$$

fermeture $\bar A$ d'un opérateur $A$

est une extension de $A$ qui est fermée, elle existe si $$\forall ({\bf u}_n)_{\mathbb N}\subset {\mathcal D}(A),\, \left[\lim_{n\to\infty}{\bf u}_n={\bf 0} \,et\,\lim_{n\to\infty}A{\bf u}_n={\bf v} \Rightarrow {\bf v}={\bf 0}\right]$$

L'idée est que quand on définit un opérateur non-borné il faut lui obligatoirement lui associer un domaine, le plus grand possible, en faisant en sorte que l’opérateur soit fermé. On a de manière évidente :

Théorème si ${\mathcal D}(A)$ est dense la fermeture est unique.

On peut aussi remarquer que, d'après le théorème du graphe fermé $A$ un opérateur qui serait fermé sur ${\mathcal H}$ est forcément borné.

Calcul de la fermeture d’opérateurs 

On va prendre quelques exemples pour comprendre comme trouver un domaine sur lequel l'opérateur est fermé.

opérateur de trace $A{\bf u}(x)={\bf u}(0)$

cet opérateur est définit au moins sur $C^0([0,1])$ mais cet opérateur ne possède pas de fermeture dans ${\mathbb L}^2([0,1])$ car   $${\bf u}_n(x)=(1-nx){\bf 1}_{[0,{1\over n}]} \Rightarrow \Vert {\bf u}_n\Vert_2^2=\int_0^{1\over n} (1-nx)^2 \, dx={1\over 3 n}\mathop{\longrightarrow}_{n\to\infty}0$$ et $$A{\bf u}_n=1\not\!\!\!\!\mathop{\longrightarrow}_{n\to\infty}A{\bf 0}=0$$ on ne pourra donc jamais trouver un domaine sur lequel l’opérateur est fermé!

opérateur de dérivation

Soit $A{\bf u}(x)=-i\partial_x {\bf u}(x)$ dans ${\mathcal H}={\mathbb L}^2([-1,1])$.

• Cet opérateur n’est pas fermé sur ${\mathcal D}(A)=C^\infty ([-1,1])$ car  en prenant
  $$\begin{aligned} {\bf u}_n(x)&=\sqrt{x^2+{1\over n}}\mathop{\longrightarrow}_{n\to\infty}\vert x\vert\notin C^\infty([-1,1])\\ A{\bf u}_n(x)&=-i{x\over \sqrt{x^2+{1\over n}}}\mathop{\longrightarrow}_{n\to\infty}-i\,{\rm signe}(x)\in {\mathbb L}^2([-1,1]) \end{aligned}$$
• mais il est fermé sur ${\mathcal D}(A)=H^1_0 ([-1,1])=\overline{C^\infty_0 ([-1,1])}$ (fermeture pour la norme de $H^1 ([-1,1])$ ) car pour tout $\phi\in C^\infty_0([-1,1])$
  $$\begin{aligned} \langle A {\bf u}_n,\phi\rangle&= \int_{-1}^1 -i\partial_x {\bf u}_n(x)\overline{\phi(x)}dx =\underbrace{\left[-i{\bf u}_n(x)\overline{\phi(x)}\right]_{-1}^1}_{=0} -\int_{-1}^1 -i{\bf u}_n(x)\overline{\partial_x\phi(x)}dx\\ &\mathop{\longrightarrow}_{n\to\infty} 0+\langle {\bf u},-i\partial_x\phi\rangle \Rightarrow \langle A {\bf u}_n,\phi\rangle \mathop{\longrightarrow}_{n\to\infty} \langle {\bf v},\phi\rangle=\langle {\bf u},-i\partial_x\phi\rangle\end{aligned}$$ donc ${\bf v}=-i\partial_x {\bf u}=A {\bf u}$ au sens des distributions (car on l'a vérifié pour l’ensemble des fonctions tests $C^\infty_0([-1,1])$ ) et en plus on a bien ${\bf u}\in {\mathcal D}(A)$ puisque ${\bf v}\in {\mathbb L}^2([-1,1])$.
• $A$ est aussi fermé sur ${\mathcal D}(A)=\{{\bf u}\in H^1 ([-1,1])\,\vert\, {\bf u}(1)={\bf u}(-1)\}$ avec la même démonstration que ci-dessus, car la condition de bord en $\pm 1$ (bien définie  puisque $H^1 ([-1,1])\subset C^0 ([-1,1])$ ) assure la nullité du crochet dans l’intégration par partie !
• les deux domaines précédents ne sont pas denses dans $\mathcal H$, ce qui explique qu’on trouve des extensions fermées différentes. On peut pourtant définir la fermeture $\bar A$ sur $H^1([-1,1])$ . Pour le démontrer il faut prendre $\lim_{n\to\infty}{\bf u}_n={\bf 0}$ telle que $\lim_{n\to\infty}A{\bf u}_n={\bf v}$ et vérifier que ${\bf v}={\bf 0}$ ce qui revient à la même démonstration que précédemment:
  $$\begin{aligned} \langle A {\bf u}_n,\phi\rangle&= \int_{-1}^1 -i\partial_x {\bf u}_n(x)\overline{\phi(x)}dx =\left[-i{\bf u}_n(x)\overline{\phi(x)}\right]_{-1}^1 \underbrace{-\int_{-1}^1 -i{\bf u}_n(x)\overline{\partial_x\phi(x)}dx}_{\mathop{\longrightarrow}_{n\to\infty} 0}\end{aligned}$$ Il faut donc obtenir ${\bf u}_n(\pm1)\to0$ pour annuler le crochet, ce qui découle de l’équation : $$\begin{aligned} \int_{-1}^t ({\bf u}_n(x))^2 dx =\underbrace{\left[(x\pm1)({\bf u}_n(x))^2\right]_{-1}^t}_{=-2({\bf u}_n(\mp1))^2} -\int_{-1}^t 2(x\pm1){\bf u}_n(x){\partial_x{\bf u}_n(x)}dx\end{aligned}$$ les deux intégrales tendent vers 0 donc le crochet aussi!

Opérateur adjoint

Lorsqu’un opérateur non-borné à un domaine dense dans ${\mathcal H}$ on peut définir son adjoint  de la même manière qu'on peut le faire en dimension finie. Pour simplifier les choses on va se placer dans le cas ou ${\mathcal H}$ est un espace de Hilbert muni de son produit scalaire $\langle \cdot,\cdot\rangle)$  de sorte que l'opérateur adjoint soit aussi un opérateur dans $\mathcal H$ .

opérateur adjoint

si $A$ est de domaine dense ${\mathcal D}(A)$ alors on peut définir $A^*{\bf v}={\bf w}$ tel que $\langle A{\bf u},{\bf v}\rangle=\langle{\bf u},{\bf w}\rangle,\, \forall {\bf u}\in {\mathcal D}(A)$ c'est un opérateur fermé sur $${\mathcal D}(A^*)=\{{\bf v}\in {\mathcal H}\,\vert\, \exists {\bf w} \in {\mathcal H},\,\forall {\bf u} \in {\mathcal D}(A),\, \langle A{\bf u},{\bf v}\rangle =\langle{\bf u},{\bf w}\rangle\}$$

opérateur auto-adjoint

$A$ est symétrique si $A\subset A^*$ et auto-adjoint si $A=A^*$ , ce qui veut dire $A\subset A^*$ avec le même domaine

Par définition l'opérateur adjoint est  fermé. A partir de là un opérateur auto-adjoint doit forcément être fermé. On a le résultat suivant :

Théorème  Pour tout opérateur non-borné $A^{**}=\bar A$    

Les opérateurs auto-adjoints jouent un rôle très important dans certaines applications des opérateurs non-bornés (en physique quantique par exemple).  On s'intéresse rarement en détail à la définition de leur domaine, ce qui est bien dommage pour comprendre les contraintes (souvent parachutées) qui apparaissent dans leur définition. Là encore prenons quelques exemples :

opérateur de dérivation

L’opérateur $A=-i\partial_x$ est formellement auto-adjoint sur le domaine $C^\infty_0 ([-1,1])$: $$\begin{aligned} \langle A {\bf u},{\bf v}\rangle&= \int_{-1}^1 -i\partial_x {\bf u}_n(x)\overline{{\bf v}(x)}dx\\ &=\underbrace{\left[-i{\bf u}(x)\overline{{\bf v}(x)}\right]_{-1}^1}_{=0} +\int_{-1}^1 {\bf u}(x)\overline{-i \partial_x{\bf v}(x)}dx =\langle {\bf u},-i\partial_x{\bf v}\rangle\\ &=\langle {\bf u},A^*{\bf v}\rangle\end{aligned}$$ mais pas fermé. Tout le problème est d’étendre le domaine en garantissant la nullité du crochet dans l’intégration par parties. On a montré juste avant que $A$  est bien fermé pour les domaines ${\mathcal D}(A)=H^1_0 ([-1,1])$ et ${\mathcal D}(A)=\{{\bf u}\in H^1 ([-1,1])\,\vert\, {\bf u}(1)={\bf u}(-1)\}$ qui ne sont pas dense dans $\mathcal H$ c'est un bon exemple de situation où il existe plusieurs extensions auto-adjointes.

une extension non-auto-adjointe

si on prend le domaine ${\mathcal D}(A)=H^1 ([-1,1])$ alors $$\begin{aligned} \langle A {\bf u},{\bf v}\rangle &=\left[-i{\bf u}(x)\overline{{\bf v}(x)}\right]_{-1}^1 +\int_{-1}^1 {\bf u}(x)\overline{-i \partial_x{\bf v}(x)}dx\\ &=-i({\bf u}(1)\overline{{\bf v}(1)}-{\bf u}(-1)\overline{{\bf v}(-1)}) +\int_{-1}^1 {\bf u}(x)\overline{-i \partial_x{\bf v}(x)}dx\\ &=\langle {\bf u},i(\delta_1-\delta_{-1}){\bf v}\rangle +\langle {\bf u},-i\partial_x{\bf v}\rangle =\langle {\bf u},A^*{\bf v}\rangle\end{aligned}$$ et on a bien $A\subset A^* = A+i(\delta_1-\delta_{-1})$ qui est donc symétrique mais pas auto-adjoint.

l'opérateur Laplacien

soit $A=-\partial_x^2$ on cherche un domaine qui rende cet opérateur auto-adjoint dans ${\mathcal H}={\mathbb L}^2([0,+\infty[)$ et qui apriori doit être un sous-ensemble de $H^2 ([0,+\infty[)$. On commence par vérifier que $A$ est essentiellement auto-adjoint pour un ensemble dense de fonctions régulières comme $${\bf u},{\bf v}\in \{f\in C^\infty([0,+\infty[)\,\vert\,\exists M>0,\, f(x)=0\,\forall x>M\}$$ On voit alors qu’on a besoin d’une condition en $x=0$ pour rendre l’opérateur auto-adjoint : $$\begin{aligned} \langle A {\bf u},{\bf v}\rangle &=\left[-\partial_x{\bf u}(x)\overline{{\bf v}(x)}\right]_{0}^\infty +\int_{0}^\infty \partial_x{\bf u}(x)\overline{ \partial_x{\bf v}(x)}dx\\ &=\left[{\bf u}(x)\overline{ \partial_x{\bf v}(x)}-\partial_x{\bf u}(x)\overline{{\bf v}(x)}\right]_{0}^\infty -\int_{0}^\infty {\bf u}(x)\overline{ \partial_x^2{\bf v}(x)}dx\\ &=\underbrace{({\bf u}(0)\overline{\partial_x{\bf v}(0)}-\partial_x{\bf u}(0)\overline{{\bf v}(0)})}_{=0} +\langle {\bf u},A{\bf v}\rangle\end{aligned}$$ la manière la plus simple de rendre l’opérateur auto-adjoint est donc de prendre le domaine ${\mathcal D}(A)=H^2_0 ([0,+\infty[)=\overline{C^\infty_0 ([0,+\infty[)}$ (la fermeture pour la norme de $H^2 ([0,+\infty[)$ ) mais ce domaine n'est pas dense dans $\mathcal H$ donc il existe d’autres extensions possibles. On peut prendre par exemple les domaines : $${\mathcal H}_\alpha =\{{\bf u}\in H^2 ([0,+\infty[)\,\vert\, \partial_x{\bf u}(0)=\alpha\,{\bf u}(0)\}\; pour \; \alpha\in{\mathbb R}$$ sur chaque ${\mathcal H}_\alpha$  l'opérateur $A$  est bien auto-adjoint. La condition en $x=0$ est moins restrictive  que celle imposée par $H^2_0 ([0,+\infty[)$ .