différentielle seconde du déterminant

Pour continuer à manipuler le symbole de Levi-Civita  je me suis attaqué à un petit problème  simple : calculer la différentielle seconde de l'application déterminant sur ${\mathcal M}_{n,n}({\mathbb R})$  au point $Id_n$. C'est un exercice pas très difficile  et la formule obtenue est  assez simple  :
$$d^2{\rm det\ }(Id_n) (H,H)=\left({\rm Tr}(H)^2-{\rm Tr}(H^2)\right)$$
Autant  le calcul de la différentielle première du déterminant est fait dans la plupart des cours de calcul différentiel autant je n'ai trouvé quasiment aucune référence pour le calcul de la différentielle seconde! Dommage car c'est un prolongement pas très difficile du calcul de la différentielle première, qui donne un exemple non trivial de différentielle seconde et  utilise la définition du déterminant en terme de signature. En plus cette formule  intervient en physique dans les équations de Yang-Mills (elle apparaît dans le calcul des classes  de Chern du fibré vectoriel associé à l'espace-temps dans cette représentation!!).
Le déterminant  ${\rm det\ } :{\mathcal M}_{n,n}({\mathbb R})\rightarrow {\mathbb R}$  est  une application des matrices carrées à valeur dans ${\mathbb R}$ qui est ici considérée comme une application de  ${\mathbb R}^{n^2}\approx {\mathcal M}_{n,n}({\mathbb R})$ dans lui même qui s'exprime de façon explicite par :
$$ {\rm det\ }(M)={\rm det\ }\begin{pmatrix}m_{11}&\dots & m_{1n}\\ \vdots& &\vdots\\ m_{n1} &\dots &m_{nn}\end{pmatrix}
=\sum_{i_1,\dots,i_n=1}^n\epsilon_{i_1\dots i_n} m_{1i_1}\dots m_{ni_n}$$
on en déduit immédiatement que  ${\rm det\ }$ est polynomial en les variables $m_{ij}$ (homogène de degré n)   donc de classe $C^\infty$.  Pour calculer les différentielles première et seconde d'une fonction "f " au point "a" le plus simple est de chercher un développement limité  puisque d'après la formule de Taylor :
$$f(a+h)=f(a)+df(a)(h)+{1\over 2}d^2f(a)(h,h)+o(\vert h\vert^2)$$

Dans notre cas on développe le  déterminant près du point $a=Id_n=(\delta_{ij})_{i,j=1,\dots,n}$  , et on va trier les termes  suivant leur degré en $h$  pour faire apparaître les différentes parties du DL :
$$\begin{align*}
 {\rm det\ }(Id_n+H)&=\sum_{i_1,\dots,i_n=1}^n\epsilon_{i_1\dots i_n} (\delta_{1i_1}+h_{1i_1})\dots (\delta_{ni_n}+h_{ni_n})\\
&= \sum_{i_1,\dots,i_n=1}^n\epsilon_{i_1\dots i_n} \delta_{1i_1}\dots \delta_{ni_n}\\
&+\sum_{i_1,\dots,i_n=1}^n\epsilon_{i_1\dots i_n} \delta_{1i_1}\dots h_{ki_k}\dots\delta_{ni_n}&&\text{(il manque un $\delta_{ij}$)}\\
&+\sum_{i_1,\dots,i_n=1}^n\epsilon_{i_1\dots i_n} \delta_{1i_1}\dots h_{ki_k}\dots h_{pi_p}\dots\delta_{ni_n}&&\text{(il manque deux $\delta_{ij}$)}\\
&+\sum_{i,j=1}^n O\left(\vert h_{i,j}\vert^3\right) &&\text{(il manque plus de deux $\delta_{ij}$)}
\end{align*}
$$
on a :

• à cause des symboles de Kronecker $\delta_{1i_1}\dots \delta_{ni_n}$  la première somme se réduit à un seul terme $i_1=1,\dots,i_n=n$  qui donne : $$\sum_{i_1,\dots,i_n=1}^n\epsilon_{i_1\dots i_n} \delta_{1i_1}\dots \delta_{ni_n}=1={\rm det}(Id_n)$$
• De même la deuxième   somme se réduit à n termes $i_k=1,\dots n   $  (et $i_p=p$ si $p\neq k$  à cause des symboles de Kronecker qui s'annulent si $i_p\neq p$)  qui donnent : $$\sum_{i_1,\dots,i_n=1}^n\epsilon_{i_1\dots i_n} \delta_{1i_1}\dots h_{ki_k}\dots\delta_{ni_n}=\sum_{k=1}^n h_{kk}={\rm Tr}(H)= d{\rm det}(Id_n)(H)$$
• dans la troisième somme le symbole de Levi-Civita est non nul seulement si $\{i_k;i_p\}=\{k;p\}$ (et on a toujours $i_l=l$ si $l\neq k,p$  à cause des symboles de Kronecker)  la somme se réduit donc à une somme double sur $1\leq p< k\leq n $  le $\epsilon_{i_1\dots i_n}$  valant $1$ si $(i_k;i_p)=(k;p)$ et -1 pour (p;k)  donc  : $$\sum_{i_1,\dots,i_n=1}^n\epsilon_{i_1\dots i_n} \delta_{1i_1}\dots h_{ki_k}\dots h_{pi_p}\dots\delta_{ni_n}=\sum_{1\leq p< k\leq n} h_{kk}h_{pp}-h_{pk}h_{kp}$$
• enfin tous les termes avec plus de 3 coefficients $h_{ij}$  sont en $O\left(\vert h_{i,j}\vert^3\right)$ donc négligeable pour notre DL d'ordre 2.

On a obtenu  que
$${\rm det\ }(Id_n+H)=1+{\rm Tr}(H)+\sum_{1\leq p< k\leq n} h_{kk}h_{pp}-h_{pk}h_{kp}+O\left(\vert h_{i,j}\vert^3\right) $$
donc on a bien retrouvé que $d{\rm det}(Id_n)(H)={\rm Tr}(H)$  mais en plus on a que
$${1\over 2}d^2{\rm det\ }(Id_n) (H,H)=\sum_{1=p< k=n} h_{kk}h_{pp}-h_{pk}h_{kp}
={1\over 2}\sum_{p,k=1}^n h_{kk}h_{pp}-h_{pk}h_{kp}$$
Dans la dernière formule on a :

• ajouté les termes correspondants $k=p$ qui sont $h_{pp}h_{pp}-h_{pp}h_{pp}$  et s'annulent donc mutuellement 
• doublé le nombre de terme, d'où le facteur 1/2,  en prenant la somme sur $1\leq p , k\leq n $ au lieu de $1\leq p< k\leq n $

ce qui permet de réécrire la différentielle seconde en utilisant l'opérateur de trace :
$$\begin{align*}
d^2{\rm det\ }(Id_n) (H,H)
&=\sum_{p,k=1}^n h_{kk}h_{pp}-h_{pk}h_{kp}\\
 &=\underbrace{\left(\sum_{p=1}^n h_{kk}\right)}_{={\rm Tr}(H)}
\underbrace{\left(\sum_{p=1}^nh_{pp}\right)}_{={\rm Tr}(H)}
- \sum_{p=1}^n \underbrace{\left(\sum_{k=1}^nh_{pk}h_{kp}\right)}_{=(H^2)_{pp}}\\
&={\rm Tr}(H)^2-{\rm Tr}(H^2)
\end{align*}$$
Si on veut calculer la différentielle seconde de ${\rm det}$ en un autre point on peut utiliser   sa propriété de base ${\rm det}(A\times B)={\rm det}(A) \times {\rm det}(B)$. En supposant que $A$  est inversible on obtient
$$\begin{align*}
{\rm det\ }(A+H)
&={\rm det}(A) \times {\rm det}(Id_n+A^{-1}H)\\
 &={\rm det}(A)\left(1+{\rm Tr}(A^{-1}H)+{1\over 2}{\rm Tr}(A^{-1}H)^2-{\rm Tr}((A^{-1}H)^2)\right)+O\left(\Vert H\Vert^3\right)\\
 &={\rm det}(A)+{\rm Tr}({\rm det}(A)A^{-1}H)+{{\rm det}(A)\over 2}\left({\rm Tr}(A^{-1}H)^2-{\rm Tr}((A^{-1}H)^2)\right)+O\left(\Vert H\Vert^3\right)
\end{align*}$$
Si on remplace ${\rm det}(A)A^{-1}=^tCo(A)$ (la comatrice de A)
 $$\begin{align*}
{\rm det}(A+H)&={\rm det}(A)+{\rm Tr}(^tCo(A)H)\\
&+{{\rm det}(A)\over 2}\left({\rm Tr}\left({^tCo(A)\over {\rm det}(A)}H\right)^2-{\rm Tr}\left(\left({^tCo(A)\over {\rm det}(A)}H\right)^2\right)\right)+O\left(\Vert H\Vert^3\right)
\end{align*}$$
Cette expression qui n'est pas singulière en ${\rm det}(A)=0$ se prolonge donc au cas où $A$ n'est pas inversible (puisque ${\rm det}$  est $C^\infty$) . Si on sait que ${\rm Tr}(~^tXY)$ est le produit scalaire naturel sur les matrices carrées on retrouve bien l'expression du gradient du déterminant :
$$d {\rm det}(A)(H)={\rm Tr}(^tCo(A)H) \Rightarrow {\bf Grad}({\rm det}(A))=\nabla {\rm det}(A)=^tCo(A)$$
par contre l'expression pour la Hessienne semble un peu plus singulière* :
$$\begin{align*}
d^2 {\rm det}(A)(H,H)
&={{\rm det}(A)}\left({\rm Tr}\left({^tCo(A)\over {\rm det}(A)}H\right)^2-{\rm Tr}\left(\left({^tCo(A)\over {\rm det}(A)}H\right)^2\right)\right)\\
&={1\over {\rm det}(A)}\left({\rm Tr}(^tCo(A)H)^2-{\rm Tr}((^tCo(A)H)^2)\right)
\end{align*}$$
On peut en plus remarquer que $ d^2{\rm det\ }(A) (H,H)$ ne contient aucun terme de la forme $h_{ij}^2$ . Les dérivées partielles $\partial^2_{ij,ij}{\rm det}(A)$ sont donc nulles et $\Delta{\rm det}=0$ ...  le déterminant est donc une fonction harmonique !

* remarque : quand $n=2$  le DL du déterminant est exact (pas de termes cubiques!)  et peut se calculer aisément à la main. On trouve alors que :
$${\rm det}(Id_n+H)=1+{\rm Tr}(H)+{\rm det}(H)$$
La différentielle seconde est donc $ 2{\rm det}(\cdot)$  au point $Id_n$  mais aussi en n'importe quelle autre point $A$ :
$${\rm det}(A+H)={\rm det}(A)(1+{\rm Tr}(A^{-1}H)+{\rm det}(A^{-1}H))
= {\rm det}(A)+{\rm Tr}(^tCo(A)H)+{\rm det}(H)$$
le ${\rm det}(A)$ a été complètement absorbé! On pourra vérifier facilement que pour $n=2$ on a bien $2{\rm det}(H)={\rm Tr}(H)^2-{\rm Tr}(H^2)$.