Depuis sa découverte dans les années 50, le sommeil paradoxal n’a cessé d’intriguer les neuroscientifiques : comment expliquer que cet état de sommeil ressemble d’un point de vue cérébral à l’éveil ? Quelle est sa fonction ? Le spécialiste du sommeil Pierre-Hervé Luppi revient sur l’histoire de la recherche scientifique sur cette phase de sommeil énigmatique.
Régulièrement, en sciences, les découvertes sont le fruit du hasard. Cela a été le cas pour la première observation du sommeil dit paradoxal, en 1959, par le neurobiologiste Michel Jouvet : « Au départ, il ne travaillait pas sur le sommeil, mais sur l’apprentissage chez le chat, raconte Pierre-Hervé Luppi, directeur de recherche de l’équipe SLEEP (physiopathologie des réseaux neuronaux du cycle sommeil) au Centre de recherche en neurosciences de Lyon (CRNL), qui a été l’étudiant puis le collaborateur de Michel Jouvet pendant plus de vingt ans. Il avait enlevé au chat une grande partie du cerveau en ne laissant que le tronc cérébral – à l’époque, les méthodes étaient plus extrêmes qu’aujourd’hui ! » Son but, étudier cette partie très « primitive » du cerveau. Le neurobiologiste a alors constaté que le chat décérébré alternait des périodes d’éveil avec des courtes périodes d’atonie musculaires – six minutes – où les yeux effectuaient des mouvements rapides. Il a ensuite reproduit ces mêmes observations sur un chat intact et a noté que, lors de cet intervalle de six minutes, l’électroencéphalogramme (EEG) du cortex affichait une activité proche de l’éveil, contrairement à l’autre phase de sommeil dit « lent ». Pourtant, le chat était bien en sommeil profond : là est le paradoxe. En faisant le lien avec de précédentes études américaines indiquant des périodes de mouvements rapides des yeux (REM sleep) lors du sommeil, le scientifique a confirmé qu’il avait affaire à un troisième état du cerveau – distinct du sommeil et de l’éveil – généré par le tronc cérébral.
Quelques années auparavant, des scientifiques américains du sommeil avaient déjà identifié ces mouvements oculaires et avaient montré qu’un participant réveillé pendant le REM sleep se souvenait particulièrement bien de ses rêves. S’appuyant sur ces études, Michel Jouvet a exploré les liens entre rêves et sommeil paradoxal chez le chat. Après de nombreuses expériences, le chercheur a trouvé le moyen de supprimer l’atonie musculaire chez le chat par une lésion dans le cerveau. Ce cobaye a alors montré un comportement étrange : en sommeil paradoxal, il se mettait à bouger et à reproduire des gestes de chasse, de toilette, etc. Mais il ne réagissait pas si on plaçait une souris à proximité : il était donc bien endormi. Il semblait donc bien que, en l’absence d’atonie musculaire, le félin « mimait » son rêve, ce que Michel Jouvet appellera « comportement onirique ».
Jusque dans les années 2000, l’EEG en éveil et en sommeil paradoxal étaient presque plats
Peu après sa découverte, le sommeil paradoxal est donc associé au rêve puis, dans les années 80, au développement : la pédiatre Marie-Josèphe Challamel fait l’hypothèse que les nouveau-nés ont une plus grande quantité de sommeil paradoxal que les adultes parce qu’il leur permettrait de mettre en place des comportements innés. Cependant, jusque dans les années 2000, le « paradoxe » reste problématique : cet état, du point de vue du cortex, est-il vraiment similaire à l’éveil ? C’est ce que les chercheurs ont longtemps pensé, car l’analyse EEG ne permet pas de voir de différence : « À l’époque, l’EEG en éveil et en sommeil paradoxal étaient presque plats, fait remarquer Pierre-Hervé Luppi. Dans les deux cas, cela montre un état désynchronisé des neurones mais ne dit rien d’un point de vue fonctionnel. » En effet, pour que l’EEG montre quelque chose, il faut que des millions de neurones synchronisent leur activité sur une même fréquence (comme sur celle de la respiration, par exemple). De fait, l’absence de synchronisation en éveil et en sommeil ne veut pas dire que l’activité cérébrale dans ces deux états soit similaire : il s’agit plutôt d’une sorte de brouhaha.
Si l’EEG n’est pas pertinent, comment vérifier si éveil et sommeil paradoxal sont proches ? Pour cela, l’imagerie cérébrale par résonance magnétique (IRM) serait intéressante, mais, en pratique, le bruit est un obstacle à l’entrée en sommeil paradoxal du participant. C’est grâce une autre technique d’imagerie moins bruyante qui s’est démocratisée à la fin des années 90, la tomographie par émission de positons, qu’un chercheur liégeois, Pierre Maquet, a changé la donne : « Il a montré que les structures limbiques du cerveau étaient plus actives pendant le sommeil paradoxal que pendant l’éveil », résume Pierre-Hervé Luppi. Ces structures limbiques sont des aires corticales et sous-corticales phylogénétiquement anciennes. Elles sont impliquées entre autres dans les émotions et la mémoire. L’hippocampe, en particulier, est impliqué dans la formation des souvenirs, ce qui laisse supposer un lien entre sommeil paradoxal et mémoire. Mais pour en apprendre plus, il a fallu attendre la mise au point d’autres technologies.
L’équipe SLEEP a développé une technique de visualisation de l’activité cérébrale grâce à une protéine nommée c-fos.
En effet, à la même époque, Michel Jouvet a chargé Pierre-Hervé Luppi de développer une technique de visualisation de l’activité cérébrale grâce à une protéine nommée c-fos. Celle-ci est produite lors de l’activation d’un neurone, et peut donc servir de marqueur visuel, par exemple par coloration d’une coupe de cerveau. L’équipe SLEEP a donc engagé beaucoup d’efforts dans le développement de cette technique d’observation très prometteuse, bien qu’elle soit contraignante : « Il faut que les neurones dont on veut voir l’activation soient sur-stimulés », indique Pierre-Hervé Luppi. Ainsi, lorsque l’équipe SLEEP a voulu révéler les structures cérébrales qui s’activent pendant le sommeil paradoxal, ils ont procédé à des privations de sommeil chez des rongeurs. Le but : obtenir ensuite un rattrapage qui engendre une grande quantité de sommeil paradoxal, stimulant ainsi intensément les neurones associés.
Au fil de leurs études, les chercheurs ont alors obtenu des résultats étonnants : chez le rat comme chez la souris, les aires cérébrales activées lors de l’éveil et lors du sommeil paradoxal sont tout à fait différentes, presque opposées. « C-fos révèle que l’activation du cortex est globale pendant l’éveil, précise Pierre-Hervé Luppi, alors que quelques structures limbiques seulement sont activées pendant le sommeil paradoxal. » Une partie du paradoxe est donc levée : le sommeil paradoxal n’est pas simplement un état d’éveil avec une atonie musculaire, mais bien un troisième état. Néanmoins, utiliser la technique de la protéine c-fos a aussi des limites : il se peut qu’il existe des zones actives dans les deux états, mais de manière brève, donc invisible avec c-fos. « On pense que c’est le cas pour certaines zones motrices, précise Pierre-Hervé Luppi, puisque lorsque l’atonie musculaire est supprimée, dans le cas d’un trouble du comportement en sommeil paradoxal, le patient montre des mouvements violents en sommeil paradoxal. »
Faut-il encore parler de sommeil paradoxal ?
Malgré cela, ces résultats sont suffisamment solides pour bousculer l’adjectif « paradoxal ». Faut-il alors trouver un autre qualificatif ? Il est trop tôt pour le dire. Certes, identifier les aires activées spécifiquement pendant le sommeil paradoxal peut nous en apprendre plus sur leurs fonctions : « On constate notamment une activation spécifique du gyrus dentelé, une structure impliquée dans la mémoire et les émotions, note Pierre-Hervé Luppi. Par ailleurs, on sait qu’une privation de sommeil paradoxal entraîne des troubles de la mémorisation. Mais le rôle du sommeil paradoxal est certainement plus compliqué que la simple consolidation de la mémoire. » L’équipe SLEEP poursuit donc les observations pour tenter maintenant de comprendre quels rôles peuvent jouer les aires qui sont actives pendant le sommeil paradoxal : « La grande question est de savoir à quoi sert l’activation de ces structures limbiques, souligne le scientifique. Peut-être que ces aires génèrent les rêves », suggère-t-il. Il reste aussi à explorer les liens entre la régulation de l’humeur, le développement et le sommeil paradoxal : après plus d’un demi-siècle de recherche, ce dernier est loin d’avoir livré tous ses secrets.