Mélatonine et qualité du sommeil : mythe ou science ? Synthèse critique d’une littérature foisonnante

La mélatonine s’invite sur nos tables de nuit et dans les rayons de pharmacies, intronisée par certains comme la solution miracle à la mauvaise qualité du sommeil… et dénoncée par d’autres comme un simple placebo, voire un perturbateur du sommeil naturel. Face à cette controverse persistante, que nous disent vraiment les études scientifiques ? Cet article propose une plongée rigoureuse, mais accessible, dans la littérature scientifique récente, pour comprendre si, oui ou non, la supplémentation en mélatonine altère ou améliore le sommeil.

La mélatonine, un chef d’orchestre du rythme veille-sommeil

Commençons par le commencement : qu'est-ce que la mélatonine ? Cette hormone joue le rôle fondamental de signal biologique pour réguler l'alternance veille-sommeil.

Si elle est principalement sécrétée la nuit par la glande pinéale (ou épiphyse), la mélatonine est également produite localement par de nombreux autres tissus : le microbiome intestinal, la rétine, les cellules immunitaires, ou encore la moelle osseuse.

Cette production périphérique joue des rôles spécifiques dans ces tissus, distincts de la régulation centrale du rythme veille-sommeil. Lorsque l’obscurité tombe, la production de mélatonine augmente, invitant notre organisme à ralentir puis à s’endormir. À la lumière, la sécrétion cesse : c’est un synchronisateur puissant de notre rythme circadien. La mélatonine n’induit toutefois pas le sommeil "de force" : elle "abaisse le seuil" et accélère l’endormissement.

La mélatonine est largement disponible sous forme de complément alimentaire, réputée pour son innocuité à doses physiologiques. Mais la multiplication des produits et des usages génère une profusion de discours contradictoires.

Le sommeil : une notion multidimensionnelle

Parler de la « qualité » du sommeil n’a rien d’évident. La recherche distingue :

• Les paramètres objectifs : durée totale, latence d’endormissement, fragmentation/réveils nocturnes, architecture (phases profondes, paradoxales, légères) mesurés en polysomnographie.
• Les aspects subjectifs : impression de repos, facilité de réveil, récupération, humeur au lever, etc.

Un vrai bénéfice doit se mesurer dans ces deux dimensions. Les études cliniques modernes cherchent donc à croiser questionnaires validés (PSQI, ESS, questionnaires de Campbell…) et moyens objectifs (polysomnographie, actimétrie…).

Méta-analyses et essais : la qualité du sommeil vraiment améliorée ?

La méta-analyse centrale (Journal of Neurology 2021)

La revue de Fatemeh et coll. (2021), une des plus structurées (plus de 20 essais randomisés contrôlés analysés), porte sur des patients adultes variés (insomnie primaire, maladies métaboliques, pathologies chroniques). Les résultats :

• Amélioration du score PSQI (indice mondial de qualité du sommeil) : gain moyen de -1,24 point (IC : -1,77 à -0,71), soit un effet supérieur au hasard et cliniquement pertinent ;
• Population bénéficiaire : patients avec troubles du sommeil secondaires à des pathologies somatiques (respiratoires, métaboliques, douleurs chroniques) : effet net et constant ;
• Variabilité : bénéfice moindre voire neutre dans les troubles neurodégénératifs ou psychiatriques, jamais d’effet négatif rapporté sur la structure du sommeil ;
• Robustesse : l’effet ne dépend ni de l’âge, ni du sexe, ni du schéma posologique usuel (de 0,5 à 10 mg/jour), et aucun effet rebond ni syndrome de sevrage au retrait ;
• Sécurité : profil d’effets indésirables comparable au placebo.

Citation des auteurs :

« La supplémentation en mélatonine induit une amélioration statistiquement et cliniquement significative de la qualité du sommeil chez l’adulte, sans détérioration de l’architecture du sommeil ni effets indésirables notoires. »​

Cas particuliers : patients sous bétabloquants

L’essai de Scheer et al., publié dans la revue SLEEP (2012), s’intéresse à un sous-groupe intéressant : les patients hypertendus traités par bêtabloquants, dont la médication bloque la sécrétion nocturne de mélatonine, conduisant à des insomnies secondaires.

• Protocole : 16 patients, double aveugle, crossover, 2,5 mg mélatonine le soir ou placebo, 3 semaines par bras.
• Résultats : augmentation de la durée du sommeil total (+37 min), amélioration de l’efficacité, réduction de la latence d’endormissement.
• Qualité structurale : aucune diminution observée des phases profondes ; phase 2 légèrement augmentée (sans impact négatif avéré).
• Rebond : aucun effet rebond ni syndrome de manque à l’arrêt, bonne tolérance.

Cet essai montre que la mélatonine n’est pas seulement un adjuvant subjectif, mais corrige objectivement un trouble du sommeil d’origine hormonale. Aucun effet délétère n’est observé sur la structure du sommeil, même chez des sujets à risque.​

Efficacité de la supplémentation en mélatonine : données cliniques

L'étude randomisée contrôlée en double aveugle (Gandolfi et al., 2020) menée auprès de 203 patients en soins intensifs a évalué l'effet d'une supplémentation en mélatonine (10 mg) sur la qualité du sommeil.

Les résultats montrent une amélioration significative de la qualité subjective du sommeil, notamment concernant la profondeur et la sensation de récupération.
Il est important de noter que cette amélioration concerne la qualité perçue du sommeil, sans modification significative de sa durée totale.
Les analyses sanguines confirment que la mélatonine administrée atteint des concentrations nocturnes élevées (150 pg/mL à 2h du matin contre 32,5 pg/mL pour le placebo), témoignant d'une absorption efficace.

Aucun effet indésirable majeur n'a été rapporté à cette dose, confirmant le profil de sécurité favorable de la mélatonine à doses physiologiques ou supra-physiologiques modérées.

Conclusion : même dans un contexte de stress aigu, aucun signal de détérioration du sommeil, bien au contraire.​

Lien indirect : mélatonine et inflammation

Zarezadeh et coll. (2019) abordent un autre versant : la mélatonine comme modulateur de l’inflammation.

• La mauvaise qualité du sommeil est aggravée par l’inflammation chronique.
• La mélatonine, par effets antioxydants et immuno-modulateurs, réduit les taux de cytokines pro-inflammatoires (TNF-α, IL-6), avec bénéfices corrélés pour la récupération nocturne chez les patients atteints de pathologies chroniques.​

Là encore, aucun effet négatif rapporté sur la qualité du sommeil.

Mécanismes physiologiques et pharmacologiques

La mélatonine agit principalement via deux récepteurs : MT1 et MT2, situés dans l'horloge biologique centrale du cerveau (le noyau suprachiasmatique) et dans divers tissus périphériques. Elle :

• Synchronise le rythme circadien (alternance veille-sommeil, variations de température corporelle, sécrétions hormonales) ;
• Favorise l'endormissement en abaissant la température corporelle et en ralentissant l'activité cérébrale d'éveil.

Structure et architecture du sommeil sous mélatonine

Les études en polysomnographie (mesure objective de l'activité cérébrale durant le sommeil) ne révèlent aucun effet délétère sur les cycles du sommeil profond (stades N3 et REM), essentiels à la récupération physique et cognitive.

Lorsque la mélatonine est bénéfique, elle peut augmenter les phases légères du sommeil (stades 1-2), sans pour autant réduire les phases profondes indispensables.

Variabilité individuelle

Les réponses à la mélatonine varient selon plusieurs facteurs : niveau d'exposition à la lumière, âge, pathologies associées, et chronotype (tendance naturelle à se coucher tôt ou tard). Cette variabilité explique pourquoi certaines personnes en tirent plus de bénéfices que d'autres, mais ne remet pas en cause le profil de sécurité ni le bénéfice moyen démontré par les études.

Pourquoi certaines voix parlent-elles d’une détérioration du sommeil ?

1. Absence d'effet ne signifie pas effet négatif : Le point crucial à comprendre est que la mélatonine n'aggrave pas la qualité du sommeil chez les personnes pour qui elle est inefficace. L'absence d'amélioration subjective chez certains individus ne se traduit pas par une dégradation mesurable de l'architecture du sommeil. Cette distinction fondamentale est trop souvent négligée dans les débats publics.
   
2. Mésusage et attentes inappropriées : Certaines situations peuvent conduire à des expériences décevantes :

• Prises diurnes ou à des horaires inadaptés (en dehors de la fenêtre physiologique optimale) ;
• Dosages excessifs ou trop faibles selon le contexte ;
• Attentes irréalistes (la mélatonine facilite l'endormissement mais ne "force" pas un sommeil profond instantané) ;
• Utilisation en présence de troubles du sommeil nécessitant une prise en charge médicale spécifique.

Ces mésusages peuvent générer une somnolence diurne transitoire ou une déception quant aux résultats, parfois interprétées à tort comme une "détérioration" du sommeil naturel.

3. Interactions et contexte d'utilisation : Dans les conditions réelles, la mélatonine est rarement utilisée seule. Les interactions potentielles avec d'autres substances (anxiolytiques, hypnotiques, alcool, caféine) ou avec de mauvaises habitudes de sommeil (exposition à la lumière bleue tardive, horaires irréguliers) peuvent masquer son efficacité ou créer de la confusion quant à ses effets réels.
   
4. Craintes théoriques non confirmées : Certaines voix expriment des inquiétudes conceptuelles sur le principe même d'une "ingérence" dans la régulation circadienne endogène, craignant que l'apport exogène ne perturbe la production naturelle ou la sensibilité des récepteurs. Ces craintes théoriques, bien que légitimes dans leur formulation, ne sont pas corroborées par les données cliniques disponibles. Aucune étude n'a mis en évidence de désensibilisation des récepteurs, de suppression durable de la production endogène, ou de détérioration de l'architecture du sommeil après arrêt de la supplémentation, même après plusieurs mois d'utilisation.

Au-delà du sommeil : autres effets physiologiques de la mélatonine

La mélatonine ne se limite pas à son rôle dans la régulation du sommeil. Les recherches récentes mettent en lumière d'autres fonctions biologiques importantes :

• Propriétés antioxydantes et neuroprotectrices : La mélatonine agit comme un puissant antioxydant, neutralisant les radicaux libres et protégeant les cellules du stress oxydatif. Cette propriété pourrait expliquer son intérêt potentiel dans certaines pathologies neurodégénératives.
• Modulation de l'inflammation : Comme évoqué précédemment (Zarezadeh et coll., 2019), la mélatonine influence les marqueurs inflammatoires (TNF-α, IL-6), avec des bénéfices observés chez les patients souffrant de pathologies chroniques inflammatoires.
• Régulation immunitaire : La production de mélatonine par les cellules immunitaires suggère un rôle dans la coordination des réponses immunitaires, particulièrement importantes durant le sommeil où se déroulent de nombreux processus de réparation et de défense.
• Effets métaboliques : Des études suggèrent une influence sur la régulation de la glycémie et du métabolisme énergétique, bien que ces aspects nécessitent encore des recherches approfondies.

Ces multiples fonctions expliquent pourquoi la mélatonine fait l'objet d'investigations dans des domaines aussi variés que l'oncologie, la cardiologie ou les maladies métaboliques, bien au-delà de sa seule action sur le sommeil.

Sécurité et effets à long terme : données rassurantes

Les essais les plus longs ne montrent aucune altération de la qualité ni du ressenti du sommeil même après plusieurs mois de supplémentation. Aucun syndrome de sevrage ni d’effet rebond n’est rapporté. Les effets indésirables restent minimes et rares (céphalées, somnolence, troubles digestifs mineurs et transitoires).

Point fort : Des doses jusqu’à 10 mg/jour sur plusieurs mois n’entraînent pas plus d’effets secondaires qu’un placebo, ni de changement délétère des phases profondes ou paradoxales du sommeil, même chez des populations âgées ou fragiles.

Conclusion : science, bon sens, et perspectives

La littérature clinique et expérimentale dresse un tableau rassurant et globalement positif de la mélatonine. Elle améliore la qualité du sommeil chez une majorité de patients, dans des contextes variés, sans altérer l’architecture du sommeil.
Les rares études neutres ne relèvent jamais d’aggravation.
L’incertitude concerne donc l’absence d’effet, plus que le risque de détérioration - ce qui justifie une approche individualisée, graduelle, et fondée sur une bonne information du patient.

Sources :

Fatemeh, G., Sajjad, M., Niloufar, R. et al. Effect of melatonin supplementation on sleep quality: a systematic review and meta-analysis of randomized controlled trials. J Neurol 269, 205–216 (2022). https://doi.org/10.1007/s00415-020-10381-w

Frank A.J.L. Scheer, Christopher J. Morris, Joanna I. Garcia, Carolina Smales, Erin E. Kelly, Jenny Marks, Atul Malhotra, Steven A. Shea, Repeated Melatonin Supplementation Improves Sleep in Hypertensive Patients Treated with Beta-Blockers: A Randomized Controlled Trial, Sleep, Volume 35, Issue 10, 1 October 2012, Pages 1395–1402, https://doi.org/10.5665/sleep.2122

Gandolfi, Joelma Villafanha PharmD1; Di Bernardo, Ana Paula Altimari RP1; Chanes, Débora Augusto Valverde RN1; Martin, Danilo Fernando MD2; Joles, Vanessa Bonafim RN2; Amendola, Cristina Prata MD, PhD3; Sanches, Luciana Coelho MD3; Ciorlia, Gustavo Larsen MD3; Lobo, Suzana Margareth MD, PhD1. The Effects of Melatonin Supplementation on Sleep Quality and Assessment of the Serum Melatonin in ICU Patients: A Randomized Controlled Trial. Critical Care Medicine 48(12):p e1286-e1293, December 2020. | DOI: 10.1097/CCM.0000000000004690

Zarezadeh, M., Khorshidi, M., Emami, M. et al. Melatonin supplementation and pro-inflammatory mediators: a systematic review and meta-analysis of clinical trials. Eur J Nutr 59, 1803–1813 (2020). https://doi.org/10.1007/s00394-019-02123-0