Marc Mézard a été nommé le 12 avril 2012 directeur de l’École normale supérieure de la rue d’Ulm par un décret du président de la République, et renouvelé dans ses fonctions le 7 avril 2017 pour un second mandat de cinq ans. Succédant à Monique Canto-Sperber, il était le 29ème directeur de l’ENS et le troisième physicien à occuper les fonctions de directeur de l’École normale supérieure, après Georges Bruhat (1940 et 1941-1942) et Étienne Guyon (1990-2000). Le philosophe Frédéric Worms lui a succédé le 15 mars 2022.
En lien avec ses fonctions de directeur de l’ENS, Marc Mézard a siègé également aux conseils d’administration de l’ENS (présidé par François Hartog), de l’Université PSL, de l’École normale supérieure de Lyon, de l’EHESS, et d’un certain nombre de fondations de collaboration scientifiques : l’École d’économie de Paris, la Main à la Pâte, la fondation partenariale Philippe Meyer, la Fondation de l’École normale supérieure, la fondation de droit américain Friends of École normale supérieure.
Très impliqué dans la construction de l’Université PSL, Marc Mézard a été amené à prendre la présidence par interim de cette université entre mai 2017, date à laquelle Thierry Coulhon a quitté ses fonctions de président de PSL pour devenir conseiller auprès du président de la République, et novembre 2017, date à laquelle Alain Fuchs a été élu président de PSL.