Le Musée occupe deux célèbres demeures historiques :

- L’hôtel Carnavalet, construit au milieu du XVI° siècle, et - L’hôtel Le Peletier de Saint-Fargeau, édifié à la fin du XVIII° siècle. Le premier doit son nom à son deuxième propriétaire (1578), la veuve de François de Kernevenoy, patronyme breton francisé en Carnavalet. L’édifice remanié par François Mansart en 1654, fut habité par la Ville de Paris en 1866 et ouvrit ses portes en tant que musée en 1880.