L'espace culturel du Moustier est un lieu d'exposition unique et insolite.

Cette crypte est un des vestiges les plus anciens de Milly et daterait du VIIème siècle. Elle constitue, avec la porte du Moustier Péronne, le dernier témoin du monastère de Fulbert Ier, qui obtint de Dagobert 1er la terre de Milly pour « services rendus au roi ». Son fils Wulfran y naquit vers l’an 635. Entré en religion, il devient l’apôtre de la Frise (province des Pays-Bas), puis évêque de Sens avant de se retirer à Saint-Wandrille où il meurt en 720. Quelques-uns de ses ossements sont conservés dans un reliquaire à l’église Notre-Dame de Milly-la-Forêt.

Le parc actuel était compris dans le Moustier de Péronne qui occupait une grande partie de la ville, jadis entourée de hautes murailles crénelées. Aujourd’hui, ne subsistent de ce grand domaine que la porte romane de plein-cintre, entrée de l’ancienne chapelle, et une salle voûtée avec pilier central à chapiteaux en dessous du bâtiment.