Die weitläufige Anlage wurde nach ihrer Gründung durch Wilhelm den Eroberer im Jahre 1060 in den darauffolgenden drei Jahrhunderten weiter befestigt. Trotz der Zerstörungen im Zweiten Weltkrieg ist sie heute wieder vollständig rekonstruiert und birgt im Inneren das Musée des Beaux-Arts.