Le château du premier comte d’Arlon, Waléran, s’élève sur la butte au XIe siècle, puis est détruit en 1558 avec les remparts de la ville par les troupes du duc de Guise. Lorsque les Pères Capucins s’installent à Arlon en 1621, ils font construire leur couvent sur les ruines du château. En 1681, une enceinte bastionnée de type « Vauban » s’érige, transformant le couvent en citadelle. Victime de la foudre en 1719, l’église est dédiée à saint Donat. L’ancien couvent des Capucins est définitivement supprimé en 1796. Seule l’église subsiste et est réaménagée au XXe siècle.