Het kasteel van Walram, de eerste graaf van Aarlen, werd in de 11e eeuw op de heuvel gebouwd, maar in 1558 samen met de stadsmuren verwoest door de troepen van de hertog van Guise. Toen de kapucijnen zich in 1621 in Aarlen vestigden, bouwden ze hun klooster op de ruïnes van het kasteel. In 1681 werd er een vestingmuur van het Vauban-type gebouwd, waardoor het klooster in een citadel veranderde. De kerk, die in 1719 door de bliksem werd getroffen, is gewijd aan Sint-Donatus. Het kapucijnenklooster werd in 1796 definitief opgeheven. Alleen de kerk is bewaard gebleven en werd in de twintigste eeuw gerenoveerd.