L’origine d’une première fontaine remonte au XVI siècle. Aux alentours existait une petite zone artisanale avec des tuileries et un dépôt de viande. Le cadastre de 1828 nous montre bien cette petite fontaine rectangulaire en jaune alimentée par la rue des jardins en conduites en bois.
En 1885 la commune remplace cette fontaine et installe sur la colonne la statue de la Vierge et les armoiries de la ville et celles de l’évêque Erasmus de Limburg de 1563.
Elles proviennent de l’ancienne fontaine appelée Stockbrunna (plan cadastral page 9) qui se trouvait devant le restaurant au Château Fleuri.
Il est vraisemblable que le bassin octogonal de la fontaine de la Vierge provient également de cette ancienne fontaine. C’était la dernière retenue d’eau avant que le ruisseau ne reprenne son cours par la cour Unterlinden vers l’abattoir et les jardins rue des Fleurs dits Mühlengarten.
La fontaine de la Vierge est toujours alimentée par la source de la Kirmatt et a une contenance de 7300 litres.