Op de Sint Denisplaats bevond zich vermoedelijk hier reeds in 1120 een kleine kapel toegewijd aan St.-Denijs. Deze werd in 1496 omgevormd tot driebeukige kerk en afgebroken in 1706.
Nu is het plein een parkeerplaats met enkele appartementsgebouwen en het stedelijk zwembad errond.
Aan de kant van de Zuidstraat bevindt er zich een zuilvormige stenen pomp die de 'Pomp der duizend neuzen" wordt genoemd die uit de 19e eeuw dateert.
De bibliotheek is van recentere oorsprong. De moderne glazen bouwstructuur van het bibliotheekgedeelte van ‘De Seylsteen’ steekt schril af met het nieuwe stadskantoor dat staat op de plaats van de vroegere kapel.