Au Moyen-Âge, l'évêque exerçait, dans la rue des Bancs, ses droits seigneuriaux sur la boucherie. Les bouchers y vendaient leur marchandise sur des bancs d'étal qu'ils installaient sur la voie publique. C'est donc en relation avec son activité commerciale que la rue est nommée rue des Bancs au XIVe siècle. La porte des Bancs, était l'une des deux tours rondes qui encadraient la porte principale de la "ville haute".
Elle était à l'origine composée de deux tours rondes encadrant l'entrée, surmontée d'un poste de garde et fermée par un pont-levis. De cette ancienne porte qui fermait la ville haute, il ne reste plus qu'une tour à gauche. On peut encore apercevoir la gorge où s'appuyait l'axe de rotation et la rainure où se dressait la poutre du système de pont-levis.
C'était, jusqu'au XVIIIe siècle, le seul accès à la ville haute depuis le nord de la ville.
Des toilettes sont disponibles pas loin, du côté du musée Rolin. Des animations temporaires ont parfois lieux dans les Hauts-Quartiers y compris la rue des Bancs, comme des braderies.
