Ce bâtiment construit dès 1709 par Jean-Baptiste Caristie pour accueillir les Jésuites est composé d'une chapelle dont la façade s'inspire de l'église du Gesù à Rome. À l'intérieur, elle est ornée au premier niveau, de colonnes doriques ainsi que de larges baies ouvertes qui éclairent le sanctuaire. Vous pouvez y observer les statues en pierre de la Vierge et de sainte Anne, ainsi que celles en bois de saint Crépin et saint Crépinien, datées du XVe siècle. Après le départ des Jésuites en 1763, cette chapelle revient au culte catholique en 1803, sous le vocable de Notre-Dame. Le collège devient lycée en 1960. Il porte le nom de Bonaparte. Si Joseph, Napoléon et Lucien y furent élèves, c'est Joseph qui laisse son nom à l'établissement. La grille en fer forgé date de 1772. Elle est ornée de grecques, guirlandes, sphères et Lyres ainsi que des armes de la ville sur le fronton central.

Au Moyen-Âge, l'évêque exerçait, dans la rue des Bancs, ses droits seigneuriaux sur la boucherie. Les bouchers y vendaient leur marchandise sur des bancs d'étal qu'ils installaient sur la voie publique. C'est donc en relation avec son activité commerciale que la rue est nommée rue des Bancs au XIVe siècle. La porte des Bancs, était l'une des deux tours rondes qui encadraient la porte principale de la "ville haute". Elle était à l'origine composée de deux tours rondes encadrant l'entrée, surmontée d'un poste de garde et fermée par un pont-levis. De cette ancienne porte qui fermait la ville haute, il ne reste plus qu'une tour à gauche. On peut encore apercevoir la gorge où s'appuyait l'axe de rotation et la rainure où se dressait la poutre du système de pont-levis. C'était, jusqu'au XVIIIe siècle, le seul accès à la ville haute depuis le nord de la ville. Des toilettes sont disponibles pas loin, du côté du musée Rolin. Des animations temporaires ont parfois lieux dans les Hauts-Quartiers y compris la rue des Bancs, comme des braderies.