La rue du Petit Séminaire conserve côté pair de nombreux hôtels particuliers front-à-rue du XVIIe siècle, construits en brique et pierre sur un soubassement de grès. Jusqu'à la Révolution, la rue mène à l'église de la Madeleine, fondée avant le XIe siècle. L'école Gambetta est construite en 1955 par Edmond Lancelle à l'emplacement de l'ancien séminaire édifié au début du XIXe siècle et détruit par les bombardements de 1944. Les principes de modernité et de fonctionnalisme président à la reconstruction de cette partie de la rue dans les années 1950.