Le sous-sol catésien présente de nombreuses caves et boves, parfois reliées entre elles, qui connaissent plusieurs utilisations au cours de l'histoire. Ces souterrains recèlent de nombreuses curiosités : des puits des cheminées, d'aération, et divers graffiti, dont les plus remarquables se trouvent dans l'ancienne prison des "criminels", sous l'hôtel de ville.