Le origini della sinagoga 'vecchionuova' risalgono intorno al 1270, cosa che fa di essa il più vecchio santuario ebreo in Europa, e le porte sono le più vecchie di Praga. La sinagoga è anche fra le più vecchie costruzioni gotiche di Praga, è sopravvissuta agli stermini, agli incendi e resta per la comunità religiosa ebrea di Praga il centro per eccellenza.

Numerose leggende circondano questa sinagoga, una dice che gli angeli sono venuti con le pietre che hanno servito alla sua costruzione e da allora questi angeli proteggono la sinagoga. La sinagoga è stata rinnovata nel 19° secolo ed è ancora utilizzata per i servizi religiosi.