Die Anfänge der mittelalterlichen jüdischen Gemeinde in Köln liegen im Dunkeln. Ein Dekret des Kaisers Konstantin aus dem Jahr 321 belegt zwar die Anwesenheit von Juden in der römischen Colonia, für die folgenden Jahrhunderte schweigen die historischen sowie die archäologischen Quellen jedoch. Erst in der ersten Hälfte des 11. Jahrhunderts gelingt der sichere Nachweis. Denn bis in diese Zeit lässt sich die Synagoge im Zentrum des jüdischen Viertels zurückverfolgen.
Für diese Datierung leistet die archäologische Forschung einen wesentlichen Beitrag. Die massiven Zerstörungen der Kölner Innenstadt im Zweiten Weltkrieg und die anschließenden Wiederaufbauarbeiten ermöglichten dem Kölner Archäologen Otto Doppelfeld zwischen 1953 und 1956 erste großflächige Ausgrabungen im Bereich des Rathausplatzes. Dabei untersuchte er auch die mittelalterliche Synagoge und die Mikwe, das Ritualbad.
