Ebenso schwierig wie beim Christentum ist auch der Nachweis des frühen Judentums im obergermanischen Raum: Zwar berichten Schriftsteller des frühen 1. Jahrhunderts, wie etwa Strabo von Amaseia und Philo von Alexandria, daß es fast in der ganzen damals bekannten Welt jüdische Gemeinden gäbe, die Zahl der archäologischen Zeugnisse in den nördlichen Grenzprovinzen läßt sich aber fast an einer Hand abzählen: Neben vier in Judäa geprägten Münzen (aus Mainz, Bönnigheim, Cannstatt und Kaiseraugst) sind in diesem Zusammenhang drei jüdische Wägegewichte des 1. oder 2. Jahrhunderts aus Trier anzuführen. Zweien dieser Wägegewichte liegt der jüdische Schekel zugrunde, auf dem dritten wurde der (römische) Gewichtswert in hebräischen Ziffern festgehalten.
Obwohl das Christentum nach dem Sieg Konstantins (306–337) über Maxentius in der Schlacht an der Milvischen Brücke im Jahr 312 seitens des Kaiserhauses offene Unterstützung erhielt, blieb die Kraft der paganen (heidnischen) Religionen jedoch noch lange ungebrochen. Die Reichsaristokratie und die Gebildeten, aber auch die Landbevölkerung, verehrten weiterhin gallo-römische Götter (zum Beispiel Rosmerta, Nehalennia, Epona, Sequana) oder die oft mit germanischen Beinamen versehenen Muttergottheiten sowie die klassischen Götter (Jupiter, Merkur, Mars, Minerva, Apollo, Juno …). Dies bezeugt auch die Präambel eines 361 von den Kaisern Constantius und Julian erlassenen Gesetzes: „Freude und Ruhm suchen wir allzeit im [heidnischen] Glauben, denn wir wissen wohl, daß für den Bestand unseres Reiches die Religionsausübung wichtiger ist als Amtspflichten, Arbeit und Schweiß“.
Unter der Herrschaft des Kaisers Julian Apostata (361–363), des „Retters der Freiheit und der römischen Religion“, erlebte das Heidentum als Staatsreligion dann eine eigentliche Renaissance. Schwieriger nachzuweisen ist diese Renaissance im archäologischen Befund. So ist beispielsweise unklar, ob die Zerstörung und/oder Versenkung von Steindenkmälern (etwa in Brunnen) durch Christen erfolgte oder durch Germanen, die darin Symbole der römischen Staatsmacht sahen. Daß bei der Instandsetzung des Tempelbezirks von Bad Münstereifel-Nöthen (um 330–335) viele Weihinschriften zu Quadern umgearbeitet und in der Umfassungsmauer des Heiligtums verbaut wurden, zeigt, daß ihnen auch seitens der paganen Bevölkerung keine Bedeutung mehr beigemessen wurde. Selbst nach dem Verbot Theodosius’ I. (379– 395) im Jahr 395 wurden viele Kultstätten weiterhin aufgesucht, in Köln wurde der (verfallene?) Tempel für Mercurius Augustus während der Regierungszeit von Eugenius (392–394) mit großem Aufwand renoviert. Auch im Trierer Altbachtal oder im Quellheiligtum von Roisdorf dauerte die Kultausübung bis in das späte 4. bzw. frühe 5. Jahrhundert fort – und dies, obwohl das Betreten der Tempel, die Anbetung von Kultbildern und die Teilnahme an Opferhandlungen mit dem Tod bestraft wurden.
