Dringender Handlungsbedarf ergab sich nach der offiziellen Fundteilung, die 1927 mit der syrisch-französischen Antikenverwaltung ausgehandelt wurde, bzw. nach der Ankunft des deutschen Fundanteils in Berlin im Januar 1928. Da sich die Verhandlungen mit den – wie sie seit 1919 hießen – Staatlichen Museen in der Frage der Aufwandsentschädigung festgefahren hatten, ging Oppenheim auf ein ungewöhnliches Angebot der Technischen Hochschule ein: eine baufällige Fabrikhalle und das angrenzende Direktorialgebäude der „Berliner AG für Eisengießerei und Maschinenfabrikation ehem. J. C. Freund“ in der Franklinstraße 6 zu nutzen. Obwohl die einfache Ziegelbauweise der Halle, der rohe Holzfußboden sowie das undichte Dach aus konservatorischer Sicht mehr als ungeeignet waren, gelang es Oppenheim, die Räumlichkeiten zu einem einzigartigen Museum umzuformen. Ein kleines Wunder und ein weiterer Beleg für seine Fähigkeit, auch in ausweglosen Situationen handlungsfähig zu bleiben, denn Inflation und Weltwirtschaftskrise hatten in den 1920er Jahren sein Vermögen fast vollständig aufgebraucht.
Maßgeblich am Aufbau des provisorischen Museums beteiligt waren der russische Bildhauer und Künstler Igor von Jakimow, der Regierungsbaumeister Hans Lehmann und Robert Herrmann. Die größte Schwierigkeit lag zunächst darin, den Grundriss des Gebäudes so zu verändern, dass eine angemessene Präsentation der Denkmäler möglich wurde. Zu diesem Zweck wurde die Maschinenhalle in zwei Hälften unterteilt: Im ersten Hauptraum entfalteten die originalen Steinbilder als Einzelwerke ihre Wirkung, für den zweiten ließ Oppenheim die Fassaden des West-Palastes im Maßstab eins zu eins aus Gips rekonstruieren: „das gewaltigste Erlebnis des Tell Halaf-Museums“, pries die „BZ am Mittag“ noch vier Jahre später.
Das Privatmuseum wurde an Oppenheims 70. Geburtstag, dem 15. Juli 1930, feierlich eröffnet. Nicht nur das Berliner Publikum, auch die Presse staunte: So ein Museum, merkwürdig, wunderbar und aufregend, hatte die Welt noch nicht gesehen. Im „Protestantenblatt“, Ausgabe für Rheinland und Westfalen, schrieb der Herausgeber Wilhelm Schubring am 27. März 1932: „Wenn ich aus dem Berliner Norden zur Berliner Stadtsynode will, geht mein Weg durch die Franklinstraße. … In diese alte Fabrikgegend dringen mehr und mehr Nebeninstitute der Technischen Hochschule. Etwa gegenüber dem kirchlich wichtigen Institut des Professors Biehle für Raumakustik liegt eine stillgelegte Fabrik; am Eingang zum Fabrikhofe steht neben mancherlei anderen Schildern: ,Tell Halaf-Museum.‘ Wie wenige gehen vorüber und lesen es, und wer ahnt, daß da in einer alten Maschinenhalle Dinge zu sehen sind, die zum Wunderbarsten, für mich kann ich sagen, zum Aufregendsten gehören, was es heute auf dem Gebiete der Kulturgeschichte, der Kunst- und Religionsgeschichte gibt.“
Es mag Zufall gewesen sein, dass die Erweiterung der Ausstellung 1936 in das gleiche Jahr fiel wie die endgültige Fertigstellung des Perga‧monmuseums. Die zeitliche Nähe der beiden Ereignisse wusste der Gastgeber jedenfalls geschickt zu nutzen, als er in seiner Grußrede erneut die Standortfrage thematisierte: „Das Tell Halaf-Museum ist leider einstweilen noch ein Veilchen, das im Verborgenen blüht. Hoffentlich wird ihm bald eine bessere, würdigere Aufnahmestätte zuteil … Wie herrlich würden sich diese Riesenfassaden ausnehmen, wenn ein größerer Raum vor ihnen frei wäre, wie z. B. bei dem Pergamon-Altar.“
