Das Graue Haus in der Jerozolimska-Straße 3 wurde 1925 erbaut. Es diente als Verwaltungsgebäude des jüdischen Gemeindefriedhofs in Krakau und als Hauptquartier der Beerdigungsbruderschaft Chevra Kadischa. Während des Betriebs des KL Plaszow beherbergte es die Büros der Lagerleitung und das Gefängnis im Keller. Nach dem Krieg wurden in dem Gebäude Gemeinde- und Privatwohnungen eingerichtet.

Dank einer Vereinbarung zwischen der Stadt Krakau und der Jüdischen Kultusgemeinde in Krakau wurde das Graue Haus in das Gelände des Museums KL Plaszow integriert. Nach der notwendigen Renovierung und Anpassung an die Bedürfnisse des Museums wird im Erdgeschoss und im Untergeschoss eine Dauerausstellung eingerichtet, während das Obergeschoss pädagogische Einrichtungen, eine öffentliche Mediathek und einen Einkehrort beherbergen wird. Das Szenario der Ausstellung im Grauen Haus legt fest, dass es ein Ort sein wird, an dem die Zeugen zu Wort kommen. Durch ihre Aussagen über ihre Erfahrungen im Lager kommen die Besuchenden mit der emotionalen, persönlichen Seite der Geschichte des Lagers in Płaszów in Berührung.

Ab August 1943 befand sich im Untergeschoss des Gebäudes ein Gefängnis mit Zellen, einer Dunkelkammer und den sogenannten „stójki“ - kleinen Räumen für die Verbüßung von Strafen im Stehen. In dem Gefängnis landeten sowohl Häftlinge des Lagers wegen Vergehen gegen die Lagerregelungen als auch Gefangenen der deutschen Sicherheitspolizei, die zum Tode verurteilt hier auf ihre Hinrichtung warteten. Eine Ausstellung in diesem Teil des Gebäudes wird an ihr Schicksal erinnern.

Das Graue Haus stand im Zentrum des Lagers. Aus den Fenstern des Gebäudes konnten man die Baracken der Besatzung sehen, aber auch die Kommandantur, den Steinbruch, die Wohnbaracken der Häftlinge, den Appellplatz und den Fabrikbereich des Lagers. In dem Gebäude befand sich das Büro des Lagerkommandanten. Aufgrund der Funktion, die das Graue Haus während des Krieges hatte, wird die Ausstellung in diesem Gebäude die Geschichten der Häftlinge mit der Darstellung des Schicksals der Täter - der Funktionäre der Lagerverwaltung verbinden.

Von Januar bis Oktober 1945 waren die Truppen der Roten Armee in dem Lager stationiert. In zweier Räume im Keller des Grauen Hauses sind die Inschriften von sowjetischen Soldaten erhalten gebliegen, die dort höchstwahrscheinlich wegen Ordnungsverstößen inhaftiert waren. In diesem Raum wird das Schicksal des ehemaligen Lagergeländes unmittelbar nach dem Zweiten Weltkrieg, die Prozesse gegen die Täter und die ersten Versuche, der Opfer zu gedenken, vorgestellt.