Das Haus erbauten die Architekten Martin Gropius und Heino Schmieden in der Formensprache der Renaissance als Kunstgewerbemuseum. 1881 wurde es feierlich eröffnet. Nach dem Ersten Weltkrieg zogen das Museum für Vor- und Frühgeschichte und die Ostasiatische Kunstsammlung ein. Das Stadtschloss nahm die kunstgewerbliche Sammlung auf. 1945, in den letzten Wochen des Zweiten Weltkrieges, wurde das Gebäude schwer beschädigt. Erst im Jahre 1966 wurde das Haus unter Denkmalschutz gestellt. 1978 begann man mit dem Wiederaufbau unter der Leitung der Architekten Winnetou Kampmann und Ute Westström. Man benannte das Haus nach Martin Gropius, ein Großonkel von Walter Gropius, der sich für den Wiederaufbau nachdrücklich eingesetzt hatte.

Nach seiner behutsamen Restaurierung in den 70er Jahren entwickelte sich der Martin-Gropius-Bau zu einem der berühmtesten und schönsten Ausstellungshäuser Deutschlands.

Heute begeistert das vielseitige Ausstellungsprogramm, das in Zusammenarbeit mit Partnern wie den Staatlichen Museen zu Berlin, der Kunst- und Ausstellungshalle der Bundesrepublik Deutschland, Bonn, oder dem Deutschen Historischen Museum entsteht, Jahr für Jahr über 500.000 Besucher.