Su arquitecto fue Friedrich August Stüler, discípulo de Karl Friedrich Schinkel; lo diseñó mezclando formas neoclásicas y neorrenacentistas, y se construyó entre 1843 y 1855 por orden de Federico Guillermo IV, rey de Prusia. Bombardeado en la Segunda Guerra Mundial y abandonado a su deterioro en Alemania del Este, lo restauró el arquitecto inglés David Chipperfield y reabrió en octubre de 2009. Desde 1999 es Patrimonio Mundial de la UNESCO junto con el resto de la Isla de los Museos.

Fue el segundo museo de la isla, levantado para acoger las colecciones que ya no cabían en el vecino Altes Museum: vaciados de yeso, antigüedades egipcias, hallazgos prehistóricos, etnografía y grabados y dibujos. El solar, en el terreno blando junto al río Spree, necesitó 2344 pilotes de madera de entre 6,9 y 18,2 metros de largo, hincados con ayuda de una máquina de vapor, y la estructura hizo un amplio uso del hierro, técnicas nuevas de la era industrial. Las pinturas murales de la escalera principal todavía se estaban terminando en 1866, once años después de la apertura del museo.

El museo se cerró en 1939. Las bombas calcinaron la escalera central y sus frescos el 23 de noviembre de 1943, y en febrero de 1945 quedaron destruidos el ala noroeste y el puente hacia el Altes Museum. Durante décadas la ruina se dejó deteriorar en el sector soviético de Berlín, usada en parte como almacén por los demás museos. Chipperfield, designado en 1997, reconstruyó el ala noroeste y la fachada sureste que la guerra había borrado, ciñéndose a su distribución original. Su enfoque fue discutido por quienes querían una reconstrucción más tradicional del diseño de Stüler, pero el edificio terminado obtuvo en 2010 un RIBA European Award y en 2011 el Premio de Arquitectura Contemporánea de la Unión Europea.

En el interior, a Nefertiti la acompañan otras obras de la época del rey Akenatón, ya que las colecciones egipcias han vuelto al edificio donde empezaron. La colección prehistórica permite a los visitantes seguir las culturas a través de la Edad de Piedra, la Edad del Bronce y la Edad del Hierro, con tesoros de los albores de la historia europea. El propio edificio forma parte de la exposición: sus tres alas principales rodean dos patios interiores, el griego y el egipcio, y la sala de la escalera central se eleva hasta 31 metros. Al lado, la James Simon Galerie, también de Chipperfield, abrió una zona junto al museo que había estado cerrada, y el museo forma parte del paseo arqueológico, un pasaje subterráneo entre los museos de la isla.