La institución es mucho más antigua: el conde Kašpar Maria Šternberg la fundó el 15 de abril de 1818, con una estrecha participación del historiador František Palacký, y se convirtió en un centro de la vida nacional checa en una época en que la nobleza bohemia dominaba la vida intelectual y la mayoría de las revistas científicas se publicaban en alemán. Hoy sus colecciones suman cerca de 14 millones de piezas de historia natural, historia, arte, música y libros, repartidas en decenas de edificios. Su posición dominante ha hecho del edificio, desde hace tiempo, un punto de reunión natural para protestas, concentraciones y actos públicos.

La fachada lleva las huellas del siglo XX. Una bomba dañó el edificio en 1945, y durante la intervención del Pacto de Varsovia de 1968 el fuego de ametralladoras soviéticas acribilló sus columnas de arenisca, rompió estatuas y relieves y alcanzó algunos de los almacenes. Los agujeros de bala se rellenaron en 1970–1972 con una arenisca más clara, por lo que los parches aún se distinguen. Las obras del metro en la década de 1970 y la apertura de la autopista Norte-Sur por dos lados del edificio en 1978 trajeron ruido, polvo y vibraciones.

Una larga reconstrucción mantuvo cerrado el museo desde el 7 de julio de 2011 hasta el 28 de octubre de 2018, cuando reabrió parcialmente con motivo del centenario de la independencia checoslovaca. En febrero de 2019, la cúpula, que domina Praga, se abrió por primera vez a los visitantes, y el patio oriental recibió una cubierta. Siguieron nuevas exposiciones permanentes: las Salas de los Minerales en 2020; Milagros de la Evolución y Ventanas a la Prehistoria, que recorre la vida desde el Protozoico hasta el Cuaternario, en 2021; y en 2022 una exposición de Historia que abarca las tierras checas desde el siglo VIII hasta la Primera Guerra Mundial.

Al lado se encuentra el Edificio Nuevo, levantado en 1937 como Bolsa de Praga y ampliado en 1968–1973 para la Asamblea Federal, el parlamento checoslovaco, con un gran muro de cristal colgado. Radio Free Europe y Radio Liberty lo ocuparon de 1995 a 2009, tras lo cual pasó al museo; un corredor subterráneo une ambos edificios desde 2019, y en 2021 el edificio recibió una exposición permanente sobre la historia del siglo XX. Entre los tesoros medievales del Museo Histórico figuran una tiara ducal de plata del siglo XII, el relicario de San Eloy en forma de mitra y el antipendio bordado de los Rosenberg, de hacia 1370.

El museo gestiona además una serie de sedes separadas en Praga y fuera de ella, entre ellas el Museo Náprstek con su exposición egipcia, el Museo Checo de la Música, el Museo Bedřich Smetana, el Museo Antonín Dvořák, el Lapidario de Výstaviště y el Monumento Nacional de Vítkov.