Nació del testamento de Pieter Teyler van der Hulst, que vivió de 1702 a 1778, un rico banquero y comerciante de paños de ascendencia escocesa, miembro de los menonitas, que dejó su fortuna para promover la religión, el arte y la ciencia. Sus albaceas decidieron construir un lugar de estudio y educación donde pudieran guardarse juntos libros, instrumentos, dibujos, fósiles y minerales, inspirados por la idea ilustrada de que las personas podían explorar el mundo por sí mismas.

La parte más antigua es la Sala Oval neoclásica, detrás de la casa de Teyler, la Fundatiehuis. Leendert Viervant empezó a diseñarla en 1779 como sala para investigación, experimentos, demostraciones públicas y consulta de libros y grabados, y abrió en 1784 con Martin van Marum como primer director. Una vitrina central guarda una colección de minerales del siglo XVIII, las vitrinas de alrededor muestran instrumentos del siglo XVIII, y la galería superior, construida para captar toda la luz posible, tiene 12 librerías llenas sobre todo de enciclopedias y publicaciones periódicas de la época. Los visitantes pueden recorrer también Pieter Teylers Huis, su antigua vivienda.

El museo creció por etapas, y cada nueva parte conservó la disposición de su época. En 1838 y 1892 se añadieron galerías de pintura, y la actual entrada principal sobre el Spaarne, diseñada por el arquitecto vienés Christian Ulrich, abrió en 1885; detrás se encuentran la Sala de Instrumentos y dos salas de fósiles, todas diseñadas por A. van der Steur, un arquitecto de Haarlem. En 1996 se añadió una gran ala nueva de Hubert-Jan Henket.

Van Marum usó la colección para sus propias investigaciones sobre electricidad estática y compró fósiles como el Mosasaurus; el gran generador electrostático que John Cuthbertson construyó para él en 1784 sigue formando parte de la colección, junto con maquetas de molinos y grúas hechas para demostrar principios de hidráulica. Entre los fósiles hay algunos de los primeros ejemplares de Archaeopteryx que se encontraron. Hendrik Lorentz, físico y premio Nobel, estuvo a cargo del gabinete de física de 1910 a 1928.

En la parte artística, el museo guarda obras de Rafael, Miguel Ángel, Claudio de Lorena y Guercino, y grabados de Adriaen van Ostade y Rembrandt. Sus galerías de pintura están dedicadas a la pintura romántica neerlandesa y a las escuelas de La Haya y de Ámsterdam que la siguieron, con cuadros de Barend Cornelis Koekkoek, Andreas Schelfhout, Hendrik Willem Mesdag, Anton Mauve, Jacob Maris, George Hendrik Breitner y Jozef Israëls.