Il est né du testament de Pieter Teyler van der Hulst, qui a vécu de 1702 à 1778, riche banquier et marchand de draps d’ascendance écossaise appartenant aux mennonites, qui a légué sa fortune au progrès de la religion, de l’art et de la science. Ses exécuteurs testamentaires ont choisi de construire un lieu d’étude et d’enseignement où livres, instruments, dessins, fossiles et minéraux pourraient être conservés ensemble, inspirés par l’idée des Lumières que chacun pouvait explorer le monde par lui-même.

La partie la plus ancienne est la salle ovale néoclassique derrière la maison de Teyler, le Fundatiehuis. Leendert Viervant a commencé à la concevoir en 1779 comme salle de recherche, d’expériences, de démonstrations publiques et de consultation de livres et d’estampes, et elle a ouvert en 1784 avec Martin van Marum comme premier directeur. Une vitrine centrale abrite une collection de minéraux du XVIIIe siècle, les vitrines qui l’entourent présentent des instruments du XVIIIe siècle, et la galerie du dessus, construite pour capter le plus de lumière possible, compte 12 bibliothèques remplies surtout d’encyclopédies et de périodiques de l’époque. Les visiteurs peuvent aussi découvrir la Pieter Teylers Huis, son ancienne demeure.

Le musée s’est développé par étapes, et chaque nouvelle partie a gardé l’agencement de son époque. Des galeries de peinture ont suivi en 1838 et 1892, et l’entrée principale actuelle sur le Spaarne, conçue par l’architecte viennois Christian Ulrich, a ouvert en 1885 ; derrière elle se trouvent la salle des instruments et deux salles de fossiles, toutes conçues par A. van der Steur, architecte de Haarlem. Une grande aile nouvelle de Hubert-Jan Henket a été ajoutée en 1996.

Van Marum a utilisé la collection pour ses propres recherches sur l’électricité statique et a acheté des fossiles comme le Mosasaurus ; le grand générateur électrostatique que John Cuthbertson a construit pour lui en 1784 fait toujours partie de la collection, avec des modèles de moulins et de grues réalisés pour démontrer l’hydraulique. Parmi les fossiles figurent certains des tout premiers spécimens d’Archaeopteryx jamais découverts. Hendrik Lorentz, physicien et lauréat du prix Nobel, a dirigé le cabinet de physique de 1910 à 1928.

Du côté de l’art, le musée possède des œuvres de Raphaël, Michel-Ange, Claude Lorrain et Guerchin, et des estampes d’Adriaen van Ostade et de Rembrandt. Ses galeries de peinture sont consacrées à la peinture romantique néerlandaise et aux écoles de La Haye et d’Amsterdam qui lui ont succédé, avec des tableaux de Barend Cornelis Koekkoek, Andreas Schelfhout, Hendrik Willem Mesdag, Anton Mauve, Jacob Maris, George Hendrik Breitner et Jozef Israëls.