Gegründet wurde das Dorf 1811 von sechs Familien deutscher Abstammung, nachdem ihnen die Provinz Nova Scotia mehr als 800 Acres Land zugewiesen hatte. Sie lebten vor allem vom Fischfang, bestellten Felder, wo der Boden es zuließ, und ließen ihr Vieh auf dem umliegenden Land weiden. In den frühen 1900er-Jahren lebten hier rund 300 Menschen, es gab eine Schule, eine Kirche, einen Gemischtwarenladen und eine Hummerkonservenfabrik. Mit den besseren Straßen kamen immer mehr Künstler und Fotografen, und nach dem Zweiten Weltkrieg überholte der Tourismus den Fischfang, auch wenn der Hummerfang weiterbetrieben wird.

1766 wurde die Bucht als Peggs Harbour oder Eastern Point Harbour verzeichnet. Der heutige Name geht wahrscheinlich auf die St. Margarets Bay zurück, denn Peggy ist eine Koseform von Margaret; Samuel de Champlain hatte die Bucht nach seiner Mutter Marguerite Le Roy benannt. Die örtliche Legende erzählt lieber eine andere Geschichte: Die einzige Überlebende eines Schiffbruchs am Halibut Rock soll hier aufgewachsen sein, 1800 einen Mann aus dem Ort geheiratet haben und fortan „Peggy of the Cove“ genannt worden sein.

Die Landschaft besteht aus nacktem Fels. Der Granit entstand im Devon vor mehr als 400 Millionen Jahren als Teil des großen Nova-Scotia-Batholithen; später schabten Gletscher den Boden blank und hinterließen abgeschliffenes Grundgestein und große Findlinge, die über das offene Ödland verstreut liegen. Damit es so bleibt, stellte der Peggys Cove Commission Act von 1962 rund 2.000 Acres zwischen Indian Harbour und West Dover mit ihrem Ödland, ihren Mooren, Teichen und der felsigen Küste unter Schutz vor Bebauung. 2021 wurde neben den Felsen eine 1.300 Quadratmeter große Aussichtsplattform eröffnet, von der aus sich das Meer sicherer beobachten lässt als von den Felsen selbst.

Der Maler und Bildhauer William E. deGarthe ließ sich im Dorf nieder, und eine Galerie zeigt seine Werke. Gleich daneben, im William E. deGarthe Provincial Park, meißelte er einen 30 m langen Granitfelsen zu einem Denkmal für die Fischer Nova Scotias: 32 Fischer mit ihren Frauen und Kindern unter den Flügeln des heiligen Elmo, des Schutzpatrons der Seeleute, dazu die legendäre Peggy. Über der Bucht liegt noch eine andere Erinnerung: Am 2. September 1998 stürzte Swissair-Flug 111 etwa acht Kilometer südwestlich von Peggys Cove mit allen 229 Menschen an Bord ab, und Fischerboote aus der Bucht gehörten zu den ersten, die die Absturzstelle erreichten. Die kleine anglikanische St. John's Church im Stil der Carpenter Gothic im Dorf ist ein von der Gemeinde ausgewiesenes Kulturdenkmal.