Mağaralar Tanca'nın 14 kilometre batısında, Spartel Burnu'ndadır ve biri denize, öteki karaya açılan iki ağızları vardır. Geleneğe göre deniz ağzını Fenikeliler oymuştur; duvardaki, çevredeki bölgenin haritasını oluşturduğu söylenen bir dizi göz biçimli iz de onlara atfedilir.
Mağara topluluğunun yalnızca bir kısmı doğaldır. Berberiler değirmen taşı yapmak için duvarlardan yuvarlak taşlar çıkardı ve geride bıraktıkları dairesel oyuklar mağarayı epeyce genişletti. Bundan çok önce, MÖ 6000 civarında, burada Neolitik insanlar yaşıyordu.
Mağaralar adını Yunan ve Roma mitolojisinden alır. Anlatıya göre Herakles, 11. görevi olan Hesperidler'in bahçesinden altın elmaları getirmeden önce bu mağarada dinlenip uyumuştu; bazı antik Yunan yazarları bu bahçeyi yakınlardaki Lixus'a yerleştirir. Bir Roma anlatısında ise Herakles Atlas dağına tırmanmak yerine onu yarıp geçer, Atlas Okyanusu'nu Akdeniz'e bağlar ve Cebelitarık Boğazı'nı yaratır. Yerel efsane, mağaranın dipsiz olduğunu ve boğazın altından Cebelitarık'taki St. Michael Mağarası'na uzanan bir tünelin bir ucu olduğunu da ekler; Berberi makaklarının Kaya'ya bu yoldan ulaştığı anlatılır.
Mağaralar 1920'de halka açıldı, 1952'de Ulusal Miras alanı ilan edildi ve 1982'de elektrik aydınlatması kazandı. Sanatçı ve yazar Brion Gysin'in külleri 1986'da buraya serpildi. Kral VI. Muhammed'in başlattığı yenileme Ekim 2015'te tamamlandı ve mağaralar o zaman yeniden açıldı.




