Toma su nombre del Ganges, el río sagrado de la India, y sus manantiales, que brotan en un terreno más alto al noroeste, alimentan los estanques de su recinto de una hectárea antes de que el agua siga su curso para regar las tierras de alrededor. Los árboles de rijasa plantados aquí le dan un segundo nombre, Taman Rijasa.
El último rey de Karangasem, I Gusti Bagus Jelantik, que también construyó el Palacio Acuático de Ujung, trazó el conjunto en 1946 como lugar de recreo para él y su familia; en 1963 una erupción del cercano monte Agung lo destruyó casi por completo. Tirta Gangga es también un lugar de agua sagrada: de acuerdo con la veneración que el hinduismo balinés siente por el Ganges, su agua se usa como tirta en las ceremonias religiosas, y el templo de Patirthan recuerda su largo papel como lugar de peregrinación.




