Kale, Kakatiya hanedanının küçük bir toprak kalesi olarak başladı; adın Telugu dilindeki “çoban tepesi” anlamına gelen Gollakonda'dan geldiği düşünülür. Bahmani krallarının vali olarak gönderdiği Sultan Kuli, 1518'de bağımsızlığını ilan etti ve yeni Golkonda Sultanlığı'nı buradan yönetti; ilk üç Kutub Şahi sultanı 62 yıl boyunca toprak surları granitle yeniden yaptı. Başkent 1590'da Haydarabad'a taşındı.
Golkonda'nın adı, yakındaki elmas madenleri, özellikle de kenti Golkonda elmasları olarak bilinen büyük taşların pazarı yapan Kollur Madeni sayesinde Hindistan'ın çok ötesine yayıldı; kalede bir zamanlar Koh-i-Nur ve Hope elmasının saklandığı bir mahzen olduğu söylenir. 17. yüzyılın başında kent aynı zamanda bir pamuk dokuma merkeziydi; İran'a ve Avrupa ülkelerine muslin ve patiska, Java ve Sumatra'ya baskılı kumaş ihraç ediyordu. 1687'de, sekiz aylık bir kuşatmanın ardından Babür imparatoru Evrengzib kaleyi aldı ve son Kutub Şahi kralı Ebu'l Hasan Kutub Şah'ı esir etti; iç kale de harabeye döndü.
En dıştaki surların içine, adını Evrengzib'in ordusunun buradan girmesinden alan ve fillerin kırmasını önlemek için dev demir çivilerle donatılmış Fateh Darwaza, yani Zafer Kapısı'ndan girilir. Girişteki kubbenin altında belirli bir noktada çırpılan el sesi, neredeyse bir kilometre uzaktaki zirvede bulunan Bala Hisar köşküne kadar ulaşır; bu düzenek bir zamanlar alarm işlevi görüyordu. Doğu yanındaki ana giriş olan Bala Hisar kapısının sivri kemerinde kıvrık dal motifleri, aslana benzeyen efsanevi yali'ler ve süslü kuyruklu tavuskuşları oyulmuştur.
İçerideki kalıntılar arasında kraliyet daireleri ve salonları, Taramati camisi, İbrahim camisi, silah depoları, bir deve ahırı, bir ölü yıkama hamamı, Habshi Kamans kemerleri ve tepenin üstündeki Durbar salonu ile zirvede Haydarabad'a bakan bir baradari köşkü bulunur. Kralın sarayı ile İbrahim camisinin yanındaki Jagdamba tapınağı erken Kakatiya dönemine uzanır ve Bonalu festivali sırasında yüz binlerce Hindu hacıyı çeker; yakında bir Mahakali tapınağı da vardır. Dış surun yaklaşık bir kilometre kuzeyinde, bahçeler arasında Kutub Şahi türbeleri yer alır. Golkonda, Charminar ve Kutub Şahi türbeleri, Hindistan'ın UNESCO Dünya Mirası için geçici listesindedir.




