Se había proclamado califa en 929, y la nueva ciudad debía mostrar ese rango frente a sus rivales, los califas fatimíes del norte de África y los abasíes de Bagdad. Su nombre significa «la ciudad resplandeciente». En 2018 la UNESCO inscribió el lugar como Patrimonio Mundial con el nombre de «Ciudad califal de Medina Azahara».

Las obras empezaron en los años 936–940 y continuaron con su hijo al-Hakam II, que reinó hasta 976. La ciudad tenía salones de recepción, una mezquita aljama, oficinas de gobierno, casas aristocráticas, jardines, una ceca, talleres, cuarteles y baños, con agua traída por un acueducto. Tras al-Hakam II, el poderoso chambelán al-Mansur, conocido como Almanzor, trasladó el gobierno a una ciudad palatina propia, y entre 1010 y 1013, durante una guerra civil, Madinat al-Zahra fue saqueada. Durante años la gente se llevó su piedra, sus restos quedaron enterrados y las excavaciones no empezaron hasta 1911.

La ciudad era un rectángulo de 112 hectáreas dispuesto en la ladera en tres terrazas, de modo que los palacios de lo alto dominaban el barrio oficial y, más abajo, la ciudad, la mezquita y el valle del Guadalquivir. Solo se han excavado y restaurado en parte unas 10 hectáreas, pero incluyen los palacios principales, y son estas zonas altas las que recorren los visitantes. Se entra por la Puerta Norte, antes Bab al-Jibal o Puerta de los Montes, que se abre entre el distrito administrativo, al este, y el Dar al-Mulk, al oeste, donde vivía el califa.

Desde allí los caminos pasan junto al pórtico del Patio de los Pilares, donde se hallaron esculturas romanas, entre ellas el Sarcófago de Meleagro, ya recompuesto, y junto a la Casa de Yafar, cuyo pórtico del patio se ha reconstruido. El edificio más rico es el Salón Rico, donde Abd ar-Rahman III recibía a sus invitados; se construyó entre 953 y 957 y se reconstruyó tras su excavación en 1946. En su interior, hileras de arcos de herradura sobre esbeltas columnas lo dividen en tres naves, y los muros están cubiertos de paneles de caliza tallada con arabescos y árboles de la vida. El califa se sentaba contra el muro del fondo, y la sala tenía unas proporciones que le permitían ver todo su ancho sin girar la cabeza.

Delante del salón, el Jardín Alto se extiende sobre una terraza artificial, dividido en cuatro parterres rehundidos por andenes, con una gran alberca de 19 por 19 metros situada de modo que el Salón Rico y un pabellón central se reflejaran en el agua. Más al este están el Jardín Bajo y la gran rampa que subía en varios tramos desde la puerta de ceremonias, con una pendiente lo bastante suave para quienes llegaban a caballo. En el borde del yacimiento, el museo arqueológico, inaugurado en 2009, se construyó bajo y en gran parte enterrado para no romper la vista desde las ruinas; su diseño, de Nieto Sobejano Arquitectos, obtuvo un premio de arquitectura Aga Khan en 2010.