Он провозгласил себя халифом в 929 году, и новый город должен был продемонстрировать этот ранг перед соперниками — фатимидскими халифами в Северной Африке и Аббасидами в Багдаде. Его название означает «сияющий город». В 2018 году ЮНЕСКО включила объект в список Всемирного наследия под названием «Город халифата Медина-Асахара».

Работы начались в 936–940 годах и продолжались при его сыне аль-Хакаме II, правившем до 976 года. В городе находились залы для приёмов, соборная мечеть, правительственные учреждения, дома аристократов, сады, монетный двор, мастерские, казармы и бани, а воду подводил акведук. После аль-Хакама II могущественный камергер аль-Мансур, известный как Альманзор, перенёс правительство в собственный дворцовый город, а в 1010–1013 годах, во время гражданской войны, Мадинат-аз-Захра была разграблена. В последующие годы люди растаскивали её камень, её остатки были погребены, а раскопки начались только в 1911 году.

Город представлял собой прямоугольник площадью 112 гектаров, расположенный на склоне холма в виде трёх террас, так что дворцы наверху смотрели сверху вниз на официальный квартал, а ниже — на город, мечеть и долину Гвадалквивира. Раскопано и частично восстановлено лишь около 10 гектаров, но они включают главные дворцы, и именно по этим верхним областям проходят посетители. Вход ведёт через Северные ворота, когда-то называвшиеся Баб аль-Джибаль, или Ворота гор, которые открываются между административным районом на востоке и Дар аль-Мулк на западе, где жил халиф.

Оттуда дорожки ведут мимо портика Двора колонн, где были найдены римские скульптуры, среди них заново собранный саркофаг Мелеагра, и Дома Джафара, портик двора которого был перестроен. Самое богатое здание — Salón Rico, где Абд ар-Рахман III принимал гостей; он был построен в 953–957 годах и реконструирован после раскопок в 1946 году. Внутри ряды подковообразных арок на тонких колоннах делят его на три нефа, а стены покрыты резными известняковыми панелями с арабесками и деревьями жизни. Халиф сидел у задней стены, а зал был рассчитан так, чтобы он мог видеть его во всю ширину, не поворачивая головы.

Перед залом Верхний сад раскинулся на искусственной террасе, разделённый дорожками на четыре утопленные клумбы, с большим бассейном размером 19 на 19 метров, расположенным так, чтобы Salón Rico и центральный павильон отражались в воде. Далее к востоку находятся Нижний сад и большой пандус, поднимавшийся несколькими поворотами от парадных ворот, достаточно пологий для посетителей верхом на лошадях. На краю территории находится археологический музей, открытый в 2009 году, низкий и в основном подземный, чтобы не нарушать вид на руины; его проект бюро Nieto Sobejano Arquitectos получил архитектурную премию Ага Хана в 2010 году.