Его название соединяет греческие слова «высшая точка» и «город»; в древности его называли также Кекропией — по Кекропу, существу, наполовину змее, которого афиняне помнили как своего первого царя. Лучше всего сохранившиеся здания — ворота Пропилеи, Парфенон, маленький храм Афины Ники и Эрехтейон — относятся к программе работ, которой руководил Перикл в V веке до н. э.

Люди жили на холме уже в 4-м тысячелетии до н. э., а в позднем бронзовом веке на вершине стоял микенский дворец, окружённый циклопической стеной длиной 760 метров. Когда в 480 году до н. э. персы разграбили Афины, почти всё на скале было сожжено. Позже афиняне вложили барабаны колонн, триглифы и метопы из разрушенного недостроенного храма в новую северную стену как своего рода памятник войны, и эти детали до сих пор видны в кладке. Обломки статуй и приношений были захоронены в ямах и пошли на засыпку ровной террасы вокруг более позднего Парфенона.

Путь наверх ведёт через Пропилеи — монументальные западные ворота, строительство которых начал Мнесикл в 437 году до н. э.; они имеют дорические колонны из пентелийского мрамора; в их северном крыле когда-то были картины Полигнота. Сразу к югу от входа стоит небольшой ионический храм Афины Ники, завершённый между 421 и 409 годами до н. э. Парфенон занимает центр вершины, а к северу от него стоит Эрехтейон, построенный на неудобной неровной почве, чтобы вместить несколько более древних святилищ. У него необычная пара портиков: один на ионических колоннах, а другой — Портик дев, крыша которого опирается на резные женские фигуры, кариатиды. Его восточная половина служила Афине Полиаде, а западная — культу Посейдона-Эрехтея.

За Пропилеями когда-то стояла бронзовая Афина Промахос работы Фидия — статуя высотой 9 метров, позолоченный наконечник копья которой был виден с кораблей, огибавших мыс Сунион; от неё и от нескольких меньших святилищ остались лишь следы. Каждые четыре года праздник Великих Панафиней приводил процессию по городу вдоль Панафинейской дороги и на Акрополь, где статуе Афины подносили новое шерстяное одеяние — пеплос.

Склоны — тоже часть осмотра. С южной стороны находятся остатки театра Диониса, многократно перестраивавшегося, и Одеона Герода Аттика, возведённого в 161 году н. э., разрушенного герулами столетием позже и восстановленного в 1950-х годах. Музей Акрополя, в котором хранятся многие находки со скалы, расположен на южном склоне в 280 метрах от Парфенона.

На протяжении веков холм служил церковной территорией при византийцах, резиденцией Латинского герцогства Афинского и османским гарнизоном, причём внутри Парфенона находились мечеть и минарет. В 1687 году венецианский обстрел воспламенил порох, хранившийся в Парфеноне, и сильно повредил здания. После обретения Грецией независимости большинство более поздних пристроек было убрано: мечеть Парфенона была снесена в 1843 году, а средневековая Франкская башня простояла до 1875 года. В 1941 году, в начале оккупации странами Оси, Манолис Глезос и Апостолос Сантас сорвали нацистский флаг, поднятый над скалой. Проект реставрации Акрополя, начатый в 1975 году, собирает оригинальные фрагменты везде, где это возможно, закрепляя их титановыми штифтами, чтобы любое вмешательство можно было обратить вспять, и лишь в малой степени использует новый мрамор с горы Пентеликон.