Su nombre une las palabras griegas para «punto más alto» y «ciudad»; en la Antigüedad también se la llamó Cecropia, por Cécrope, la figura mitad serpiente a la que los atenienses recordaban como su primer rey. Los edificios mejor conservados, entre ellos los Propileos, el Partenón, el pequeño templo de Atenea Niké y el Erecteion, pertenecen a un programa de obras coordinado por Pericles en el siglo V a. C.

La colina ya estaba habitada en el 4.º milenio a. C., y a finales de la Edad del Bronce se alzaba en la cima un palacio micénico rodeado por una muralla ciclópea de 760 metros de longitud. Cuando los persas saquearon Atenas en 480 a. C., casi todo lo que había sobre la roca ardió. Después, los atenienses incrustaron tambores de columnas, triglifos y metopas del templo destruido e inacabado en la nueva muralla norte, a modo de monumento de guerra, y estas piezas todavía pueden verse en la mampostería. Los restos de estatuas y ofrendas se enterraron en fosas y sirvieron de relleno para la terraza nivelada en torno al Partenón posterior.

Se entra por los Propileos, la puerta monumental del oeste que Mnesicles comenzó en 437 a. C., con columnas dóricas de mármol pentélico; su ala norte estuvo decorada en su día con pinturas de Polignoto. Justo al sur de la entrada se encuentra el pequeño templo jónico de Atenea Niké, terminado entre 421 y 409 a. C. El Partenón ocupa el centro de la cima, y al norte se alza el Erecteion, construido sobre un terreno difícil y desigual para englobar varios santuarios más antiguos. Tiene una pareja de pórticos poco habitual: uno sobre columnas jónicas y otro, el Pórtico de las Doncellas, cuyo techo descansa sobre figuras femeninas talladas, las cariátides. Su mitad oriental estaba dedicada a Atenea Polias y su mitad occidental al culto de Poseidón-Erecteo.

Detrás de los Propileos se alzaba la Atenea Prómacos de bronce de Fidias, una estatua de 9 metros de altura cuya punta de lanza dorada se podía divisar desde los barcos que doblaban el cabo Sunión; de ella y de varios santuarios menores solo quedan vestigios. Cada cuatro años, el festival de las Grandes Panateneas llevaba una procesión a través de la ciudad por la Vía Panatenaica y hasta la Acrópolis, donde se ofrecía a la estatua de Atenea una nueva túnica de lana, el peplo.

Las laderas también forman parte de la visita. En el lado sur se encuentran los restos del teatro de Dioniso, reconstruido muchas veces, y el Odeón de Herodes Ático, levantado en 161 d. C., destruido por los hérulos un siglo después y reconstruido en la década de 1950. El Museo de la Acrópolis, que guarda muchos de los hallazgos de la roca, se encuentra en la ladera sur, a 280 metros del Partenón.

A lo largo de los siglos, la colina fue recinto eclesiástico bajo los bizantinos, sede del Ducado latino de Atenas y guarnición otomana, con una mezquita y un minarete dentro del Partenón. En 1687, un bombardeo veneciano hizo estallar la pólvora almacenada en el Partenón y dañó gravemente los edificios. Tras la independencia griega se retiraron la mayoría de los añadidos posteriores: la mezquita del Partenón se derribó en 1843, mientras que la Torre Franca medieval sobrevivió hasta 1875. En 1941, al comienzo de la ocupación del Eje, Manolis Glezos y Apostolos Santas arriaron la bandera nazi izada sobre la roca. El Proyecto de Restauración de la Acrópolis, iniciado en 1975, ha vuelto a montar los fragmentos originales siempre que ha sido posible, fijándolos con espigas de titanio para que cada intervención pueda revertirse, y empleando con mucha moderación mármol nuevo del monte Pentélico.