Se levantó entre finales del siglo XIII y comienzos del siglo XIV para albergar a los Priori delle Arti y al Gonfaloniere di Giustizia, el gobierno supremo de la ciudad, y durante más de siete siglos ha sido, en palabras del museo, el símbolo del poder civil en Florencia. Sigue siendo el ayuntamiento: el alcalde trabaja aquí desde 1872 y aquí se reúne el Consejo Municipal, mientras que la mayor parte del resto del edificio es museo.

Arnolfo di Cambio lo comenzó en 1299 sobre las ruinas de casas de la familia Uberti e integró la antigua torre de los Foraboschi en la base de la suya, por eso la Torre d'Arnolfo no está centrada sobre la fachada. Dos pequeñas celdas en el interior de la torre retuvieron a Cosme de Médici el Viejo en 1435 y a Girolamo Savonarola en 1498. El edificio recibió su nombre actual, el «Palacio Viejo», después de que el duque Cosme I, que se había instalado aquí en mayo de 1540, trasladara su residencia al otro lado del Arno, al Palazzo Pitti; Giorgio Vasari le construyó un corredor elevado que unía ambos a través de los Uffizi y por encima del Ponte Vecchio. El David de Miguel Ángel estuvo a la entrada de 1504 a 1873, y hoy ocupa su lugar una réplica junto al Hércules y Caco de Baccio Bandinelli.

Nada más cruzar la puerta, el primer patio, obra de Michelozzo, tiene una fuente de pórfido rematada por una copia del niño con delfín de Verrocchio, y muros pintados al fresco en 1565 con vistas de ciudades austriacas para la boda de Francisco I de Médici con Juana de Austria. La gran escalinata de Vasari sube al Salone dei Cinquecento, construido en 1494 para el Gran Consejo de 500 miembros y de unos 52 metros de largo. Más tarde, Vasari lo amplió para la corte de Cosme I y lo cubrió entre 1555 y 1572 con escenas de las victorias de Florencia sobre Pisa y Siena y con un techo de 39 paneles; las pinturas murales de batallas que se encargaron para la sala a Leonardo da Vinci y a Miguel Ángel se perdieron o no pasaron de los dibujos. El Genio de la Victoria, en mármol, de Miguel Ángel ocupa el nicho central del lado sur.

Junto al gran salón, el Studiolo de Francisco I, sin ventanas y diseñado por Vasari en 1570–1575, está revestido de pinturas y pequeños bronces de Giambologna y Bartolomeo Ammannati. En la planta superior se encuentran los apartamentos privados de Cosme I y de su esposa, Leonor de Toledo, cuya capilla pintó al fresco Bronzino, y las salas de los Priores. La Sala de los Lirios tiene un techo de flores de lis doradas y la Judit y Holofernes original de Donatello, colocada aquí en 1988. Al lado, la Sala de los Mapas Geográficos conserva los armarios de nogal cuyas puertas pintó Egnazio Danti; se conservan 53 de los 57 mapas previstos. El entresuelo muestra la colección Loeser de obras medievales y renacentistas, entre ellas el retrato de Laura Battiferri pintado por Bronzino.

Las monumentales estancias de la primera planta, entre ellas las que llevan el nombre de los Priores y del papa León X, las utiliza el alcalde como despachos y para recepciones, así que los visitantes no las ven.