Er begann als byzantinische Zitadelle im späten 7. Jahrhundert; nachdem die Johanniter Rhodos 1309 eingenommen hatten, wurde er ihr Verwaltungszentrum und der Sitz ihres Großmeisters und vereinte Palast, Hauptquartier und Festung in einem Bau. Eine Studie verortet genau an dieser Stelle die Fundamente eines antiken Tempels des Sonnengottes Helios und möglicherweise auch den Koloss von Rhodos.

Die Ritter reparierten und bauten den Palast Anfang des 14. Jahrhunderts und erneut nach dem Erdbeben von 1481 um. Nachdem die Osmanen die Insel 1522 erobert hatten, diente er ihnen als Kommandoposten und Festung. Die Katastrophe kam 1856, als ein Blitz in ein Pulverlager unter der nahen Johanneskirche einschlug, das möglicherweise seit der Belagerung von 1522 dort lag. Die Explosion tötete viele Menschen, machte die Kirche dem Erdboden gleich und brachte die meisten Obergeschosse des Palastes zum Einsturz, sodass nur die Räume im Erdgeschoss übrig blieben.

Was Besucher heute sehen, ist größtenteils eine italienische Rekonstruktion. Während der italienischen Herrschaft räumte der Architekt Vittorio Mesturino die Bauten aus osmanischer Zeit ab und baute zwischen 1937 und 1940 den Palast zusammen mit der nahen Ritterstraße wieder auf. Da es kaum Reste oder Aufzeichnungen des Originals gab, auf die er sich stützen konnte, schuf er einen Bau, der den italienischen Behörden zugleich als funktionierender Regierungssitz diente; er wurde wegen historischer Ungenauigkeit und unnötiger Eingriffe in die erhaltene mittelalterliche Substanz kritisiert. König Viktor Emanuel III. und später Benito Mussolini nutzten ihn als Feriensitz; Mussolinis Name ist auf einer großen Tafel nahe dem Eingang noch zu sehen.

Rhodos fiel 1948 aufgrund des im Jahr zuvor mit Italien unterzeichneten Friedensvertrags an Griechenland, und der Palast wurde daraufhin in ein Museum umgewandelt. 1988, während der griechischen Ratspräsidentschaft der Europäischen Wirtschaftsgemeinschaft, empfing Ministerpräsident Andreas Papandreou die übrigen Regierungschefs der Gemeinschaft hier zu einem Treffen.