Významná rodina si zaslúži honosné a reprezentatívne sídlo, povedalo si koncom 16. storočia sedmohradské knieža Žigmund Rákoczi pri budovaní svojho budúceho paláca a kúpilo parcely dvoch meštianskych domov. Jeden z nich patril prvému prešovskému kníhkupcovi Gašparovi Güttlerovi.
Renesančné sídlo bolo prebudované začiatkom 17. storočia. Počas prestavby bola dotvorená charakteristická fasáda s oknami v arkieroch, zakončená krásnou atikou, zloženou z kombinácií štítkov, oblúčikov a slepých arkád. Po dokončení bol palác považovaný za vtedajšiu najkrajšiu stavbu Horného Uhorska (dnešné východné Slovensko, Maďarsko, Zakarpatsko a západné Rumunsko).
V roku 1633 prebiehali v obdivovanom paláci rokovania medzi zástupcami sedmohradského kniežaťa Juraja I. Rákocziho a cisára Ferdinanda II., ktoré ukončili slávnostným podpísaním tzv. prešovského mieru.
V apríli 1701, po vyzradení plánov na nové protihabsburgské povstanie, väznili habsburské úrady v paláci Františka II. Rákocziho. O niekoľko rokov neskôr, počas povstania, sa potom stal rezidenciou vodcu odboja.
V priebehu 18. storočia došlo k prestavbe dvorového krídla v barokovom slohu. V 19. storočí mala budova viacero vlastníkov. Priestory boli prispôsobené na obchodné a dielenské účely. Opätovná rekonštrukcia paláca prebehla v 50. rokoch minulého storočia a vrátila rezidencii pôvodnú renesančnú podobu.
V súčasnosti je v budove umiestnené Krajské múzeum mesta Prešov.