Obě křídla zámku nechali postavit roku 1609 současně s hlavní budovou tehdejší majitelé Bruntálští z Vrbna. V pravém křídle byly maštale pro koně a byty kočích – k nim se později přistavěla kočárovna a dřevník. V 19. století přestavěla zámek do současné podoby Gabriela z Ditrichštejna. Posledními vlastníky byl rod Althannů.
Roku 1945 byl zámek zkonfiskován, od poloviny 20. století objekt využívala Správa lesů a statků, později provozovna Vojenských lesů a statků. V roce 2006 získalo zámek město Lipník nad Bečvou, když ho vyměnilo za jiné prostory za účelem rekonstrukce střešní zahrady. Západní část pravého křídla se až do obnovy, která začala v roce 2009, nevyužívala.
Cílem projektu obnovy bylo zrekonstruovat a zpřístupnit kulturní památku, a přispět tak ke zvýšení atraktivnosti města.
Dříve hospodářský objekt se proměnil ve společenské centrum s galerií, slavnostním sálem a kavárnou. Rekonstrukce, která skončila v červnu 2010, proběhla s maximálním ohledem na zachování historických prvků, například v salonku a kavárně se obnovila sgrafita a zachovaly se i původní břidlicové obklady stěn.
Rekonstrukcí konírny vznikly nové prostory galerie, výstavní síně, kavárny a nezbytného zázemí. Provedly se také úpravy bezprostředního okolí budovy a položila se dlažba, kterou doplnily travnaté plochy.
Na střeše konírny se nachází unikátní střešní zahrada, nejstarší v zemích severně od Alp, jejíž rozloha je asi 600 metrů čtverečních.
Objekt celoročně slouží jako galerie a výstavní síň pro expozici kovářských plastik, uměleckých děl a sbírkových předmětů. Galerie a výstavní síň se staly součástí prohlídkové trasy s průvodcem po městské památkové rezervaci.
Zdařilé rekonstrukce představuje veřejnosti projekt Má vlast cestami proměn.