Dauguma meno vertybių dvarininko Mykolo Baženskio užsakymu sukūrė skulptorius Kazimieras Ulianskis (1878–1914). M. Baženskis dvarą paveldėjo 1903 m. po tėvo Mykolo-Ignoto Baženskio mirties (mirė 1902 m.).
Dar tebesimokydamas toli nuo tėviškės M. Baženskis svajojo, kaip papuošti Burbiškio dvaro parką gražiais meno kūriniais. Baigęs mokslus Vokietijoje jis sugrįžo į Burbiškio dvarą ir pats ėmėsi tvarkyti ūkį. Čia gyvendamas neatsisakė savo sumanymo skulptūromis išgražinti tėvo įrengtą parką. Ieškojo gabaus menininko, galinčio tą jo sumanymą įgyvendinti.
1910 m. M. Baženskis susipažino su jaunu ir gabiu skulptoriumi K. Ulianskiu. Dailininkas 1907 m. buvo baigęs skulptūros mokslus Lenkijoje. Mokėsi Varšuvoje pas skulptorių H. Marcevskį, o Krokuvos dailės akademijoje pas skulptorių Konstantiną Laščką. K. Ulianskis, baigęs mokslus, gyveno Panevėžyje ir dirbo įvairius skulptūros darbus bažnyčioms.
M. Baženskiui skulptorių, atrodo, bus rekomendavęs dvarininkas Karpis. Nors galėjo ši pažintis užsimegzti ir per Petrą Vileišį. K. Ulianskis buvo žinomas kaip gabus, darbštus ir kuklus menininkas. Kaip tik tokios savybės labai patiko M. Baženskiui. Šis, kaip ir dera turtingam dvarininkui, tapo mecenatu – pasiėmė skulptorių į kelionę po Italiją. Buvo aplankytos ir kitos Europos šalys.
Šios kelionės metu, besilankant žymiausiuose meno centruose, matyt, atsirado susitarimas tarp dvarininko mecenato ir skulptoriaus. Tuomet galėjo būti aptarti ir numatyti ateities darbai, suplanuota skulptūrų išdėstymo parke tvarka, nes 1911 m. Burbiškio dvaro parke jau pastatomas pirmasis paminklas, kuriamos kitos skulptūros.
Burbiškio dvaro istorijos ekspozicija įkurta sename Baženskių dvare, kuris istoriniuose šaltiniuose minimas nuo XVII a. Peizažinio tipo dvaro parkas, užimantis 28 ha pasižymi įspūdingais tvenkiniais, kuriuose yra 15 salų. Dvaro pastatai suformuoti taip, kad sudaro didelį uždarą kiemą, todėl primena tvirtovę. Atstatytame rūmų svečių korpuse rengiami svečių namai, rūmų verandoje įrengta dvaro istorijos ekspozicija.
Parke gausu skulptoriaus Kazimiero Uliansko darbų: poeto Adomo Mickevičiaus paminklas (pastatytas 1911 m.), Lietuvos Didžiojo kunigaikščio Vytauto paminklas (pastatytas 1912 m.), Šv. M. Marijos skulptūra, didingi parko vartai, liūtų tiltas. Parke įrengti takai, tvenkinių salos sujungtos 12 tiltelių. Parko gėlių daigyne auga įvairių augalų kolekcijos. Dvare vyksta restauravimo darbai.