Alytaus karinės įgulos cerkvė (dab. šv. Kazimiero bažnyčia) pastatyta 1904 m. Pirmojo Pasaulinio karo metais, Alytų užėmus Vokietijos armijai, cerkvė paversta kariškiams skirta evangelikų liuteronų bažnyčia. Po karo, šalia buvusiose kareivinėse įsikūrus LDK Birutės antrajam ulonų pulkui, cerkvė pertvarkyta į filijinę Šv. Kazimiero bažnyčią. 4-jame dešimtmetyje nugriautas bažnyčios bokštas su kupolėliais.
Kaip pasakoja istorikas Vilmantas Dunderis, su bokšto nugriovimu susijusi linksma istorija: „Kai griovė bokštelį, į jį trenkė žaibas. Tuomet miesto stačiatikiai pradėjo kalbėti:„matot, net Dievas pyksta, kad jo namus griauna“, o katalikai savo ruožtu kalbėjo: „matot, net Dievui nepatinka pravoslaviškas bokštas“.
1939 m. pabaigoje, ulonų pulkui persikėlus į Tauragę, bažnyčia buvo uždaryta. Joje įsikūrė dirbtuvės, vėliau – internuotojų stovykla. Apie 1941 m. stačiatikiai susigrąžino pastatą, vėl jame įrengė cerkvę. Antrojo pasaulinio karo metais bažnyčia gan smarkiai nukentėjo. Po karo maldos namai paversti sandėliu, vėliau – Alytaus mašinų gamyklos klubu. Buvo nugriautas antrasis bokštas, viršutinė centrinės navos dalis, pakeisti fasadai ir interjeras. Pastatas prarado sakraliniam pastatui būdingą vaizdą.
1990 m. pastatas grąžintas katalikams. Kiek vėliau pagal architekto Vytauto Jakučio ir konstruktoriaus Sauliaus Stulpino projektą, pradėta jo rekonstrukcija.
Nors visas senasis vidaus interjeras buvo sunaikintas, iki šių dienų yra išlikęs cerkvės ikonostasas.
