Zgromadzenie Sióstr Franciszkanek Rodziny Maryi rozpoczęło świętowanie 200. rocznicy urodzin swojego założyciela.
Wybuch powstania styczniowego, krwawe represje, protesty pasterza, jego dymisja z Rady Stanu, list do cara Aleksandra II w obronie praw Kościoła i narodu z 15 marca 1863 r., a nadto zmiana polityki Rosji wobec kraju spowodowały, że arcybiskup stał się niewygodny dla władz zaborczych. Wezwany przez monarchę do Petersburga, opuścił stolicę 14 czerwca 1863 r. jako więzień stanu pod eskortą wojskową. Internowany w Gatczynie został skazany na zesłanie.
Na wygnaniu w głębi Rosji, w Jarosławiu nad Wołgą, abp Feliński spędził 20 lat. Pozbawiony zarządu archidiecezją złożył swoje losy w ręce Ojca Świętego. Skrępowany przepisami policyjnymi rozwinął jednak działalność apostolską wśród katolików, otoczył opiekę wygnańców syberyjskich, przyczynił się do fundacji kościoła. Zasłynął jako wzór świętości i pobożności. W wyniku porozumienia Stolicy Apostolskiej z rządem Rosji abp Feliński został uwolniony w 1883 r., ale do Warszawy nie mógł powrócić.
Jako arcybiskup tytularny Tarsu 12 ostatnich lat życia spędził pod zaborem austriackim, we wsi - Dźwiniaczka, gdzie oddał się działalności duszpasterskiej, oświatowej, społecznej, dobroczynnej wśród ludności polskiej i ukraińskiej. W środowisko tej wsi wniósł ducha odrodzenia religijnego, pojednania oraz owocnej współpracy w imię ewangelicznego braterstwa. Otworzył pierwszą szkołę we wsi, zbudował kościół. Lud tamtejszy uważał go za „kapłana świętego”, a jego pobyt w ich wsi za „błogosławieństwo Boże”.