Pobyt we Francji nie trwał jednak długo. Już 22 lipca 1920 r. Rozwadowski został pilnie wezwany z Belgii do Warszawy, gdzie natychmiast po przybyciu otrzymał nominację na szefa Sztabu Generalnego Wojska Polskiego. W obliczu bolszewickiej nawały i serii nietrafionych decyzji strategicznych Józefa Piłsudskiego, który, co warto zaznaczyć, zdążył samemu sobie nadać w marcu 1920 r. stopień marszałka Polski, jedynym ratunkiem mogła być prawdziwie fachowa wiedza wojskowa absolwenta Wiedeńskiej Wyższej Szkoły Wojennej.
Generał natychmiast przystąpił do działania, przegrupowując wycofujące się w bezładzie wojska polskie w celu przygotowania kontrofensywy. Rozwadowski zażądał też zmian kadrowych. Dowódcą Frontu Północnego został gen. Józef Haller, a ministrem spraw wojskowych gen. Kazimierz Sosnkowski. Co ciekawe, Rozwadowski jako obsesyjny legalista nie pozwalał swoim podwładnym na krytykowanie błędnych decyzji Józefa Piłsudskiego.
W nocy z 5 na 6 sierpnia 1920 r. w Belwederze odbyła się narada, w której wzięli udział: marszałek Józef Piłsudski, generał Tadeusz Rozwadowski, generał Kazimierz Sosnkowski i szef Francuskiej Misji Wojskowej w Polsce generał Maxime Weygand. Zebrani opracowali rozkaz operacyjny nr 8358/III koncentrujący kontrofensywę polską znad rzeki Wieprz. Ale to nie ten rozkaz budzi do dzisiaj wielkie kontrowersje wśród historyków, tylko wydany 10 sierpnia rozkaz nr 10 000, którego autorem był generał Rozwadowski. Szef sztabu rozkazał wycofywać oddziały znad Wieprza i wzmocnić dywizjami piechoty i flotyllą wiślaną V Armię dowodzoną przez generała Władysława Sikorskiego. W tym samym czasie pod ziemię zapadł się marszałek Piłsudski, który na ręce premiera Wincentego Witosa wysłał swoją pisemną dymisję.
Piłsudczycy przez lata podgrzewali mit, że to geniusz Marszałka uratował Warszawę, Polskę i Europę przed bolszewickim potopem. Na dowód wskazują korespondencję między wodzem naczelnym i generałem Rozwadowskim oraz list Weyganda do Focha napisany pod datą 13 sierpnia. Ta korespondencja nie stanowi jednak twardego alibi Marszałka, co najwyżej dowodzi, że generał Rozwadowski, faktyczny dowódca wojsk polskich, przestrzegał zasad i informował listownie wodza naczelnego o sytuacji na froncie. Jedno jest pewne: Józef Piłsudski pojawił się publicznie dopiero 18 sierpnia 1920 r. i od razu przypisał sobie wszystkie zasługi Rozwadowskiego.
W kwietniu 1921 r. generał Tadeusz Rozwadowski został generalnym inspektorem jazdy. Jego zadaniem miało być stałe ulepszanie tej formacji i jej uzbrojenia. Jednak znaczna część jego postulatów, w tym pomysł utworzenia dziesięciu pułków pancernych, została odrzucona z przyczyn czysto ekonomicznych. Od 1921 r. generał z niepokojem śledził politykę kadrową w wojsku polegającą na awansach z klucza politycznego. Do Rozwadowskiego docierały też niepokojące wieści o radykalizacji nastrojów wśród oficerów ślepo oddanych Marszałkowi, którzy po śmierci prezydenta Gabriela Narutowicza chcieli roznieść polityków obozu narodowego na szablach.
Po utworzeniu rządu Wincentego Witosa w maju 1923 r. Józef Piłsudski zrezygnował z dowództwa w sztabie oraz z kierowania Ścisłą Radą Wojenną. W ramach protestu politycznego udał się na „wewnętrzną emigrację" do swojego dworku w Sulejówku. Wiele wskazuje, że koncepcja dokonania zamachu stanu zrodziła się u Marszałka już w grudniu 1923 r. Ale dopiero ukonstytuowanie się gabinetu Witosa 10 maja 1926 r. dało asumpt do wybuchu rebelii. Pełniący funkcję ministra spraw wojskowych i wierny Piłsudskiemu generał Lucjan Żeligowski przekazał Marszałkowi dowództwo nad oddziałami stacjonującymi koło Rembertowa w celu przeprowadzenia rzekomych ćwiczeń jednostek.
12 maja 1926 r. po nieudanej rozmowie przeprowadzonej z prezydentem Stanisławem Wojciechowskim na moście Poniatowskiego, Piłsudski zlecił swojemu przyjacielowi Kazimierzowi Świtalskiemu przekonanie kolejarzy, aby powstrzymali transport żołnierzy jadących na pomoc legalnej władzy. Oburzony tym faktem generał Tadeusz Rozwadowski, który został mianowany przez premiera dowódcą obrony stolicy, zażądał od marszałka Piłsudskiego wycofania wojska z Warszawy do godziny 18.00. W oczach Rozwadowskiego marszałek Piłsudski stał się zwykłym buntownikiem, sięgającym po warcholskie metody stosowane przez XVII-wiecznych rokoszan.
W odpowiedzi na ostrzał artyleryjski Belwederu, w czasie którego ranny został szef sztabu dowódcy obrony Warszawy pułkownik Władysław Anders, generał Rozwadowski polecił generałowi Włodzimierzowi Zagórskiemu zbombardowanie oddziałów buntowniczych, stacjonujących w kilku punktach miasta. Mimo zastosowania tak drastycznych środków rebelianci rośli w siłę. Strajkujący kolejarze zablokowali transport z wojskiem jadącym bronić rządu. Chwiejna postawa prezydenta Stanisława Wojciechowskiego, który odrzucił proponowany mu przez Rozwadowskiego pomysł przeprowadzenia kontrofensywy, zadecydowała o zwycięstwie zwolenników Marszałka. 15 maja 1926 r. prezydent Wojciechowski podpisał swoją rezygnację.
Ofiara zamachu?
Przejmujący władzę marszałek Józef Piłsudski ogłosił, że nie będzie się mścił na swoich przeciwnikach. W większości przypadków słowa dotrzymał. Inaczej rzecz się jednak miała z generałami: Rozwadowskim, Zagórskim, Malczewskim i Jaźwińskim, których aresztowano pod zarzutem przestępstw o charakterze kryminalnym. Wszyscy czterej trafili do Wojskowego Więzienia Śledczego nr I przy ul. Dzikiej 19 w Warszawie, a następnie zostali przetransportowani do Wojskowego Więzienia Śledczego nr III na Antokolu w Wilnie, gdzie byli przetrzymywani w brudnych i nieocieplanych celach. Istnieją przypuszczenia oparte na opinii generała Tadeusza Machalskiego, że ściany w celi generała Rozwadowskiego były pomalowane farbą zawierającą arszenik. Generał miał też być truty kanapkami zawierającymi domieszkę końskiego włosia.
Wszystkie te hipotezy opierają się na jednej istotnej poszlace. W ciągu roku pobytu na Antokolu znany ze swej tężyzny fizycznej 60-letni generał Rozwadowski zamienił się z postawnego mężczyzny w słabowitego staruszka. Mimo braku dowodów na przestępstwa natury kryminalnej jego proces był kilkakrotnie przekładany. Dopiero w październiku 1926 r. Wojskowy Sąd Okręgowy nr 1 orzekł, że generał jest niewinny i nie ma żadnych podstaw, aby dalej przebywał w areszcie. Wbrew tej jednoznacznej decyzji sądu generał Rozwadowski nadal był więziony aż do maja 1927 r. Dwa miesiące przed zwolnieniem został bezceremonialnie przeniesiony w stan spoczynku.
Dymisja oraz wieść o zaginięciu generała Włodzimierza Zagórskiego, o którym mówiono, że został zamordowany z rozkazu marszałka Piłsudskiego, pogłębiły chorobę generała Rozwadowskiego. Czując zbliżający się koniec życia, postanowił napisać referat poświęcony „Problemowi dzisiejszej obrony Państwa". Ten swoisty testament wojskowy miał za zadanie uwrażliwić Polaków na konieczność tworzenia wojska o wysokiej gotowości bojowej. Generał przewidywał bowiem, że do 1936 r. wybuchnie wojna z Niemcami lub Rosją.
Po wyjściu z więzienia spotkał się z marszałkiem Piłsudskim. Jak wspominała Kazimiera Rozwadowska-Zabłocka, w pewnym momencie rozmowy Marszałek powiedział w charakterystyczny dla siebie sposób: „Ale Bitwę Warszawską to ja wygrałem". Słysząc te słowa, generał Rozwadowski w ciszy obrócił się na pięcie i wyszedł, zostawiając osłupiałego Marszałka.
Obrońca Lwowa niedługo cieszył się życiem na emeryturze. Pod koniec września 1928 r. nękały go ciągłe ataki gorączki. W połowie października trafił wycieńczony do lecznicy św. Józefa przy ul. Hożej w Warszawie. Tam też zmarł 18 października 1928 r.
Sanacyjna władza zabroniła przeprowadzenia sekcji zwłok generała, co jedynie nasiliło domysły. Badający generała tuż przed jego śmiercią lekarze wojskowi pułkownik dr Bolesław Szarecki oraz chirurg lwowski prof. Tadeusz Ostrowski nie mieli najmniejszych wątpliwości, że generał został otruty.
22 października 1928 r. trumna z jego ciałem przybyła do Lwowa. W pogrzebie uczestniczyły tłumy. Generał Tadeusz Rozwadowski spoczął wśród obrońców Lwowa. 11 lat później, z obawy przed profanacją cmentarza przez wkraczających do Lwowa żołnierzy Armii Czerwonej, przyjaciele przenieśli jego trumnę w nieznane miejsce. Do dzisiaj jej nie odnaleziono.
