Rüdiger stroomde in 2012 door vanuit de jeugd van VfB Stuttgart. Daarvoor debuteerde hij op 23 juli 2011 al in het tweede elftal, tijdens een wedstrijd in de 3. Liga tegen Arminia Bielefeld.[3] Hij maakte op 29 januari 2012 ook zijn debuut in het eerste team, in een wedstrijd in de Bundesliga tegen Borussia Mönchengladbach.[4] Rüdiger maakte op 4 oktober 2012 vervolgens zijn Europese debuut, tegen Molde FK in de Europa League.[5] Gedurende het seizoen 2013/14 was hij het hele jaar basisspeler bij Stuttgart. Hiervoor maakte hij op 1 september 2013 zijn eerste doelpunt in de Bundesliga, tegen 1899 Hoffenheim.[6]
Stuttgart verhuurde Rüdiger in augustus 2015 voor een jaar aan AS Roma, de nummer twee van de Serie A in het voorgaande seizoen. Dat bedong daarbij een optie tot koop ter hoogte van 9 miljoen euro.[7] Rüdiger speelde dat seizoen dertig competitiewedstrijden voor de Italiaanse club en eindigde daarmee als derde in de Serie A. Hij maakte in die periode ook zijn debuut in de UEFA Champions League. AS Roma lichtte in mei 2016 de optie tot koop en legde Rüdiger vast tot medio 2020.[8] Zijn verblijf in Rome bleef in realiteit beperkt tot één extra seizoen.
Rüdiger tekende in juli 2017 een contract tot medio 2022 bij Chelsea, de kampioen van de Premier League in het voorgaande seizoen. Dat betaalde € 32.750.000 voor hem aan AS Roma. Dat kreeg daarbij tot € 5.650.000 extra in het vooruitzicht aan eventuele bonussen. Rüdiger speelde op 1 februari 2020 zijn honderdste officiële wedstrijd voor Chelsea. Hij maakte die dag allebei de doelpunten voor zijn ploeg in een competitiewedstrijd uit bij Leicester City (2–2).