Schmelzer maakte zijn debuut als profvoetballer bij Borussia Dortmund op 9 augustus 2008 in het bekerduel tegen Rot-Weiss Essen. De week daarop maakte hij zijn competitiedebuut in de 3–2 gewonnen wedstrijd tegen Bayer Leverkusen. Hij groeide uit tot in het eerste van Borussia Dortmund, waarmee hij in 2011 het landskampioenschap won. Het seizoen daarna begon in mineur voor Schmelzer vanwege dat hij verstek moest gaan vanwege een blessure, maar na zijn rentree wist hij met Dortmund de landstitel te prolongeren. Het seizoen 2011/12 bleek een succesvol seizoen te zijn voor Dortmund, want de ploeg wist ook beslag te leggen na een 5–2 overwinning tegen Bayern München op de DFB Pokal.
Op 11 januari 2013 verlengde Schmelzer zijn contract bij Dortmund tot 2017. Dat seizoen bleek uiteindelijk Europees een goed seizoen te worden voor de club, want Schmelzer haalde samen met zijn team de finale van de Champions League. In die finale verloren ze met 2-1 van Bayern München. Na het vertrek van Mats Hummels in augustus 2016 bij de club werd hij tot de nieuwe aanvoerder van het team benoemd. Aan het begin van het seizoen 2018/19 leverde hij de aanvoerdersband in, opdat het een te zware taak was vond hij, mede door blessureleed. Marco Reus werd benoemd als nieuwe aanvoerder. In mei 2022 beëindigde Schmelzer zijn carrière als voetballer.[1]