In 1977 ging Yoshida naar de Kariya Technical High School, waar hij in het schoolteam voetbalde. Nadat hij in 1980 afstudeerde, ging Yoshida spelen voor Yamaha Motors, de voorloper van Júbilo Iwata. Yoshida veroverde er in 1982 de Beker van de keizer. Met deze club werd hij in 1987/88 kampioen van Japan. In 16 jaar speelde hij er 275 competitiewedstrijden en scoorde 35 goals. Yoshida beëindigde zijn spelersloopbaan in 1995.
