In 1976 ging Yoshida naar de Hosei University, waar hij in het schoolteam voetbalde. Nadat hij in 1980 afstudeerde, ging Yoshida spelen voor Furukawa Electric. Met deze club werd hij in 1985/86 kampioen van Japan. Yoshida veroverde er in 1982 en 1986 de JSL Cup. In 10 jaar speelde hij er 180 competitiewedstrijden en scoorde 60 goals. Yoshida beëindigde zijn spelersloopbaan in 1990.