In 1962 ging Yokoyama naar de Rikkyo University, waar hij in het schoolteam voetbalde. Nadat hij in 1966 afstudeerde, ging Yokoyama spelen voor Mitsubishi Motors. Met deze club werd hij in 1969 en 1973 kampioen van Japan. Yokoyama veroverde er in 1971 en 1973 de Beker van de keizer. In 13 jaar speelde hij er 136 competitiewedstrijden. Yokoyama beëindigde zijn spelersloopbaan in 1977.