In 1961 ging Ochiai naar de Saitama Urawa High School, waar hij in het schoolteam voetbalde. Nadat hij in 1964 afstudeerde, ging Ochiai spelen voor Toshiba. Hij tekende in 1966 bij Mitsubishi Motors. Met deze club werd hij in 1969, 1973, 1978 en 1982 kampioen van Japan. Ochiai veroverde er in 1971, 1973, 1978 en 1980 de Beker van de keizer en in 1978 en 1981 de JSL Cup. In 19 jaar speelde hij er 267 competitiewedstrijden en scoorde 56 goals. Ochiai beëindigde zijn spelersloopbaan in 1984.