Smit begon zijn voetbalcarrière als jeugdspeler bij de plaatselijke voetbalvereniging Nieuw-Buinen. De snelle linksbuiten werd geselecteerd voor het Noordelijke amateurelftal en kwam zo in beeld bij Sportclub Venlo '54 dat in 1954 een van de tien clubs was die van start gingen in de eerste Nederlandse profcompetitie van de NBVB. Hij geldt als de eerste Noordelijke full-prof. In de NBVB-competitie was geen club uit de Noordelijke provincies vertegenwoordigd.
Na het samengaan van NBVB en KNVB werd hij overgenomen door VVV.
In 1955 keerde Smit naar het Noorden terug. Samen met ploeggenoot Gerrit Akkermans werd de linkeraanvaller aangetrokken door het Groningse Be Quick dat inmiddels ook was toegetreden tot het betaalde voetbal. Twee jaar later stapte hij over naar tweede-divisionist Enschedese Boys. Na twee seizoen beëindigde Smit daar zijn profloopbaan en keerde terug naar Nieuw-Buinen.
Nieuw-Buinen, Nederland
