Olumets kwam in totaal 32 keer (twee doelpunten) uit voor de nationale ploeg van Estland in de periode 1992-1996. Hij maakte zijn debuut onder leiding van bondscoach Uno Piir in de eerste officiële interland van het Baltische land sinds de onafhankelijkheid van de Sovjet-Unie: een vriendschappelijk duel op 3 juni1992 tegen Slovenië (1-1) in Tallinn. Hij werd in dat duel na 45 minuten vervangen door Sergei Ratnikov. Olumets was in 1991 al in actie gekomen tijdens de twee officieuze duels die de Esten dat jaar speelden in het kader van de strijd om de Baltische Cup.