Aan het einde van zijn spelersloopbaan werd hij vanaf 1946 ook speler/trainer bij Austria Wien. Als trainer won hij met Austria het Oostenrijks kampioenschap in 1949, 1950 en 1953 en de beker in 1948 en 1949. Müller ging naar Nederland waar hij in 1956 eenmaal bondscoach was van het Nederlands voetbalelftal (3-2-overwinning op Zwitserland). Van 1956 tot 1963 was hij trainer van Willem II. Na een periode bij AEK Athene werd hij in 1964 wederom een seizoen trainer bij Austria. Daar maakte hij nog een comeback als trainer in het seizoen 1971/72.