De club werd in 1958 opgericht als FK Rad en begon onder aan de ladder in de competitie. In de jaren 80 kon de club zich opwerken naar de hoogste klasse van Joegoslavië. Tussen 1990 en 1993 heette de club FK GRO Rad Beograd. De club bleef in de eerste klasse, ook na de verbrokkeling van het land tot 2003. In 2005 promoveerde de club terug naar de hoogste klasse, maar ze bleef daar maar één seizoen. In 2008 promoveerde Rad opnieuw.