McCarthy was als speler een gerenommeerde international van Ierland, die zevenenvijftig officiële interlands (twee goals) speelde voor zijn vaderland. In maart 1992 werd hij aangesteld als manager van Millwall. Hij was vier jaar lang actief bij de club, voordat hij in februari 1996 de nieuwe bondscoach van Ierland werd. Hij wist zich ten koste van onder meer Nederland te kwalificeren voor het WK 2002, waar Spanje in de achtste finale met strafschoppen te sterk was. Op 5 november 2002 nam McCarthy ontslag. Op 12 maart 2003 werd hij aangesteld bij Sunderland, waarmee hij degradeerde en later weer promoveerde. Tussen 2006 en 2012 was Wolverhampton Wanderers zijn werkgever, waarna hij een contract tekende bij Ipswich Town.
Eind 2018 werd bekend dat McCarthy opnieuw de bondscoach van Ierland werd. Hij volgde Martin O'Neill op, die eerder ontslag had genomen. Op 4 april 2020 werd McCarthy op zijn beurt vervangen door Stephen Kenny. In november 2020 werd McCarthy aangesteld als manager van de Cypriotische club APOEL Nicosia. Hij werd echter op 6 januari 2021 alweer ontslagen na tegenvallende resultaten.[1] In januari 2021 werd hij trainer van Cardiff City. In oktober 2021 werd zijn contract ontbonden. Van 19 januari tot 8 april 2023 was hij trainer van Blackpool.