Hij begon zijn voetbalcarrière bij Dinamo Zagreb en verhuisde na enkele succesvolle jaren naar de Serie A in Italië. Eerst kwam hij uit voor Internazionale, daarna speelde hij voor stadsrivaal AC Milan. De rechtsbenige verdediger is een vaste waarde voor het Kroatisch elftal, maar wist in Duitsland met Kroatië op het WK niet verder te komen dan de groepsfase met verder in de groep Brazilië, Japan en het door Guus Hiddink gecoachte Australië. In de laatste wedstrijd, tegen Australië, kreeg hij na zijn tweede gele prent de rode kaart. Bij AC Milan was Šimić de laatste jaren vaak tweede keus, maar speelde geregeld nog een wedstrijd. In 2008 gaat hij voetballen bij AS Monaco waar hij wel een basisplaats krijgt. Met Milan won Šimić eenmaal de landstitel en de Champions League.
Šimić speelde voor Kroatië mee op het WK 2002 in Japan en Zuid-Korea, het EK 2004 in Portugal en WK 2006 in Duitsland. Šimić kon ook uitkomen voor het voetbalelftal van Bosnië en Herzegovina, vanwege zijn Bosnische wortels.[2]