Het bisdom ontstond toen op 2 juli 1956 het bisdom Savannah-Atlanta werd gedeeld. Het werd suffragaan aan het aartsbisdom Baltimore. In 1959 telde het bisdom 24.414 katholieken in 26 parochies (1,4 % van de totale bevolking). Op 10 februari 1962 werd Atlanta verheven tot aartsbisdom, met Charleston, Charlotte, Raleigh en Savannah als suffragane bisdommen.