The Beatles namen In the Beginning (Circa 1960) in 1961 op in Hamburg. Pete Best was op dat moment de drummer van de band. Dit album, dat acht nummers van The Beatles bevat en vier waarop Tony Sheridan wordt begeleid door een andere band, werd in 1964 voor het eerst uitgebracht in Duitsland onder de naam The Beatles' First. In 1967 verscheen ditzelfde album in het Verenigd Koninkrijk, voordat in 1969 in Canada Very Together uitkwam met dezelfde tracklijst. De reden dat dit album pas zo laat in de Verenigde Staten verscheen, was omdat platenmaatschappij Polydor pas in 1969 een Amerikaanse tak opzette. In 1984 werd het album uitgebracht op cd onder de titel The Early Tapes of the Beatles, waarop nog twee nummers van Sheridan werden toegevoegd.
Alle nummers op het album worden gezongen door Sheridan, met uitzondering van "Ain't She Sweet", gezongen door John Lennon, en "Cry for a Shadow", wat een instrumentaal nummer is. Het album verscheen vier dagen voor Let It Be, het laatste studioalbum van de groep, en is daardoor ook het laatste compilatiealbum dat verscheen terwijl de band nog actief was. Een tijd lang was In the Beginning (Circa 1960) het enige Beatles-album dat op de iTunes Store verkrijgbaar was, voordat het volledige oeuvre van de band in 2011 beschikbaar werd gemaakt.