Zover ik weet komt er op natuurlijke CO2 vrij via geologische processen (vulkanisme e.d.). In verhouding met de menselijke uitstoot zal dit tegenwoordig gemiddeld duidelijk minder zijn, maar het loopt wel "eeuwig" door. Hierdoor hoopte CO2 zich geleidelijk op, totdat er planten kwamen die CO2 naar zuurstof omzetten. Op een gegeven moment werd CO2 sneller opgeruimd dan aangemaakt, zodat de concentratie ervan zakte naar waardes die in dezelfde grootte-orde liggen als nu. In het begin was er een pak meer vulkanisme (aarde was nog een stuk heter, dus meer tektonische activiteit), dus kwam er ook een stuk sneller CO2 in de atmosfeer terecht, al werd een deel ervan ook weer geabsorbeerd door verwerend gesteente (olivijn is een bekend voorbeeld).
Vroeger waren overigens hogere CO2 concentraties nodig om de temperatuur op een leefbaar niveau te houden, want de zon wordt ongeveer 10% helderder per miljard jaar dat ze ouder wordt. Hierdoor zal onze planeet binnen een paar miljard jaar wellicht hetzelfde lot vergaan als Venus (nog voordat de zon een rode reus wordt) omdat de zon te krachtig wordt.
Mogelijk interessant artikel op deze link, een relatief beknopte en eenvoudige uitleg over de vroegere atmosfeer.