Le prime civiltà conosciute per aver fatto uso del carbonio erano i Sumeri e gli Egiziani, che usavano il carbone come combustibile senza fumo e per fondere i minerali metalliferi. In seguito sono stati trovati usi registrati di carbone per scopi medicinali Testi egiziani e greci risalenti al periodo tra il 1500 e il 400 aC Nel 1772, il chimico francese Antoine Lavoisier dimostrò che i diamanti erano una forma di carbonio.
Tra il 1779 e il 1786, Carl Wilhelm Scheele in Pomerania svedese e Berthollet, Monge e Vandermonde in Francia, dimostrarono che la grafite, o "piombo a matita", era per lo più carbone. Non è stato fino al 1789, tuttavia, che l'elemento è stato nominato ed elencato come "carbonio" in un libro di testo scritto da Lavoisier.
Nuove e esotiche forme di carbonio, o allotropi, furono introdotte a partire dal 1985 con la scoperta di buckminsterfullerene, o C60, e delle sue forme associate, compresi i nanotubi e le buckyball. Questa scoperta ha guadagnato i suoi tre scopritori, R. Curl, H. Kroto e R. Smalley, premio Nobel per la chimica nel 1996. C60 è stato recentemente notato come la più grande molecola trovata nello spazio esterno e si crede che sia stata creata all'interno di stelle evolute.
In termini di abbondanza, il carbonio occupa il quarto posto nell'universo. Si posiziona al 15 ° posto nella categoria di elementi contenuti nella crosta terrestre. I più noti allotropi di carbonio sono il diamante, la grafite e il carbonio amorfo, che include la fuliggine e il carbone.