La croce nella sua forma moderna fu usata per la prima volta dai Caldei e dai Greci nel sesto secolo a.C. Le forme modificate della croce furono usate anche da indù, buddisti ed egiziani già nel 3000 a.C. I cristiani hanno iniziato a usare ampiamente la croce come simbolo nel secondo e terzo secolo A.D.
Le croci caldei si sono evolute da un simbolo circolare che rappresenta il sole. I due raggi che formano la croce sono stati quindi aggiunti per rappresentare i raggi del sole. Queste croci simboleggiavano il dio sole caldeano Tammuz. Gli dei greci Diana e Bacco erano talvolta raffigurati con croci simili.
Il simbolo religioso degli antichi indù e buddisti era la svastica, una croce equilatera con estremità piegate. Anche gli ittiti e i nordafricani usavano il simbolo. Gli egiziani usavano il simbolo dell'ankh, una croce con un cerchio che sostituiva l'estremità superiore. L'ankh era generalmente considerato una rappresentazione della vita, ma spesso era anche una parte delle raffigurazioni della divinità solare, Sekhet.
Una delle prime raffigurazioni di una croce associata ai cristiani è il graffito di Alexameno, che risale al secondo secolo dC. Tuttavia, i cristiani non adottarono pienamente la croce come simbolo fino al terzo secolo, quando l'imperatore Costantino, che stava già usando il simbolo in guerra, adottò la religione cristiana. Artisti cristiani hanno iniziato a raffigurare Gesù su una croce nel VI secolo d.C.