I fossili si formano in rocce sedimentarie come calcare, scisti e arenarie. Gli altri due tipi di roccia, ignea e metamorfica, si formano in condizioni inadatte ai fossili.
I fossili sono più comuni nel calcare e meno comuni nell'arenaria. I fossili si formano più spesso nello scisto che nella pietra arenaria, ma meno frequentemente nel calcare. Ciò è dovuto al modo in cui si formano: il calcare è fatto di gusci di organismi morti, lo scisto è formato da sedimenti di fango a grana fine e forme di arenaria dalla sabbia.
Le rocce ignee e metamorfiche non contengono fossili a causa delle alte temperature e delle pressioni implicate nella loro formazione. Le rocce ignee si formano quando il magma si raffredda e le rocce metamorfiche si formano nell'estrema temperatura e pressione sotto la crosta terrestre.