Le rocce conglomerate sono formate dal processo di roccia sedimentaria, che è: erosione, trasporto, deposizione e cementazione. Due proprietà caratteristiche della roccia conglomerata sono che le particelle sedimentarie, o clasti, sono maggiori di 2 millimetri in dimensioni, e i clasti sono arrotondati in apparenza. Le rocce sedimentarie con clasti angolari si distinguono dai conglomerati e sono chiamate brecce.
I conglomerati, come altre rocce sedimentarie, sono formati dai detriti di rocce di origine, che derivano da agenti atmosferici ed erosione. Mentre i pezzi della roccia di origine cadono, vengono trasportati in altri luoghi dove vengono depositati a strati. Nel caso dei conglomerati, il trasporto via acqua fa sì che i clasti assumano la loro forma arrotondata. Mentre gli strati sedimentari si accumulano nello stadio del processo di formazione chiamato deposizione, la pressione compatta gli strati inferiori.
La fase finale del processo è la cementazione. Questo si riferisce allo sviluppo di nuovi minerali tra le particelle sedimentarie stratificate e compattate. Queste nuove crescite minerali legano insieme le particelle. Il processo è aiutato dall'acqua che penetra attraverso i pori negli strati sedimentari e deposita minerali tra cui il carbonato di calcio o la silice, tra le particelle. I precipitati trasportati dall'acqua agiscono come cemento e riducono anche la porosità, o il grado di spazio aperto, tra le particelle sedimentarie fino a quando non si forma una nuova roccia indurita.
