Dal punto di vista chimico, la differenza tra i due è che l'acqua dura contiene ioni di calcio e magnesio, mentre l'acqua dolce no. L'acqua dolce è più facile da fondere con l'acqua dura.
L'acqua dura tende a lasciare residui, motivo per cui i film si formano sui rubinetti, nelle fognature e nelle condutture dell'acqua. Provoca anche formazioni in caffettiere e teiere, motivo per cui alcune marche consigliano di decalcificare regolarmente le macchine.
La natura acida della pioggia causa acqua dura; la pioggia è acida perché si combina con l'anidride carbonica per formare un acido debole. La pioggia quindi dissolve rocce e altri composti nell'acqua, creando acqua dura.