Rummikub è giocato con regole simili a Rummy, tranne che per usare le tessere al posto delle carte. I giocatori cercano di creare corse, composte da tre o più tessere numerate consecutive dello stesso colore, o gruppi, che sono tre o più dello stesso numero in colori diversi.
Un gioco di Rummikub inizia con ogni giocatore che pesca 14 tessere e poi cerca di creare corse o gruppi. I punti sono determinati dai numeri sulle tessere e un giocatore deve effettuare una "fusione" iniziale del valore di 50 o più punti per iniziare a posare le tessere. Ad esempio, un set di un blu quattro, cinque e sei vale 15 punti, mentre un set di un arancione, blu e nero vale 18 punti. Un giocatore avrebbe bisogno di altri 13 punti per fare una combinazione iniziale.
Una volta che un giocatore ha piazzato la propria combinazione di 50 punti sul tavolo, può iniziare a manipolare e riorganizzare le combinazioni. Le combinazioni devono contenere almeno tre tessere, ma possono essere suddivise per creare nuove combinazioni. Se un giocatore non può aggiungere a una combinazione (o proprio o dei suoi avversari), deve prendere una tessera e terminare il suo turno.
L'obiettivo del gioco è finire senza caselle rimanenti da giocare.