Le regole principali di Rummikub sono centrate sul raggruppamento delle tessere colorate e numerate in gruppi di almeno tre. Per qualificarsi come "set" o gruppo, le tessere possono essere tutte lo stesso numero e diversi colori oppure possono essere tutti dello stesso colore e numericamente di fila.
Rummikub è dotato di supporti speciali sui quali i giocatori possono allineare le proprie tessere. Per iniziare il gioco, tutte le tessere devono essere a faccia in giù. È meglio metterli da parte per lasciare un grande spazio vuoto nel mezzo per il gioco. Ogni giocatore seleziona quattordici tessere e le piazza sul suo piedistallo. Per iniziare il gioco, un giocatore deve essere in grado di stabilire un totale di trenta punti, determinato semplicemente aggiungendo il valore dei numeri sulle tessere giocate. Ogni set o gruppo deve avere un minimo di 3 tessere, condividendo lo stesso numero o colore (con numeri in fila) come descritto sopra. Dopo aver deposto i loro set, i giocatori terminano ogni turno raccogliendo una nuova tessera dal mazzo a faccia in giù. I punti possono essere conteggiati per tutta la partita, ma il vincitore è la persona che per prima finisce le tessere. Ci sono anche due "jolly" che possono essere riprodotti come qualsiasi numero o colore. Durante il gioco, i giocatori possono spostarsi in giro, prendere in prestito da un gioco precedente o aggiungerlo. Quando le tessere vengono spostate, tuttavia, ogni gruppo deve continuare ad avere un minimo di 3 tessere.