L'hobby preferito di Andrew Jackson era l'ippica e l'allevamento di cavalli. Possedeva molti cavalli da corsa sulla sua vita e li gareggiava spesso nei suoi giorni prima e dopo essere diventato presidente. Ha anche innalzato i gettoni da gioco ed è entrato nei suoi uccelli nei combattimenti di galli intorno a Nashville.
Andrew Jackson adorava anche un buon scherzo. Mentre uno studente di legge a Salisbury, nel North Carolina, Jackson è stato scelto per gestire l'annuale ballo di Natale, un evento annuale di grande importanza nella piccola città della Carolina del Nord. Per scherzo, ha invitato due prostitute alla palla, anche se pochi presenti hanno trovato il gesto altrettanto divertente di Jackson.
Era un avido lettore di giornali e romanzi. Il suo libro preferito era "Vicar of Wakefield" di Oliver Goldsmith. Andrew Jackson manteneva una grande collezione di pipe da tutto il mondo ma raramente fumava qualsiasi cosa tranne la sua pipa di pannocchia. Sosteneva che gli piaceva il gusto della rozza pipa di frontiera meglio di tutti i fantasiosi che aveva acquisito mentre saliva alla ribalta internazionale.
La professione di Jackson era politica ma poteva anche essere considerata uno dei suoi principali hobby. Dopo aver lasciato la presidenza nel 1836 rimase molto attivo politicamente dalla sua casa di Nashville. Ha giocato un ruolo importante nelle elezioni Martin Van Buren e James K. Polk alla Casa Bianca prima della sua morte nel 1845.