Gli storici credono che gli strumenti simili alle arpe siano emersi nell'antico Egitto intorno al 3000 a.C. e poi apparve nella loro moderna forma ad angolo in Asia intorno al 1500 a. C. Le arpe raffigurate su disegni di caverne dell'antico Egitto erano strutturate come archi da caccia, che sono gli oggetti che gli storici attribuiscono alla forma dell'arpa. Tuttavia, gli asiatici hanno affinato la forma dell'arpa aggiungendo una cassa acustica e un solido pilastro per il supporto.
Le prime arpe presentavano filamenti lunghi e sottili costituiti da materiali organici come le fibre vegetali. Le arpe variavano nello stile e persino nella posizione di gioco a seconda della regione di origine. In molte parti della Grecia e di Roma, le arpe sono esistite come strumenti verticali e i giocatori hanno pizzicato le loro corde usando entrambe le mani. Nella regione mesopotamica, tuttavia, le arpe esistevano come strumenti orizzontali. I giocatori hanno messo le arpe in grembo e hanno usato i plettri per pizzicare le corde.
Le arpe sono tra gli strumenti più antichi del mondo. Hanno goduto di un uso diffuso nell'antico Egitto e in Asia. Le arpe migrarono altrove, godendo di una breve popolarità in India e in Medio Oriente prima di morire improvvisamente. Le arpe riapparvero in Europa, tuttavia, durante il IX secolo. La loro forma è leggermente cambiata rispetto alle versioni precedenti, fortemente influenzata dall'aspetto gotico. Arpe gotiche con collo allungato e torsi sottili per un look elegante. Le arpe cromatiche emersero durante il XVI secolo, apparendo come strumenti con due o tre file di archi.