Cette musique a sans aucun doute vu le jour en Espagne grâce aux Arabes qui sont entrés en Andalousie au début du VIIIe siècle. La rencontre s’est enrichie par le mélange de musique orientale et de musique traditionnelle propre à chacun de ces lieux ; le répertoire s'est développé au fil du temps et des siècles, acquérant une grande partie de sa notoriété grâce aux bonnes relations entre Al-Andalus et le Maroc. La musique arabo-andalouse s'est répandue au cours des XIIIe et XIVe siècles. Les Marocains l'ont transmise oralement de génération en génération. Grâce à eux, elle est restée vivante et authentique.

Dans chaque coin du Maghreb, elle s'est teintée des particularismes de chaque zone du Maghreb : Al-Ála au Maroc, Garnati à Tlemcen en Algérie, et Máalouf en Tunisie et en Libye.

Selon les spécialistes, en 822, l'arrivée de Ziryab à Cordoue, capitale du royaume musulman d'Al-Andalus, est une étape très importante, en raison des nouveautés qu'il apporte.