Les différentes religions monothéistes se diffusent largement en Arabie. Le judaïsme tout d'abord, qui se répand lentement dans la société, avant d'être la religion des souverains himyarites au IVe siècle. Le christianisme ensuite, qui reçoit l'appui des Byzantins. De nombreuses communautés chrétiennes fleurissent dans le golfe Persique, en Arabie du Sud et en Abyssinie. Mais les discordes religieuses prennent un tour politique.

L'Arabie devient l'enjeu de deux empires rivaux, l'Empire byzantin chrétien et l'Empire sassanide mazdéen, chacun d'entre eux cherchant à contrôler les routes de l'encens. Le judaïsme affiché des rois yéménites et la persécution des chrétiens à Najrân en 523 signifie un rejet de l'Empire byzantin et de son alliée l'Abyssine chrétienne. Pour la seconde fois — la première au IIIe siècle — cette dernière intervient, à la demande de Byzance, au Yémen. Pendant une cinquantaine d'années, celui-ci devient un protectorat abyssin. Vers 535 le vice-roi éthiopien, Abrahâ, se déclare indépendant et fonde une dynastie chrétienne au Yémen. Ce souverain construit la fameuse cathédrale de Sanaa dont le souvenir survit jusqu'à nos jours dans un toponyme de la vieille ville, Ghurqat al-Qalîs.

Enfin, quand la Perse conquiert le Yémen dans les années 570, la civilisation sudarabique est définitivement ruinée.

Le souvenir de Saba n'est pas totalement perdu à l'époque islamique. Il survit notamment grâce au Coran :

" Je connais quelque chose que tu ne connais pas !
Je t’apporte une nouvelle certaine des Saba.
J’y ai trouvé une femme :
elle règne sur eux,
elle est comblée de tous les biens,
et elle possède un trône immense.
Je l’ai trouvée, elle et son peuple,
se prosternant devant le soleil
et non pas devant Dieu.
Le Démon a embelli leurs actions
à leurs propres yeux ;
il les a écartés du chemin droit ;
ils ne sont pas dirigés. "

(CORAN, Sourate XXVII Les Fourmis).