La présence de hauts reliefs et la répartition des principales unités géographiques s'expliquent par la position remarquable du Yémen en bordure des rifts (zones de rupture) de la mer Rouge et du golfe d'Aden.

Il y a 10 millions d'années, les plaques africaine et arabique s'écartent pour former le golfe d'Aden, et vers 5 millions d'années la mer Rouge. Cette séparation Afrique/Arabie, récente à l'échelle géologique, explique de part et d'autre les grandes similitudes de leur faune et de leur flore. Au Quaternaire, une intense activité volcanique et une alternance de phases humides et arides achèvent de modeler le paysage yéménite.