Zuid-Spanje is, net als de rest van de van Spanje, bijzonder bergachtig.
Het grootste deel van het land wordt ingenomen door de Betische Cordillera, wat een voortzetting is van het Atlasgebergte en het Rifgebergte in Noord-Afrika. De Siërra Nevada, met de hoogste top van het Spaanse vasteland, de 3481 m hoge Mulhacén, is een onderdeel van dit gebergte, en beheerst het zuidelijke middengedeelte van Andalusië.

In het oosten, bij Murcia en Alicante, worden de bergketens afgewisseld door vruchtbare valleien. In het droge en subtropishe zuidoosten, zoals rondom de Cabo De Gata heeft zich een heel gebied van woestijnen en steppen gevormd. De rivierbeddingen zijn hier vrijwel permanent droog, waardoor het landschap hetzelfde aspect heeft gekregen als de noordelijke bergketens van Cazorla ontspringt de Guadalquivir, de belangrijkste rivier van Andalusië. Gevoed door vele zijrivieren vormt zij een reeks zeer lange, vruchtbare dalen die naar het westen toe steeds breder worden, tot de grote diluviale vlakte ontstaat die het hele zuidwesten omvat en zich tot bij Portugal voortzet.

Meer naar het noorden ligt het lagere, oudere gebergte van de Siërra Morena. De smalle strook langs de zuidkust, tegen de noordenwinden beschermd door de hoge bergen, heeft een bijna tropisch klimaat, zodat er bepaalde tropische gewassen als suikerriet, bananen, avocado's en chirimoyas kunnen groeien. De gemiddelde jaartemperatuur ligt hier hoger dan aan de noordkust van Afrika, waar 's winters de noordelijke nwinden vrij spel hebben.