吕梁山是我国黄土高原上的重要山脉,它是黄河中游干流与支流汾河的分水岭,位于山西西部,呈东北—西南走向,整个地形成穹隆状,中间一线突起,两侧逐渐降低。这条连绵不断的崇山峻岭宛如一条脊梁,延绵400多公里,纵贯三晋西部,由北而南包括管涔山、芦芽山、云中山、关帝山、紫荆山、龙门山,其主峰在关帝山,海拔2831米。
吕梁山年无霜期为140天到180天,降水量只有400毫米到600毫米。山脉西坡有厚层黄土堆积,水土流失严重,是黄河中游重点产沙区之一;山脉东翼为断层构造,山势陡峻,俯瞰汾河地堑中的忻州、太原、临汾盆地。山脉中高峰海拔多在2500米以上,对区域气候有明显的作用。
1971年,吕梁山腹地13县建区,设立吕梁地区,后改为吕梁市。