据史料记载，夏商时，榆林市的部分地方(神木、府谷、佳县等地)在雍翟族境内，周代为雍州白翟的一部分，战国时为秦国上郡地。公元前221年秦统一六国，始皇分天下为三十六郡，上郡是其中一个。

三国时期，上郡、西河郡为匈奴占据，未设置郡县。东晋时期，匈奴王赫连勃勃在统万城(今靖边白城子)建立大夏国。公元427年，北魏灭大夏，设立统万镇，太和十二年(公元488年)改设夏州。

隋开皇三年(公元583年)，仍设夏(治统万)、长(治长泽，今靖边境内)、绥(治龙泉、今绥德县城)、银(治儒林，今横山境内)四州；大业元年(公元605年)将绥州改称上州，三年撤销州�