
岩宿遺跡を始め旧石器時代の遺跡が多く残っています。
上毛野国(かみつけぬのくに)は古代東国の一大中心地で、4世紀前半から前方後円墳が出現しました。
前橋天神山古墳、朝子塚古墳(太田市)、浅間山古墳(高崎市)、太田天神山古墳など東日本最大規模の古墳が築かれました。
また、太田市飯塚町にて埴輪挂甲の武人(はにわ けいこうのぶじん)が出土され、国宝の指定を受けています。
律令制の下では東山道上野国で、国府の所在地は現在の前橋市元総社町付近であったと推定されています。
延喜式神名帳に記載される名神大社としては後に一ノ宮となった貫前神社(富岡市)や赤城神社(前橋市、富士見村に論社3社)、伊香保神社(伊香保町)があり、吉井町の辛科神社は渡来系の神社として知られています。
このあたりには古くから渡来人が多かったようで、8世紀始めに甘楽、緑野、片岡各郡から6郷を割き、多胡郡が成立しました。
多胡郡建郡を記念する多胡碑など上野三碑が古代の金石文として知られています。
中世には鎌倉御家人となった上州武士も多く存在しました。
新田義貞が足利尊氏とともに後醍醐天皇の鎌倉幕府討幕運動に参加し、建武の新政にも参画したのです。