上高县位于江西省西北部。东界高安市，南邻分宜县、渝水区，西接袁洲区、万载县，北连宜丰县。所辖地域处于东经114^。28′—115^。10′和北纬28^。02′—28^。25′之间，东西长68公里，南北宽45公里。总面积1364.4平方公里。

春秋战国时，上高镜域先后属吴、越、楚三国。

秦朝，上高属九江郡。

汉代，西汉高祖六年（前201年）置建城县（含今高安、上高、宜丰、万载及樟树市一部分）时为建城县地，属豫章郡。新莽时（9—23年）改建城为多聚县地，属九江郡。东汉光武中仍改为建城县地，属豫章郡。

东汉中平间（184—189年），在萍居建城的汝南上蔡（今河南省）人聚居地析置上蔡县，这是本县立县之始。

西晋大康元年（280年），因上蔡人怀念故土，改上蔡县为望蔡县，属豫章郡。

南北朝梁（502—557年）望蔡县属豫章王国。

隋朝开皇九年（589年）望蔡县复并入建城县，属洪州。大业初（605年）洪州复改豫章郡，仍属豫章郡。

唐朝，武德五年（622年）复立望蔡县，属靖州；七年（624年）属米州；同年改筠州；八年（625年）望蔡县并入高安县，属洪州。中和元年到五年（881—884年），镇南节度使钟传以望蔡地居高安之上游，加上地形也比较高，初置上高镇。上高因此得名。

五代十国时，南唐昇元中（937—942年）废上高镇，改设上高场。南唐保大十年（952年）升场为县，始名上高县，属筠州。

 宋朝，南宋宝庆元年（1225年）属瑞州。

元朝，世祖至元十四年（1277年）升瑞州为瑞州路，上高属瑞州路。元贞元年（1295年）升新昌县为州，上高属新昌州。

明朝，洪武二年（1369年），改瑞州路为瑞州府，上高属瑞州府。

清朝，沿袭明制，隶属未变。

民国三年（1914年）江西省分为四道，上高县属庐陵道；十五年（1926年）废道，上高直属于省；二十一年（1932年）省下设行政区，上高隶属第八行政区；二十四年（1935年）、上高属第二行政区。

1949年7月14日上高县解放，属袁州区；1952年9月属南昌专区；1958年12月属宜春专区；1968年2月属宜春地区；2000年8月宜春撤区设市，上高属宜春市至今。
上高自建县以来，县域范围曾有多次变动：东汉中平间（184—189年）上蔡县始建时大至相当于现在上高、高安、宜丰、万载4县之地；三国时黄武中（222—228年）分上蔡县一部分增置宜丰、阳乐（后改康乐）2县；北宋太平兴国七年（982年）划上高县义均、宣风2乡的一半归宜丰县。建立中华人民共和国后，上高境域也有一些调整：1956年3月上高县官桥区塘下乡的邓坑村19户、69人，耕地312.53亩，划归宜丰县棠浦区管辖；同年8月高安县杨墟区梨塘乡岭背、流塘两村68户、302人，1192.22亩耕地划入上高县官桥区泗溪乡管辖；1960年2月，原属宜春专区管辖的蒙山林场划归上高管辖，因此，原由新余县划归蒙山林场的大窝里乡、鸭溪乡、小步乡（共计1199户、4249人，9973亩耕地）和分宜县的高岚、铜锣坑等地均随之改属上高管辖；1966年高岚、铜锣坑（当时改名高岚分场）仍划回分宜管辖；1961年上高县泗溪公社曾家大队地处锦江南岸的冯家、上坪、下坪、麻埠、大港等4个自然村划归高安县管辖；1962年冬，神山水库周围的原属宜丰县英塘公社管辖的刘丰、笔丰两村、41户、1901亩耕地，划归上高县水口公社（现野市乡）管辖；1964年7月，宜春县寨下区社溪公社的石造村92户、535人、482.62亩耕地划归上高县田心公社管辖；1968年11月，宜丰县廖市集镇和火溪、檩溪、荷塘3个大队划归上高县徐家渡公社管辖，同时上高县徐家渡公社石陂大队划归宜丰县廖市公社管辖。