黄山市原名徽州地区，境内群峰参天，山丘屏列，岭谷交错，有深山、山谷，也有盆地、平原，波流清沏，溪水迥环，到处清荣峻茂，水秀山灵，犹如一幅风景优美的画图。天目山和黄山山脉是是徽州同浙江、江西省的天然分界岭。主要坐落在歙县东北部的清凉峰（海拔1787米），耸立在祁门县境内的牯牛降（海拔1728米），拔起于休宁西北部的白岳齐云山（海拔580米），都是壮丽神奇的“天造画境”。横贯歙县、黄山区、休宁、黟县之间的黄山，最高峰莲花峰海拔1860米），峰峦峻峭，劈地摩天，重岩叠嶂，宏博富丽，是著名的风景胜地。
1949年设徽州专区，属皖南行署区。徽州专署驻屯溪市，辖屯溪市及歙县（驻徽城镇）、旌德（驻旌阳镇）、绩溪、休宁（驻海阳镇）、祁门、黟县（驻碧阳镇）等6县。 1952年徽州专区属安徽省领导。原池州专区所属太平、石埭2县及宣城专区所属宁国县划入徽州专区。辖1市、9县。 1953年屯溪市改由省直辖。 1955年屯溪市划归徽州专署领导。 1956年撤销徽州专区。屯溪市改由省直辖；将宁国、旌德、绩溪、歙县、休宁、黟县、祁门、石埭、太平9县划归芜湖专区。 1959年将屯溪市交由休宁县领导。 1961年复设徽州专区，专署驻屯溪市。原属芜湖专区的歙县（驻徽城镇）、绩溪、旌德（驻旌阳镇）、宁国、休宁（驻海阳镇）、祁门、黟县（驻碧阳镇）、太平（驻甘棠镇）等8县划入徽州专区。1961年1月撤销屯溪市，改设为屯溪镇，划归休宁县领导；同年8月恢复屯溪市。辖1市、8县。 1962年屯溪市改由省直辖。 1963年撤销屯溪市，并入休宁县。 1970年徽州专区改称徽州地区，地区驻休宁县屯溪镇。辖休宁（驻海阳镇）、太平（驻甘棠镇）、旌德（驻旌阳镇）、宁国（驻河沥溪镇）、绩溪（驻华阳镇）、歙县（驻徽城镇）、祁门、黟县等8县。 1974年将太平县划归池州地区。徽州地区辖7县。 1975年复设屯溪市，属徽州地区领导。地区驻屯溪市。辖1市、7县。（以上摘自《中华人民共和国政区沿革·史为乐著》）
1987年11月27日，国务院批准：撤销屯溪市、黄山市，设立黄山市 （地级）；撤销徽州地区，所属的歙县、休宁县、黟县、祁门县划归黄山市；石台县划归安庆地区；旌德县、绩溪县划归宣城地区；设立屯溪区，其行政区域包括原屯溪市、歙县篁墩乡和休宁县梅林乡；设立黄山市黄山区，以原县级黄山市为其行政区域；设立徽州区，以原歙县岩寺镇和潜口、呈坎、罗田、西溪南、洽舍、福溪、杨村七个乡和郑村乡的瑶村新立。