1949年建国后,太平县曾短暂地归属皖南行署池州地区。
1952年复省后,池州地区被撤销,原池州地区大部分归属安庆,太平县和石埭县划给了徽州地区。
1956年芜湖专署与徽州专署合并,太平县又归入芜湖。
1959年因兴建陈村水库石埭县被撤销,基本并入太平县。
1965年恢复池州专区(1971年改为池州地区),这一年石埭县复建并易名为石台县。
1974年太平县划归池州。
1980年池州地区又被撤销,太平县重回徽州地区。
1983年,池州地区再次恢复,但太平县仍归徽州地区管辖。
1983年12月1日,撤销太平县,以太平县和歙县黄山公社、石台县广阳公社的行政区域及黄山管理局的现有辖区组成县级省辖黄山市。
1984年1月1日,停止使用太平县名,启用黄山市名。
1985年6月4日,中共安徽省委、安徽省人民政府鉴于黄山地区条块分割,影响旅游事业的发展,将黄山管理局改由徽州行署和省双重领导,黄山市改为由徽州行署代管。
1987年11月27日,撤销徽州地区、县级屯溪市和县级黄山市,设立地级黄山市,辖屯溪、黄山、徽州3个县级市辖区,歙县、休宁、黟县、祁门4个市辖县,原徽州地区绩溪、旌德县划入宣城地区,至今未变。
1987年12月8日,正式成立地级黄山市筹备组。
1987年12月23日,在省人民政府的帮助下,成立黄山市。