中华人民共和国的成立，开始了我国行政制度的新阶段。在摧毁旧政权以后，党和人民政府总结了革命根据地行政建设的经验，结合社会主义革命与社会主义建设的实际情况，逐步形成省、专区（州、市）、县（市、区）三级地方行政体制。
    1949年8 月甘肃省解放以后，即成立甘肃行政公署，下辖庆阳、平凉、天水、武都、岷县、定西、临夏、酒泉、武威、张掖、兰州11个分区（专区、市）、73县（局）。甘肃行署隶属于西北军政委员会（后改为西北行政委员会，1954年撤销）。1950年成立甘肃省人民政府，1954年根据内务部的通知精神，将撤销的定夏省合并于甘肃省。1955年，甘肃省人民政府更名为“甘肃省人民委员会”。以后，根据第一届全国人民代表大会第四次会议关于成立宁夏回族自治区的决定，1958年划3 个专区（自治州）、19个县市归宁夏回族自治区管辖。“文化大革命”中，省人民委员会更名为“甘肃省革命委员会”，1979年复改为甘肃省人民政府。 
    1966年到1976年，区划只是个别调整。从1968年1 月开始，甘肃省人民委员会改为“甘肃省革命委员会”，1969年各专区革命委员会改为地区革命委员会。同年，根据中央《关于变更内蒙古自治区行政划的规定》，将内蒙古自治区巴颜淖尔盟的额济纳旗、阿拉善右族划归甘肃省后，全省设县（市、区、旗）83个。1970年，经国务院批准，将嘉峪关市划归酒泉地区领导；将武威地区所辖的永登县、定西地区所辖的榆中县、皋兰县划归兰州市领导。1971年经中央、国务院批准，将嘉峪关地区指挥部、嘉峪关市、三九公司合并成地区一级的市。到1972年全省共有12个地、州、市，84个县（市、旗、自治县、区）。1973年撤销临夏市。 到1975年，全省共设12个地、州、市，82个县。
    1977年到1985年，根据社会主义现代化建设事业发展的需要，对行政区划作了适当的调整。1979年，改甘肃省革命委员会为“甘肃省人民政府”，地区革命委员会改为“地区行政公署”（州、市为人民政府）。同时，根据中、国务院的决定，将阿拉善右旗、额济纳旗划归内蒙古自治区管辖。调整后全省设12个专、州、市，80个县。1981年，设置积石山保安族东乡族撒拉族自治县；设立金昌市（当年成立了筹备会，1982年9 月1 日正式成立金昌市），全省专署、州、市共13个，辖81个县。1983年，为了使乡镇的领导体制适应农村经济体制改革的需要，开始进行行政社分开，建立乡政府的试点工作。同时撤销平凉县，恢复平凉市，以平凉县的行政区域为平凉市的行政区域；恢复临夏市，以临夏县城关镇和城关、南龙、折桥、包罕4 个公社为临夏市的行政区域。经调整，全省设13个行政公署（州、市），82个县。1984年3 月，全省完成了政社分设、建立乡人民政府的工作，乡镇以下普遍成立了村民委员会和村民小组。到年底，全省设乡镇1532个，村民委员会17471 个，村民小组100641个。1985年经国务院批准，撤销天水地区，实行市管县体制，天水市升为地级市，下设秦城区（以原天水市和撤销的天水县的中梁等17个乡的行政区域为秦城区的行政区域）、北道区（以原天水县的渭南等22个乡和北道镇的行政区域为北道区的行政区域），并将原天水地区的秦安、武山、甘谷、清水县和张家川回族自治县划归天水市管辖；武都地区更名为陇南地区（地区行政公署由武都迁驻成县），将原天水地区的西和、礼县、徽目、两当划归陇南地区，陇南地区共辖成县、康县、文县、武都、宕昌、西和、礼县、徽县、两当等9 县；成立白银市（地级），将兰州市的白银区和皋兰县的强湾、武川、水川3 个乡划归白银市，设立白银区，将靖远县的宝积镇和宝积、水泉、共和、种田、复兴等5 个乡划归白银市，设立平川区。同时将定西地区的靖远县、会宁县和武威地区的景泰县划归白银市管辖。将原天水地区的漳县和武都地区的岷县划归定西地区管辖。撤销张掖县，设立张掖市（县级），以原张掖县的行政区域为张掖市的行政区域；撤销酒泉县，设立酒泉市（县级），以原酒泉县的行政区域为酒泉市的行政区域；撤销庆阳县的西峰镇，设立西峰市（县级），以庆阳县的西峰镇和温泉、什社、后官寨、显胜、肖金、陈户、董志、彭原等8 个乡为西峰市的行政区域。经过调整，1985年全省共设14个行署（州、市），辖86县（自治县、市 、区）。