学校于1956年建校，1981年经安徽省人民政府批准为独立设置的成人高校阜阳教育学院。1998年开始举办高等职业教育，是安徽省起步较早的两所高职院校之一。2001年6月，更名为阜阳职业技术学院。2009年，阜阳建筑学校并入。2013年9月，阜阳卫生学校并入。
学校老校区占地400亩，校舍建筑面积23.8多万平方米，教学仪器设备总值8000多万元，馆藏图书67万册，电子图书6500GB，建成90个校内专业实训室和实习车间，建成财会综合实训基地、园林园艺实训基地等20个校内生产性实训基地，校内实训基地面积达到66932平方米。在建新校区占地1100亩，规划建筑面积46万平方米，总投资13.6亿元。
