新中国成立后，随着安阳市国民经济及各项事业的发展，各级机关、团体和企事业单位形成的档案日益增多，形势的发展迫切需要建立一个全市性的档案管理机构，以加强对档案工作的统一领导。1959年1月7日，中共中央发布了《关于统一管理党、政档案工作的通知》，1959年7月31日，安阳市档案馆、安阳市档案处同时成立，合署办公，为安阳市委、市人委直属机构，对党、政档案工作统一管理。市人委秘书长王玉泉兼任档案处长，市委办公室主任孔德介兼任档案处副处长、档案馆馆长，孙国华任副处长、副馆长。工作人员共9名，由市委机关档案室和市人委机关档案室合并组成。

　　1962年，全国实行机构精简，档案处被撤消，在市委办公室内设档案组，配备6名工作人员，由市委办公室副主任李国恩分管。

　　1972年由市革委办事组秘书科负责档案工作，档案馆被撤消，干部被调离下放，档案工作处于停顿状态。

　　1975年，为了加强对档案工作的领导，市委建立中共安阳市委办公室档案管理科。1979年8月，全国召开档案工作会议，提出了“恢复、整顿、总结、提高”的档案工作任务，市委根据中共中央、国务院加强档案工作的精神，恢复、整顿和发展全市档案事业，于1980年4月建立安阳市档案局、安阳市档案馆，局、馆合署办公，是市委、市政府的直属机构，配备工作人员12名，由李成玉、郭松山任副局长。

　　1983年，档案局被调整为市委内设工作部门，更名为“中共安阳市委档案局”，财务归口市委办公室统一管理。

　　1985年4月，安阳市档案工作领导体制进行调整，安阳市委档案局更名为安阳市档案局，与市档案馆合署办公，划归政府序列，为市政府的直属局，受市委、市政府领导。配备工作人员12名，李成玉、张玉贵任副局长，内设办公室、业务指导科、档案管理科。在此期间，安阳市、地行政区划调整，安阳市实行市带县体制。至此，安阳市档案局的档案行政管理和业务监督指导的范围扩展为林县、安阳县、汤阴县、浚县、淇县五县，文峰、铁西、郊区、北关四区及市直各级机关、团体和企事业单位。1986年区划调整，浚县、淇县划归鹤壁市领导，原来濮阳市的内黄、滑县划归安阳市领导，人员增至19名。

　　1987年4月，安阳市直党政机关机构改革，安阳市档案局被撤消，改为安阳市档案馆（副局级），对外保留档案局名义，为文化事业单位，划归政府序列。由任顺吉任局长，李成玉、张玉贵、晋江任副局长。编制定员28人，实际配备23人，内设办公室、档案管理科、业务指导科。1990年3月30日，新增设档案资料编研科、档案征集接收科。

　　1995年11月，市直机构改革，安阳市档案馆（局）由市政府直接领导改为由市委办公室领导。安阳县、林州市、内黄县、汤阴县、铁西区、文峰区、北关区的档案工作都改由党委分管，滑县、郊区仍为政府分管。文峰区、北关区、铁西区、郊区均由档案科更名为档案局。1996年9月，局领导班子调整，王秀业任局长、局党支部书记，史向东、张路英任副局长、局党支部委员。1998年12月，郝悟昌任副局长。1999年市档案馆（局）编制为28人，内设办公室、档案业务指导科、档案法制监督检查科、档案管理科、档案资料征集编研科共5个科室。2002年5月，安阳市市直机构改革后，市档案局编制设置为23人，机构设置不变。2003年9月，赵治平任副县级调研员，2005年7月，档案局领导班子调整，谢萍任副局长，2006年1月，史景山任局长、支部书记。2012年12月牛建芳任局长、支部书记。2015年、2016年分别增加人事教育科、技术管理科。2016年9月尉江华任局长、支部书记，2018年7月李军、窦学旺任副局长、支部委员。2019年机构改革，局馆分设，原档案局（馆）只保留档案馆一块牌子，编制增加为28人。2023年4月韩党顺任馆长、支部书记。

　　本馆库房建设，1959年安阳市档案馆成立后，馆址在市北关广场西北角（现工商联办公楼东侧一层），共有办公室、档案库房11间。1980年，投资额为38万元的新建档案馆竣工，系砖混结构，总建筑面积2800平方米，其中库房面积800平方米，库房33间，馆址在市委机关院内。随着库容量的加大，楼板超负荷承载，1999年8月，市档案馆临时搬至中原宾馆2号楼。2000年底市委决定在行政新区新建档案馆，2003年5月，竣工投入使用，新馆址位于党政综合办公大楼D区，建筑面积4680平方米，属框架结构，其中库房面积1000平方米，办公面积2500平方米。新档案馆配备了目前国内最先进的手动、电动、电脑控制三用密集档案柜644立方米、七氟丙烷自动灭火系统、库房温湿度自动监测控制系统、防盗监测系统和计算机、复印机、打印机、扫描仪、数码照相机、摄像机、刻录机、消毒柜、加湿器、去湿机等先进设备，库房、办公室和技术用房全部安装有中央空调。