1951年7月10日,中国农业银行的前身——农业合作银行建立,隶属中国人民银行领导,承担金融服务新中国农村经济社会恢复与发展的职责。1952年7月,与中国人民银行合并,职能并入人民银行。
1955年3月,按照为农业合作化提供信贷支持的要求,正式以“中国农业银行”名称建立。1957年4月,与中国人民银行再次合并。
1963年11月,根据统一管理国家支援农业资金的要求,中国农业银行再次建立,作为国务院直属机构。
1965年11月,与中国人民银行第三次合并。
1979年2月23日,国务院发出《关于恢复中国农业银行的通知》,中国农业银行第四次恢复建立。