公务员考试在中国历史上有着悠久的历史，可以追溯到 隋朝。科举制度始于隋朝，完善于唐朝，一直延续到清朝末年，历时1300多年。但是，现代意义上的公务员考试制度是在20世纪初开始推行的。20世纪初，清政府为了改革传统的科举制度，开始引进西方的文官考试制度。1905年，清政府颁布了《各学堂奖励章程》，规定学堂毕业生通过考试后，可以获得相应的官职。这标志着中国现代公务员考试制度的初步建立。随后，中华民国成立后，继续沿用并完善了这一制度。1949年，中华人民共和国成立后，国家对公务员考试制度进行了改革和完善。1988年，国家开始实行国家公务员考试制度，标志着中国公务员考试制度的正式建立。
