周元王六年（前 476 ）置中牟邑，中牟城北五里有牟山，高僅丈余，綿延數(shù)十里。據(jù)《大清一統(tǒng)志》：“邑之得名于此�！备咦媸�二年（前195），單父圣封中牟共侯，為侯國。武帝元鼎五年（前112）廢侯國為中牟縣。屬河南郡。東漢、曹魏因之。西晉（265—317 年）中牟屬滎陽郡。懷帝永嘉四年（310 年）后，淪于十六國中的前后趙等國。南朝宋，北魏仍屬滎陽郡。 東為天平初（534 年）為廣武郡治所。北齊天保七年（556 年），復屬滎陽郡。北周武帝保定五年（565 年）遷縣治于圃田。隋開皇元年（581 年）為避文帝父諱，改中牟為內牟。三年，屬鄭州。

十八年改內牟為圃田，大業(yè)二年（606 年）移圃田治于中牟城。三年，屬滎陽郡。唐武德元年（618 年）改圃田為中牟。三年為牟州治所。四年，屬管州。貞觀元年（627 年）廢管州，撤清池縣，入中牟，中牟改屬汴州。龍朔二年（662 年）改屬滎陽郡。后梁割中牟屬開封府。后唐同光三年（925 年）還中牟于鄭州。后晉晉中牟又屬東京汴州。北宋屬開封府。金屬南京開封府。元屬汴梁路。明清仍屬開封府。 1913年屬豫東道。1928年直屬河南省。1932年屬河南省第一 行政督察區(qū)。1949年屬陳留專區(qū)。1952 年6 月，鄭州、陳留專區(qū)合并稱鄭州專區(qū)，中牟屬之。是年鄭州專區(qū)改稱開封專區(qū)。1970年屬開封地區(qū)。1983年7月，改屬鄭州市至今未變。