唐改縣名名魯山，因縣東北十八里有魯山。據(jù)《讀史方輿紀(jì)要》：“山高聳，回生群山，為一邑巨鎮(zhèn)，縣以此名�！�

魯山縣歷史悠久，夏商時，魯山縣初稱魯縣，后改稱魯陽，春秋時屬鄭，后來隸楚。楚肅王三十年（公元前374年），魏伐楚取魯陽，魯陽屬魏，西漢置魯陽縣，歸南陽郡。三國時，屬魏，晉代，屬南陽國，南北朝永初年間，屬南朝宋。公元487年，北魏孝文帝南巡，改名山北縣，并置魯陽鎮(zhèn)。太和十八年（495），為荊州治所，又為廣州治所。太和二十二年（499）。兼魯陽郡治所。隋大業(yè)初（617），改名魯縣。唐武德四年（621），為魯州治所。貞觀元年（627），廢州，改魯縣為魯山縣，隸屬伊州。貞觀八年（634），屬汝州。至明洪武初，屬南陽府汝州。成化十二年汝州升為直隸州，魯山縣直至清末民初仍隸屬汝州直隸州。民國三年（1914），屬河南河洛道，民國二十一（1932）年到三十六年（1947），屬河南省第五行政區(qū)。1949年后隸屬許昌專區(qū)（后改地區(qū)），1983年歸平頂山市轄，至今未變。