蒙山古為百越地，秦屬桂林郡，漢屬蒼梧郡荔浦縣地，三國吳屬始安郡南朝梁陳(公元502年至589年）置縣，即金安(據補梁疆域志記，故址在今蒙山縣治東南90里金垌村)、蒙縣(據補梁疆域志記，故址在今蒙山縣治東50里蒙山下，唐代蒙州亦即建于此。隋開皇十年(590年)分荔浦縣置隋化縣，屬揚州始安郡。唐 武德四年(621年)改為立山縣，置荔州以立山隸荔州，不久改南恭州隸樂州。五年，以立山隸恭州。又析荔州置崇仁縣、純義縣。又分立山置東區(qū)縣，再割荔州之立山、東區(qū)、純義三縣分置嶺政縣。貞觀五年(631年)以純義縣屬荔州。六年以東區(qū)屬燕州。八年，改置蒙州。因州東有蒙山，又山下有蒙水，居民多蒙姓，故名蒙州。十二年，省嶺政入立山縣。開元二十二年(734年)，改蒙州屬嶺南西道--桂管。天寶元年(742年)改為蒙山郡，乾元元年(758年)復為蒙州，領縣三(立山、純義、東區(qū))。永貞元年(850年)避憲宗皇帝諱，改純義為正義。宋太平興國元年(967年)改正義縣為蒙山縣。熙寧五年(1072年)廢蒙州，以東區(qū)、蒙山兩縣并入立山縣，隸昭州。元仍為立山縣，屬燕平樂府。