相传，“鲁山”古原名“东山”，因孔予曾登临绝顶，该山因地处我省东部，故名“东山”。

古笈《孟子》亦有“登东山而小鲁，孔子登泰山而小天下”之句。后因该山地处齐鲁交境，巍峨高耸，位于当时鲁国之地，故又名“鲁山”。