华林山最早叫古峰岭。史前时代面和兀立,遍布原始森林。隋末,金城校尉薛举揭竿而起,抗击暴政,自号西秦霸王。于是,修祖坟、建家庙于古峰山上,从此称为薛王坪。隋唐以后,迭经战乱,古峰山的原始森林破坏殆尽,以桦树为主的次生林丛生。因此,康熙年间撰修的《大清一统志》称之为桦林山,并言此山“林泉秀丽,为(兰)州胜境。”
明代第一代蕃肃庄王好黄老之术,认为古峰山有仙人翩跹舞长袖之形,便更名为舞袖山。故西稍门(亦城袖川门、解放门)至华林山一带川区称为袖川。
正统年间,肃蕃利用孙家台唐代禅院旧址,重修梵寺,号为华林寺(古代“华”、“桦”通假)。故明以后古峰山便被称为华林山或华林坪。
乾隆四十三年(公元1778年),撒拉族苏四十三起义,占据华林山进攻兰州,对清军威胁极大。苏失败后,钦差大臣阿桂在华林山筑三里之城,百姓称之为满城。华林寺即毁于此役。