东岳山庙建于清代乾隆五十三年（1788年），并于道光三年（1823年）修过一次。抗战期间，临浦沦陷为敌占区，1942年俞继鹏部队打游击时，从寺庙后攻山时，放火烧了。1945年抗战胜利后，有人发起重建。