浮山是一座沉睡亿年之久的古火山，由富含钠、钾的火山岩组成。虽经大自然改造，仍保留其完整性与典型性。该火山岩盆地位于地质上称为淮阳古陆、张八岭古陆及江南古陆之间的下扬子沿江火山岩带内。在距今约1.4亿年至1亿年的侏罗纪晚期至白垩纪早期近4000万年中，曾几度喷发，中间还有一次岩浆入侵活动，形成了如今奇特的火山地貌。据专家介绍，浮山火山爆发方式类似于意大利维苏威火山公元79年8月24日的爆发情景，连续两次喷发，形成两个流动单元，整体冷却。如此形成的岩石构成现在浮山主要景观－－陡崖、叠嶂、岩洞、龟裂纹、柱状节理、喷气孔等。其地质构造全国罕见，具有一定的典型性，是国内中生代粗面质火山岩中较具代表性的地区之一，堪称一座“天然火山地质公园”。浮山古火山是研究长江中下游郯庐断裂地壳深化过程的天然记录，是研究深部地壳、地幔的标本。
浮山还是一座佛教名山。远在晋梁时代（266－557）就建立了寺庙，时为“浮山寺”。后在陈隋年间（557－618），浮山即成为佛教天台宗智顗大量的道场。宁天禧年间（1017－1021），郑州名僧远禄来此住持，是为浮山第一代开山禅师，宋仁宗赐号“园鉴大师”，又赐寺名“大华严寺”，至此浮山进入佛教鼎盛时期。在以后漫长的岁月里，浮山的佛教香火一直绵延不断，寺庙、塔院林立，高僧辈出，成为驰名中外的佛教名山。同时，浮山还是中国道教三十六洞天之一，在此修道之人，汉有左慈，宋有张同之，明有雷鲤等。
浮山拥有极其丰富的人文景观。历朝历代无数名流雅士、文人墨客如唐宋的孟郊、白居易、范仲淹、王安石、欧阳修、苏轼、黄庭坚等均来此游览。这里还诞生了明大学士何如宠、清桐城派宗师方苞、刘大櫆、姚鼐等名士，他们的一生无不受到浮山深刻的影响。这些风流人物在浮山吟诗唱游，留下了上至唐宋、下至民国的大量的摩崖石刻，现存483块。文体各异，书法万千。有诗词、游记，有庵堂碑记、题词留名。大者一米见方，小者不及一寸，或铁画银勾，或清瘦严谨，或丰润饱满，或端庄秀丽，构成了浮山之一名景。
