嵩阳书院位于嵩山南麓，它面对双溪河，背靠峻极峰，西依少室山，东临万岁峰，山峦环拱，溪水长流，环境幽美，景色宜人。嵩阳书院与河南睢州的应天书院、湖南的岳麓书院、江西的白鹿洞书院并称为宋代四大书院。
嵩阳书院始建于北魏太和八年（公元484年），初名嵩阳寺，为佛教寺院。隋炀帝大业年间（公元605－617年）列名为嵩阳观，成为道教活动场所。唐高宗时，高宗两访潘师正，都以嵩阳观为行宫。五代后唐清泰时，进士庞士曾在嵩阳观聚众讲学，后周时改为太乙书院，成为儒学活动中心，宋初又更名为太室书院，宋仁守景佑二年（公元1035年）重修太室书时赐名嵩阳书院，并设院长掌理院务。北宋鼎盛时期，儒教洛派理学大师程颢、程颐曾在此聚从讲学，使书字名声大振，成为北宋四大书院之一。北宋名儒司马光、范仲淹、韩维、李刚、朱熹、吕海等也在此讲过学。金、元时嵩阳书院曾被更名承天宫，明侯泰重修书院时复名嵩阳书院，并建二程祠，清代叶封与耿介又重修之，使书院又得复兴。耿介曾亲自执教，传经授业，成绩显著。之后嵩阳书院一直是重要的儒学传播圣地。
嵩阳书院的建制，古朴雅致，大方不俗。嵩阳书院内中轴线共五进，分别是大门、先圣殿、讲堂、道统祠和藏书楼。先圣殿内祀孔子及四大弟子象，道统祠内有周公、大禹、尧帝像。藏书楼原为存放儒家经典的书房。在讲堂之后有泮池，为儒家弟子中举之后回来绕行怀念宗师孔子的地方。中轴线两侧的配房，均为硬山式建筑，分别为程朱祠、丽泽堂、博约斋、碑廊等。纵观嵩阳书院的建筑，古朴典雅，蔚然壮观。此外，嵩阳书院内还有《汉封将军柏碑》、北宋黄庭坚的《诗碑》、明代的《四箴碑》及《汉封将军柏图碑》、《石刻登封县图碑》等50余通。
在嵩阳书院的东侧，有一侏高大无比的古柏，其树龄均在4000年以上，是中国现存较古老的柏树。汉封将军柏原有三棵，是汉武帝游嵩山时因见树高大而封之为大将军柏，二将军柏和三将军柏。三将军柏清初被火烧毁，现存大将军柏和二将军柏，其中二将军柏较为壮观，它高约30米，围径15米，虽然树皮剥落，躯干龙钟，但依然生机盎然。树干下部有一枯孔，南北相穿，好象一座门庭过道，洞中能容数人，两根弯曲如翼的庞然大干枝，左右伸张，形若雄鹰展翅，又如金鸡欲飞。著名诗人朴初曾留下"嵩阳有周柏，阅世三千岁"的诗句。
嵩阳书院的将军柏，小的称为大将军，大的却称二将军，这是什么原因呢？这里有一段有趣的传说。相传，西汉元封元年（前110年），汉武帝刘彻来游嵩山时，走到嵩山南麓的嵩阳书院，刚一进门，只见一棵高大的柏树，身材奇伟，枝叶茂密，武帝仰望许久，随口封为"大将军"。穿过二进院，又见一棵柏树比"大将军"还要高大，因皇帝是"金口玉言"，大将军已经封过，无奈只好封其为"二将军"。随从官员觉得武帝的加封不合情理，想向皇帝建议，但不聚直讲，只好从侧面向皇帝提示说。"这棵树可比前院那棵大得多呀！"汉武帝固执巳见，说："什么大呀小呀的，先入者为主！"随从官员一时无语。汉武帝继续向后走，又见一棵更为高大的柏树，他便一错再错，封之为"三将军"。由于汉武帝不公，封的三个将军都有情绪，"大将军"感觉自己名不副实，受之有愧，没脸抬头见人，久而久之，慢慢地变成了率腰树；"二将军"心生闷气，连肚子都气炸了，变成了空心树；"三将军"更为恼怒，于是自焚而死。为此，登封县内流传着一首脍炙人口的民谣，更为生动地阐明了这事："大封小来小封大，先入为主成笑话。三将军恼怒自焚死。二将军不服肚气炸。大将军笑倒墙头上，自觉有愧头低下。是非颠倒两千载，金口玉言谁评价？"
嵩阳书院明代石刻"登封县地图"，刻于不万历癸巳年（公元1593年），图上详细刻制着嵩山地区名胜古迹的分布情况和山川、河流、道路、村镇等名称，是登封文物分布图，又是登封县地图。登封县文物名胜尽管志书都有记载，但用地图形式直接描述的，仅此一块登县石刻地图。这块石刻地图轮廓清楚，位置准确，一览此图，对登封县的全貌和文物分布一目了然。明代石刻登封县图是难得的艺术珍品，也是研究登封地理、文物和历史不可多得的宝贵资料。
在嵩阳书院大门外南侧，有一高大的《大唐嵩阳观纪圣德感应之颂》碑，即唐碑，高9米，宽2.04米，1.05米，为嵩山地区碑制之冠。碑系唐玄宗天宝三年（公元744年）刻立，主要记述嵩阳观道士孙太冲为唐玄宗李隆基练丹九转的故事。李林甫撰文，唐著名书法家徐浩八分古隶楷书，其字态端正，一笔不苟，刚柔适度，笔法遒雅，是书法之珍品。碑的背面和两侧有欧阳永叔跋文和游人题词，大都为唾骂撰文者李林甫的文字。
嵩阳书院石碑由三部分组成，碑下部为精雕长方形石座，四面刻有十个石龛：前后各三，两侧各二，龛内十座浮雕武士像。中部碑身上刻碑文。碑首分三层，上层为素面的束腰带座宝珠，宝珠两边，两只卷尾石狮，后脚盘蹬在宝珠的基座上，前爪把持宝珠，狮嘴吞吻在宝珠上面，栩栩如生，十分壮观；中层较大，上面浮雕连续的大朵云气图案；下层的四边稍大于碑身，前面篆刻额文，额文两边浮雕双龙、麒麟。该碑雕工精细，达练圆熟，是唐代石刻艺术之珍品，也是研究嵩阳书院历史及宗教的不可缺少的史料。
