岳麓山其山脈屬南岳衡山，古人把岳麓山列為南岳七十二之一，稱為靈麓峰。南北朝劉宋時《南岳記》載“南岳周圍八百里，回雁為首，岳麓為足。”故名岳麓。據地質學考證，岳麓山奠基于古生代，形成于中生代，發展于新生代，距今三億余年。

岳麓山云麓峰左側峰巒上著名的“禹王碑”是岳麓山古老文化的象征，是宋代摹刻至此的。這塊碑石刻有奇特的古篆字，字分9行，共77字。相傳4000多年前的洪荒時代，天下被淹沒洪水之中，大禹為民治水，到處奔波，疏導洪流，竟“七年聞樂不聽，三過家門不入”，最終制服了洪水，受到百姓的尊重。傳說大禹曾到過南岳，并在岣嶁峰立下了這塊石碑。東漢趙嘩《吳越春秋》就記載了這一傳說：“禹登衡山，夢蒼水使者，投金簡玉玉字之書，得治水之要，刻石山之高處。”唐代韓愈為此登臨岣嶁峰尋訪禹碑，雖未親見，卻留下了“蝌蚪拳身薤葉撥，鸞飄風伯怒蛟螭”的詩句。1212年（宋嘉定五年），何致游南岳，在岣嶁峰摹得碑文，過長沙時請人翻刻于岳麓山顛。宋以后，碑被士所掩。明代長沙太守潘鎰找到此碑，傳拓各地，自此禹碑名聞于世。現在全國各地有10余處禹碑，據說都是由岳麓山禹碑復刻的，由此也可見它的珍貴。
　　

岳麓山還有一塊著名的碑刻??麓山寺碑。碑高近3米，寬1米多，由唐代著名文學家、書法家李邕撰文和書寫，黃仙鶴刻石。碑額篆書“麓山寺碑”4個大宇，碑文共1400余字，駢散文體兼用，敘述了麓山寺自晉泰始（265-274）年間建立至唐開元（713-741）立碑時500年間的興廢修葺、歷代禪師宣揚佛法的經過，以及岳麓山的佳麗風光。
　　
由于此碑的文采、書法、刻工都精湛獨到，所以人們又稱它“三絕碑”。“三絕碑”在中國古代碑刻藝術中聲譽很高，碑字用行書是此碑新創，筆力雄健渾厚，后起書法大師，如蘇、米芾等都沿襲其法。元代書法大家趙孟自言：“每作大字一意擬之”。自古至今，許多著名文人游覽岳麓山時都特意來觀摩此碑，宋代的張、明代的李東陽等都留下了吟詠它的詩篇，可見其對后人影響之大。

唐代是詩的盛期，當駱賓王、杜甫；李白、李商隱等著名詩人往來吟詠古長沙時，湖南本地的俊杰之士王磷、李群玉等也才華畢露，撰文作詩，聯句競對。

宋代，岳麓山產生了一則湖湘學派的創始人之一胡寅怒斥奸臣的故事。南宋初年，金兵不斷南侵，宋高宗趙構偏安江左，執掌朝柄的秦檜等人畏敵如虎，一味妥協投降，胡寅目睹國家的內憂外患，心急如焚，對南寧朝廷極為不滿，對秦檜之流深懷憎恨，他憤而辭去京官，請示歸回湖南和父親胡安國、弟弟胡宏等一同居住生活。一次，胡寅正在長沙岳麓山游覽麓山寺，突然聽到秦檜黨羽劉旦來湖南做官的消息，他非常氣憤，便揮筆在墻壁上大書“是何南海之鱷魚，來作長沙之鳥。”南海鱷魚的比喻，來唐代韓愈的《祭鱷魚文》。傳說韓俞初任南海邊潮州刺吏，知道惡溪中有鱷魚把百姓的牲口幾乎吃光了，便寫了《祭鱷魚文》投入惡溪命鱷魚限日離開潮州遷往南海，否則將弓矢捕殺殆盡，結果鱷魚懼怕潛走，以后潮州永無鱷魚。劉旦恰好是潮州人，胡寅是將他比喻成了那兇殘虛偽的潮州鱷魚，又到長沙來為害百姓了。劉旦見了這題句，知道是在譏諷自己，便向秦檜告狀。胡寅因而落職，20年不再做官。這表現出胡寅和其他湖湘學派創始人一樣，節操凜然，一身骨氣，為岳麓秀山增色不少。