北宋开宝九年（公元976年），潭州太守墨洞在原僧人办学的遗址上，即岳麓山下的抱黄洞四周正式成立起了岳麓书院。北宋大中祥符（1008－1017）年间，岳麓书院进进了北宋的昌盛期间。大中祥符八年（公元1015年），宋实宗亲身召见山长周式，对周式兴学颇为嘉许，亲书“岳麓书院”匾额。
至今书院所存明代“岳麓书院”刻石，即是昔时宋实宗的手迹。在周式执掌下，岳麓书院的从学人数和院舍规模都有很大开展，遂成为全国四大书院之一。关于“四大书院”有多种说法，但唯有岳麓为诸家共推，反映了古之学者对岳麓的推崇。 张栻主教期间，以反对科举利禄之学、培育提拔传道济民的人才为办学的批示思惟，培育提拔出了一批如吴猎、赵方、游九言、陈琦等经世之才的优良学生。
乾道三年（公元1167年），墨熹来访，与张栻论学，举行了汗青上有名的“墨张会讲”。前来听讲者川流不息，，时人描画“一时舆马之寡，饮池水立涸”。此次会讲，也鞭策了宋代办署理学和中国古代哲学的开展，所以不只是长沙，也是中国古代文化史上的一件盛事。墨张会讲之后，岳麓书院名望愈加远播，元代办署理学家吴澄在《重建岳麓书院记》中说：“自此之后，岳麓之为岳麓，非前之岳麓矣！”绍熙五年（1194年），在岳麓会讲27年之后，墨熹任湖南抚慰使，再次来到潭州，重整岳麓书院，颁行《墨子书院教条》。
颠末他的整治，岳麓书院再次进进到茂盛期间。 1507年（正德二年），阳明心学一代宗师王守仁来岳麓讲学。王守仁及其门生在岳麓书院的讲学是继南宋湖湘学派之后，岳麓书院的又一次重要学派活动，招致了岳麓书院又一个学术富贵期的到来。 1684年（康熙二十三年）巡抚丁思孔又重建岳麓，置膏火田数百亩，并两具疏章，恳求御书匾额。
1687年（康熙二十六年）春，康熙帝御书“学达性天”匾额。1744年（乾隆九年），乾隆帝又赐御书“道南正脉”于岳麓，岳麓书院在全国的重要地位再次获得必定。乾隆后期至嘉庆、道光年间，书院的建立进一步开展。期间罗典、欧阳厚均各主院27年，创建和恢答信院奇迹数十处。
1833年（道光十三年）巡抚吴荣光仿学海堂造，在此创设湘水校经堂，首开湖南书院教学变革之风。