凌云寺在凌云山頂，被凌云九峰環抱，寺宇輝煌。因是大佛所在，所以又叫大佛寺。凌云寺創建于唐代，據史料記載，早于大佛開鑿之前，距今已有一千三百多年。唐開元初年(公元713年)開鑿佛像時，寺宇又有擴建。據《方輿勝覽》記載：“會昌前，峰各有寺”。到了會昌四、五年間，由于唐武宗李炎揚道抑佛，下令滅佛，凌云山僅凌云寺得以“做工精妙”而保存。
唐建凌云寺毀于元順帝戰亂，明代進行了兩次修復，明末又經兵燹，大部分被毀?，F存凌云寺是清康熙六年（公元1667年）重新修建的。寺外兩側分列著四通石碑，記載了明清兩代重修寺宇的過程。
凌云寺是由天王殿、大雄殿、藏經樓組成的三重四合院建筑。匾額“淩云寺”三字，為清末著名書法家趙熙所題。天王殿正中塑像為金玉彌勒坐像，重33噸，所用漢白玉石采自名山之巔,兩旁分列四大天王像，采用健陀羅風格建造。天王殿后為韋馱龕，供奉木雕帖金的護法神韋馱。大雄寶殿為清代建筑，殿內正中端坐釋迦牟尼三身像（法身、應身、報身）。兩旁分列十八羅漢像，殿后為菩薩殿，正中塑凈瓶觀音像，兩邊分列文殊、普賢、地藏和大勢至四菩薩像。藏經樓為民國時期所建，是中西方建筑的融合產物，具有很高的藝術價值。