地處泰州老城東南。始建於唐僖宗乾符三年（八七六）。僖宗賜名“護國寺”。北宋治平元年（一零六四）改名“資福禪院”；政和七年（一一一七）改設道觀“神霄玉清萬壽宮”。南宋建炎元年（一一二七）復為“資福禪寺”。淳熙十年（一一八三）寺毀；紹熙年間僧紹信、覺妙重建；嘉定年間立戒壇。明為“祝聖道場”，設僧正司（管理佛教的機構）；永樂十八年（一四二零）鑄鐵鐘一口，鐘聲洪亮，聲聞數十里，惜已不存。崇禎五年，天竺僧方誌重建浮圖。
清道光時稱南山教寺。教寺，是佛教律宗派寺廟的專用名稱，創始人唐代僧人道宣住終南山，故名“南山律宗”，簡稱“南山宗”，他創設“戒台”，訂佛教受戒儀式，簡稱“律宗”。從此，凡歸從此教義的僧人寺廟，皆冠“教寺”之名。宋嘉定年間，此寺曾立“戒台”，南山教寺之名由此開始，後人簡稱其為“南山寺”。
寺坐北朝南，分主次二軸線。主軸上由南向北依次建有山門、二殿、大雄寶殿，大殿左右分設鍾、鼓二樓。殿間兩側建有側殿、廊屋，形成三合或四合院落規制；次軸線上，前後各有一座面闊五間的殿宇，中間一側另有較大型的殿宇，還有一些輔助用房。山門殿南是市河，再南邊是城牆，外為護城河。地勢高敞，環境開闊。
滄海桑田，南山寺僅存大雄寶殿及東面幾間附房。大雄寶殿為廡殿重檐，楠木金柱，內外柱等高，脊桁下用叉手，建築技法為元代以前常見手法，斗拱為明式做法，天花上用草栿作，梁枋上彩繪二龍戲珠和唐三藏師徒西天取經以及動、植物圖案。殿面闊五間，進深六間，瓦當、滴水上飾有龍鳳圖案。整體屬明中期風格，屋面則繼承了唐代的建築手法。雖經千年風霜，仍翹角飛檐，巍然屹立。一九五七年，南山寺大雄寶殿被列為江蘇省文物保護單位。
一九八五年四月，知名園林建築專家陳從周教授應邀來泰，在視察南山寺後認為，大雄寶殿為廡殿重檐的屋頂建築，類同北京紫禁城太和殿、山東岱廟，是中國古建築史上至高等級的屋面式樣，一般用於皇宮的主要建築，以示尊崇或隆重。在江蘇的寺廟建築中，只有蘇州的文廟和泰州南山寺是這種形式的古建築。
二零零三年六月，泰州對南山寺大雄寶殿進行維修，二零零四年八月告竣。
皇家規制出人意料
採用“廡殿重檐”規制建造的南山寺大雄寶殿，僅369平米，在中國殿堂實際中是很小的，這從殿堂採用的柱子數量上可以得出結論。北京大學中國古建築研究中心主任方擁表示，故宮太和殿有16根等高的柱子。等高，在中國古建築里是一個很重要的概念：等高的柱子建造的是殿堂，而不等高的柱子建造的是廳堂。“南山寺的重檐廡殿，4根10米等高的楠木柱子，這在佛教寺院中極為罕見。”1985年，上海同濟大學建築系教授、中國著名古典園林專家陳從周教授考察南山寺後認為，在江蘇的寺廟建築中，只有蘇州的文廟和泰州南山寺是這種“廡殿重檐”的古建築，大呼“這是要用玻璃罩子罩起來善待的寶貝。”國家文物局古建築專家組組長、著名建築學家羅哲文考察後認為，南山寺與故宮太和殿、泰山岱廟在結構建造上有異曲同工之處。
