南郭寺座南面北，由三座山门自西向东组成西院、中院、东院三个院落。
西院是南郭寺的主院，它主要包括山门、钟鼓楼、天王殿、大雄宝殿、东西二配殿、东西二禅林院以及卧佛院。其中，山门前挺拔如盖的“唐槐”和大雄宝殿院内南北横逸斜出的“古柏”，被称为“稀世珍宝”；而东禅林院则为“杜少陵祠”，塑有诗圣杜甫及其二子宗文、宗武像；西禅林院现为南郭寺公园接待处和办公室；卧佛院紧临西禅林院，建有卧佛殿一座，内供缅甸玉体卧佛一尊，该院内原 有七级舍利砖塔一座，已塌毁。中院有关圣殿(也叫财神殿，传说最早曾是南郭寺的藏经楼，毁于大火，清乾隆年间在其旧址改建关圣殿)、月季园、盆景园和花架通道。东院有驰名的“北流泉”和新建的“二妙轩”诗碑长廊以及梅园等。
在南郭寺西北侧，还建有 “邓宝珊将军纪念亭”，陈列有邓宝珊将军画像及生平业绩展览，现被列为“甘肃省爱国主义教育基地”。其东侧山势险要处，建有观景亭，游人登高远眺，天水市全景尽收眼底。此外，南郭寺背负的山坡之上，有一片在古城天水范围内唯一的天然白杨林，郁郁葱葱，为寺院增添了绿色和生机。