该寺自永乐十年(1412年)十月十三日午时动工，按皇宫规制建造，由郑和与另一名太监汪福主持其事。在大报恩寺营造期间，正逢郑和连年出使海外，对这项巨大的建筑工程难以兼顾，以致工程进展缓慢。直到郑和担任南京守备，时常亲临现场督促指挥时，工程进度才加快，至宣德三年(1428年)八月初一始告完成。

大报恩寺规模宏大，其范围东起今晨光机器厂，西至雨花路，南达雨花台，北抵秦淮河边。据有关史料统计，大报恩寺坐东向西，全寺整体建筑分为南北两大部分，寺庙主体部分(山门、佛殿、琉璃塔等)居北半部，附属部分(僧房、禅堂、藏经殿等)居南半部，南北两部分之间由围墙隔开。整座寺院以佛殿(即大雄宝殿，又称贡妃殿)、天王殿、宝塔为主体，包括金刚殿、观音殿、伽南殿、经藏殿、论藏殿、三藏殿、法堂、祖师堂、禅堂、经房、东西方丈及御亭、左右碑亭、画廊等20多座殿堂，其中画廊有118间，经房38间。大报恩寺及琉璃宝塔的建筑极其精美，集明代以前中国建筑艺术精华于一身，其中以大雄宝殿和四天王殿最为壮丽，下墙、石坛及栏杆，都用汉白玉石砌成，雕镂得非常别致。