南北朝时期，朝廷施暴政，弄的民不聊生，各地诸侯纷纷起兵反叛朝廷，中华大地燃起战火，朝廷为了巩固它的封建统治，派兵四处镇压。朝内有一河南驻马店籍星象师夜观天象，进言说若干年后有杨姓真龙天子出世将改朝换代，朝廷下旨让这位星象师走遍全国，如发现龙脉立即毁掉，这位星象师便四处游走，来到阳城西冶见四面环山风景秀丽，村前一条大河清澈见底，再看北有龙虎二山，南有旗杆一柱矗立村前，细看山脉弯曲有序好似九龙聚首，村庄坐落其间，是个风水宝地必出真龙天子，当时西冶确有杨姓大户，但想毁此龙脉也非易事，办此事又不能明办，当时在阳城地区盛行商汤文化，好多地方都在修建汤王庙，加之西冶村经常洪水肆虐，民众生活很艰苦，这位星象师便以风水先生身份住了下来，利用百姓对汤帝的敬仰，四处游说汤帝造福百姓的故事，要想让风调雨顺，百姓免受洪水肆虐之苦，需要在村里修建成汤大庙，百姓可随时供奉，让其享受人间香火，可保风调雨顺免招灾难，百姓对这位说的深信不疑，准备物料让其选址，这位星象师乘此机会将成汤庙正殿选在了龙脉上，让成汤大帝占据龙脉，建起了成汤庙，百姓经常烧香朝拜，从此确有多年风调雨顺，百姓更加深信不疑，却不知道这位风水先生的真实意图，通过这种方法完成朝廷旨意，回朝交旨。
唐明皇时期，经几百年的成汤庙有所荒落，当时西冶在周边区域是屈指可数的富裕村，据传唐明皇携正宫娘娘到析城山为百姓祈雨将路过西冶，为了迎接皇帝和娘娘，百姓自发捐钱捐粮重新扩建成汤庙，在正殿对面修起了戏楼，戏楼左右修建了锺鼓二楼，东西修建两层木柱长廊，大庙开有三门，正门中华门门楼高大宏伟，东有东华门，西有西华门，唐明皇来到西冶，见成汤庙气魄宏大，进庙祭拜，并稍作休息召见村中嗜老，众嗜老趁此机会向唐明皇祈求御书，唐明皇欣然挥笔写下“成汤庙”三个大字，众人大喜将御赐“成汤庙”三字镶在了中华门门头，形成现有的格局，是整个阳城地区唯一一个开三门的成汤庙，这个故事无法考证，但在河南驻马店以及济源地区广为流传，至今河南驻马店及济源人讲起这个故事还津津乐道，彼为炫耀。
西冶成汤庙在明清时期曾经过多次复修，现存有明正德、嘉靖、崇祯以及清顺治、康熙、雍正、乾隆、嘉庆、咸丰、同治年间复修碑记多块，据明正德碑文记载西冶成汤庙始建于何年无法稽考。
