第52军在郑州附近休整不久，就调到了舞阳。
淞沪会战、南京保卫战先后失利后。1938年1月，徐州会战打响。汤恩伯率领第20军团参战，该军团下辖第13军、王仲廉第85军和关麟征第52军。
台儿庄战役中，孙连仲第2集团军池峰城第31师苦守台儿庄。汤恩伯第20军团迟迟不肯从侧后出击。李宗仁严令汤恩伯必须用主力侧击日寇，否则依照韩复榘的前例严办。王仲廉第85军从左，关麟征第52军从右包抄日寇第10师团濑谷支队。
正当台儿庄即将被中国军队合围时，日本第5师团派出坂本支队增援。援军距离第52军指挥部仅三四华里远。
第25师师长张耀明听闻后方指挥所处有枪炮声，来电询问。关麟征谎称发现日军小股便衣队，正在派兵驱逐中，前方不用担心。实际上关麟征当时手里只有一个营，能战者不足300人。他叫来营长徐文亮亲自指导战法。全营实弹上刺刀跑步向敌方向前进，距敌1000公尺与之对峙，就地布防。
日本人被国军的举动搞懵了。正在不知所措时，第85军陈大庆第4师援军奉命赶到增援。这速度的确有些惊人。
随后第52军、第85军与日寇濑谷和坂本支队展开激战并将其包围。见时机成熟，李宗仁下令全线反击。一直把鬼子残部追赶到峄县附近才停下来。台儿庄大捷震惊中外，关麟征赢得了“关铁拳”的称号。
国民党将领内部矛盾很深。关麟征和郑洞国是黄埔同学，两个人矛盾很大。第52军嫡系是第25师，郑洞国的第2师不受待见，打硬仗总是冲锋在前。台儿庄战役前后，第2师杀敌最多，功劳最大。因为郑洞国和关麟征在丢失一个小村庄是否有必要夺回的问题上起了严重争执，双方大吵了一架。关麟征在电话中大骂郑洞国，句句带脏字。
战后，关麟征四处活动关系，意欲挤走郑洞国。关麟征本人因战功升任第32军团军团长，通过关系提拔亲信加老乡第25师师长张耀明升任第52军军长，让第2师师长郑洞国升任第52军副军长，实际上剥夺了郑洞国的兵权。郑洞国一气之下离开了第52军，赋闲在家。此事引起黄埔系内部非议。最终，第52军军长仍由关麟征兼任，张耀明任副军长；第2师师长由赵公武接任。
徐州会战失败后，第52军又参加了武汉会战。在武汉会战时，蒋介石批准给第52军补充兵员，于是第195师组建，隶属第52军，师长梁恺。
武汉会战中，关麟征指挥第52军接防张发奎第2集团军守瑞昌一个月左右，没有丢掉一块阵地。日寇伤亡较大，第52军也有较大损失。完成任务后，奉命撤往湘北休整。关麟征奉命率军团部留下，在金牛山地区阻止日寇进犯武汉，为武汉物质转移争取时间。
