吴玠，字晋卿，顺德军陇干县（今甘肃静宁）人。少年习武，膂力过人，骑射皆精，性雄毅，尚气节。早年从军御边，在泾源路（今宁夏固原、甘肃平凉等地区）与西夏军作战 。
从军后的吴玠能骑善射，作战勇猛，有智谋，在与夏军作战时屡立战功，被西北监军、检校太尉童贯擢为进义副尉、充领军主将。
《宋史》记载，北宋末年，吴玠参与镇压方腊起义，“破其众，擒酋长一名”，再率军随海州通判张叔夜讨伐河北“海贼”宋江，大破之。积功被擢升为忠训郎，权任泾源第十正将。
“靖康之难”后，北宋灭亡。吴玠从建炎二年（1128年）起追随名将、经略司都统制曲端领兵与金军作战，智勇双全，屡破强敌 。清溪一战，吴玠率部大破金军，乘势追歼30里，“金人始有惮意”。后隶属南宋川陕宣抚处置使张浚麾下，任泾源路兵马都监、知怀德军。
建炎元年（1127年）12月，金太宗完颜晟命金宗室大将完颜宗翰（粘罕）统兵南伐，大举进攻南宋。完颜宗翰兵分三路，大举攻宋。宋高宗赵构下诏令河北、山东军民武装抗金，但自己又畏金如虎，旋即迁都扬州，以避金军锋芒。
金军南下后以破竹之势攻城拔寨，接连挫败河南、山东、陕西的宋军，很快逼近江南扬州。2月，宋高宗仓惶逃离扬州，逃到建康（南京）。金兵将扬州劫掠一空并纵火焚烧，旋即扬长而去。
建炎三年（1129年）10月，金军分两路南下，直捣江西、浙江。东路军在名将完颜宗弼（金兀术）的率领下渡过长江，在马家渡击溃设防阻抗的宋军，兵锋直逼建康（今南京），却发现已是一座空城。
原来，惊慌失措的宋高宗早已逃离建康，窜入明州（今浙江宁波）。12月，宗弼又率军追杀到杭州，宋高宗早已被吓破了胆，干脆乘海船窜到海上。建炎四年（1130年）初，金军大举追至明州（宁波），搜集海船出海追击高宗达300余里，遇宋军水师阻击方才作罢。于是，惊魂未定的宋高宗这才侥幸逃到温州。
完颜宗弼孤军深入，担心宋军截断其退路，决定北撤。撤军途中，十万金军在镇江遭韩世忠部8000人的有力阻击。因地形不熟，金军死伤惨重，被困在黄天荡大片芦苇丛中长达48天，差点全军覆没。在几个小汉奸的指引下，宗弼侥幸从黄天荡突围北走，为泄愤将建康城（南京）焚烧殆尽，北返途中再遭岳飞部的沉重打击，损兵折将，仓惶夺路北逃。宗弼被韩、岳杀得心胆俱裂 ，再也不敢轻易进犯江南。
金太宗完颜晟在侵略江南失利后，在中原扶植刘豫的伪齐政权，以抗衡南宋。同时，将用兵的重心转到陕西。建炎四年（1130年）9月，完颜宗弼、完颜娄室率军大举进攻陕西，在富平战役中击溃宋将张浚的40万大军，取得了进取关陇的决定性胜利。彼时，吴玠在张浚麾下效力，任泾源路兵马都统制 。富平大战中，吴玠的泾源军也受到重创，将士死伤甚众。
到绍兴元年（1131年）2月，金军攻占了泾源（宁夏、陕西、甘肃交界的大片区域）、西河（山、陕交界）两路的州县，将关陇（陕西关中和甘肃东部）之地收入囊中。
宋军惨败富平后，被迫转移战线，以退保四川。吴玠收拾残兵溃卒，退往大散关以东的和尚塬（今陕西宝鸡附近），利用当地山势险峻，路窄石多，战马难以通行，是遏制金军骑兵的绝佳地形，便在该地修葺营寨，积蓄粮草，收罗宋军溃卒，惨淡经营，以为死守。
在吴玠、吴麟兄弟的努力下，加上周边民众的鼎力支持，宋军逐渐摆脱了困境，军心稳定，士气复振。
绍兴元年（1131年）10月9日，完颜宗弼（金兀术）亲率18万大军，从宝鸡渡过渭水，直扑和尚塬而来。次日午后，金兵开始发起猛攻。吴玠身经百战，金军大举袭来，倒也不慌乱，他命其弟其弟吴麟率守军与金军血战，宋军用强弓硬弩轮番扫射，可连发不绝，箭矢如雨，名曰“驻队矢”，这在当时可算利器，杀伤力巨大。金兵被射得人仰马翻，吃了亏，稍稍退却，宋军旋即又出奇兵攀上四周险隘，俯冲夹击金军。
从中午杀到晚上，连杀三阵，宋军发起反攻，终于将金兵追逐过河。金军溃至神岔口，吴玠在此设下伏兵，四下掩杀，金兵大溃，死伤惨重。11日，金军再出宝鸡，直扑神岔口，欲图报复，宋军早有准备，先是万箭齐发，接着步兵冲击，捣入敌阵大砍大杀，金军不敌，再次溃回，大批辎重粮草以及马匹被宋军缴获。当晚，吴玠派精兵突袭宗弼大寨，乘其不备猛攻金营，宗弼趁黑逃遁， 残部被宋军追赶慌不择路纷纷掉入深崖。
战至四更，援军自散关以西赶来，再对金军大营发起攻击。激战到12日天亮，金军力战不支，拔营溃逃。宋军紧追不舍，金军且战且走，两军又反复接战30余阵，金军伤亡颇重。宗弼只得率残军退守宝鸡。
和尚塬大战，连续进行了三天，战况之激烈程度前所未见。曾横扫宋辽、不可一世的金军遭遇重创，大孛堇（女真语大官人之意，部落酋长）羊哥、国相完颜宗望（粘罕）的女婿娄堇、侄儿也不鲁以及贵族将领300多人被宋军俘虏，另有800余金军将士被俘。金军死伤惨烈，尸骸遍野， 葬身沟谷者绵延20余里。主帅完颜宗弼后心连中两箭，要不是身披重甲，必死无疑，随其出征的18万精兵生还者仅剩6万余人，他的护卫军有数百铁甲骑士，回归时仅余6骑而已。“金人自起海角，狃常胜，及与玠战辄北，愤甚，谋必取玠。娄宿死，兀术会诸道兵十余万，造浮梁跨渭，自宝鸡结连珠营，垒石为城，夹涧与官军拒。十月，攻和尚原。玠命诸将选劲弓强弩，分番迭射，号‘驻队矢’，连发不绝，繁如雨注。敌稍却，则以奇兵旁击，绝其粮道。度其困且走，设伏于神坌以待。金兵至，伏发，众大乱。纵兵夜击，大败之。兀术中流矢，仅以身免。张浚承制以玠为镇西军节度使，璘为泾原路马步军副总管。兀术既败，遂自河东归燕山；复以撒离喝为陕西经略使，屯凤翔，与玠相持。”《宋史》说“金军自入中原，其败未有如此之盛者”，应当不是夸大之语。
在后来发生的宋金饶凤关、仙人关大战中，吴玠指挥若定，谋勇俱佳，均以少胜多，挫败优势金军 ，粉碎了金人图谋四川的企图。尤其是仙人关之战，吴玠、吴麟兄弟与金兵血战7昼夜，射瞎金军大将韩常一目，攻破完颜宗弼、完颜杲大寨，歼灭万余金军将士，宗弼惊恐异常，率残部连夜遁逃。金军溃逃途中又中埋伏， 被吴玠部将王俊截杀，俘斩千余人。吴玠乘金军溃退之机发起反攻，挥军紧追不舍，迫使金军退回凤翔府。此后，金军因损失过大，暂时放弃了攻取四川的图谋。
绍兴四年（1134年）四月，吴玠挥军收复了凤州（今陕西凤县）、秦州、陇州。南宋川陕防务日趋稳固，金军的重点进攻又遭失败。“夏，四月，庚辰朔，制授吴玠定国军节度使、川陕宣抚副使。玠因除宣副，遂移镇、加恩，帝赐以所御战袍、器甲，且赐亲笔曰：‘朕恨阻远，不得拊卿之背也！’”
在《金史》中，“吴玠”这个名字屡屡出现，远超“岳飞”二字。由此可见，吴玠更令“金人惮之”，是骁勇善战、当之无愧的抗金名将。
