击溃了高句丽的援军，李勣便开始全力围攻辽东城了。
两日之后，也就是五月十日，唐太宗的銮驾渡过辽水，并在马首山（今辽宁辽阳西南首山）安营扎寨。马首山位于辽东城西南十余里，三国时期司马懿就在此地斩杀了公孙渊。
唐太宗在渡过辽水之后，便命人拆毁了大桥，断绝了退路，以示破釜沉舟的决心。在马首山，唐太宗随即做了三件事：赏赐江夏王李道宗，提拔马文举为中郎将，斩杀临阵脱逃的张君乂。
紧接着，他亲领数百名骑兵来到辽东城下，视察战况。眼见士兵们正搬运泥土填平城外的壕堑，唐太宗不由分说，撸起袖子，亲自挑土，与士兵们共同劳动，并将沉重的土块担在马上持之。
天子做出了表率，手下的随从官员自然不敢懈怠，纷纷加入劳动的行列，大家齐心协力，干得热火朝天，很快就将城外的壕堑填平。
辽东城有内外两重城垣，固若金汤，素有高句丽第一都的美称。李勣围攻辽东城，攻势昼夜不息，可打了十二日，依旧无法撼动城池分毫。
唐太宗亲自引精兵与大军会合，将辽东城围得如铁桶一般，只听城外唐军的鼓噪声震天动地，城内的守军则吓得心慌意乱。
陷入恐慌中的高句丽人只得将希望寄托在祖先神灵之上。城中有一座祭祀祖先东明王朱蒙的祠堂。祠堂中有一副锁子甲和一支长矛，据说是前燕时代从天上降下的。
城外激战正酣，城内的人则让一位美女穿上锁子甲，拿起长矛，扮作女神，巫师则在口中不停地念道：“朱蒙悦，城必完。”意思就是祖宗朱蒙一高兴，就会保佑全城平安。
此时，城外的李勣运来抛石车，车上的巨石在杠杆作用之下飞出，距离远达三百步，巨石落入城池，城中的防线顷刻间崩溃。
但是城内的高句丽人并没有坐以待毙，他们用木头积成木楼，并在上面结上结实的绳网，如此一来，抛来的巨石就被绳网兜住，如同一记重拳打在了棉花之上，完全失去了杀伤力。
抛石车不管用，李勣又调来了冲车，撞击城门。五月十七日，突然刮起了猛烈的南风，为唐军的火攻创造了有利条件，昔日有周瑜火烧赤壁，如今大唐要火烧辽东城，真乃天助我大唐也。
唐太宗抓住时机，派遣精锐将士登上冲竿（一种攻城器械）的顶端，点燃了辽东城西南的城楼，大风助长了火势，大火迅速蔓延至城内，一时间，火光冲天，黑烟四起。
唐军趁势登城进攻，高句丽守军虽奋力抵抗，但无法抵挡唐军的攻势，最终辽东城破。此战唐军斩杀高句丽军万余人，俘虏万余人，并俘获城中男女四万人，以及粮食五十万石，随后唐太宗将辽东城改为辽州，至此这座丢失了将近三百年的城池重新回到了中原王朝的怀抱。
