庾亮过世后,朝廷任命庾翼为都督江、荆、司、雍、梁、益六州诸军事、安西将军、荆州刺史、假节,接替庾亮镇守武昌。庾翼一直希望能够北伐建功平定天下,桓温积极响应支持,两人关系友好。庾翼多次向皇帝推荐桓温,上言道:”国家艰难,后赵石虎势强,朝廷应积极应对,桓温具有英雄的才能,应当委以重任,让他们能够建立匡救世事的功勋。“桓温先授予琅琊内史,后升任琅琊太守。七月后赵汝南太守戴开率众投降庾翼,朝廷议论北伐。庾翼倾巢出动所属部众出发,任命桓温为前锋小督、假节,率军入临淮。桓温接到任命动作非常迅速,很快完成部署,准备启程。桓冲提醒说:“临淮归徐州刺史管辖,目前骠骑将军何充领徐州刺史职,是否要先书信请示一番,再作定夺?”桓温说:“我受命为前锋,理应率众先行。何充和庾翼常常意见相左,曾入朝提议阻止庾翼亲征。如今我受命征西大将军,再请授议骠骑将军,是首尾不得其守。”
桓温率众据守临淮后,何充不但没有责怪桓温,还盛情宴请桓温及其属僚。在宴席上何充对桓温谈及其父亲桓彝非常钦佩地说:“当年令尊多方招纳南方士族人士加入朝廷,使得朝廷能够平稳和江东大族融合相处,仅此一项功绩即可载入府册。”桓温听到何充对父亲的赞誉,连忙起身离席答谢。何充又对桓温谈起目前中原局势说:“中原三分势力,后赵石虎,凉州牧张骏和幽州牧慕容皝。其三者唯张骏为我华族,石虎羯人,慕容皝鲜卑人也,夷夏之防不可不防。石虎和我们是势不两立,但是其锐气正盛,我们只需防范,不必冒进进攻。慕容皝虽尊奉天朝,但其假燕王之请可见其狼子野心,是其忠必不久矣。凉州牧张骏一贯忠于晋室,是朝廷可信赖,可惜孤悬一隅,势单力薄。”桓温应答道:“神州陆沉之际,大将军刘琨独撑大旗抵御胡族,我时时以刘琨为榜样能够尽忠王室扫清胡虏,希望有朝一日朝廷重回洛阳。”何充听了非常高兴,同时看到桓温的部众军纪严明,有勇不惧,就有心栽培桓温。同时十月,朝廷征召何充改任扬州刺史,何充推荐桓温接替自己担任徐州刺史,并都督青徐兖三州诸军事。