当王猛听说桓温入关的消息，就穿着粗布衣服前去拜见，见到桓温之后，王猛手扪跳蚤，侃侃而谈，旁若无人，天下事如在指掌之间，自此，“扪虱而谈”成为了魏晋名士一道另类的风景。桓温观察之下，心中暗暗称奇，问道：“我奉天子之命，率领十万精锐部队，仗义讨逆，为百姓除残去秽，而三秦的各路豪杰却没有前来响应的，这是为何？”王猛回答：“大人不远千里，深入敌境，长安近在咫尺，大军却不渡过灞水，三秦百姓不知大人的真心，所以不敢前来。”此时，桓温的兵力对前秦并不具备压倒优势，甚至在人数上还稍逊一些，以旗鼓相当之兵力野战尚可求胜，而以之攻城，则捉襟见肘，这是桓温不敢渡过灞水的根本原因；而三秦豪杰、百姓也只有在局势明朗的情况下，才敢于全力支持桓温的晋军。听了王猛的话，桓温默然无语。过了很久，桓温慢慢地说：“江东再无你这样的人才！”当即授予王猛为军谋祭酒。
灞水，又称作霸水，是关中八川之一，源出陕西蓝田县东倒谷中，西南流纳蓝水，折西北流纳辋水，又西北经长安县，过灞桥，又西北与浐水会，北流注于渭。《汉书，地理志》称：“南陵县霸水，出蓝田谷，北入渭，古曰兹水，秦穆公更名，以章霸功，视子孙”。桓温部将顺阳（河南省南阳市淅川县）太守薛珍，也是一员猛将，他一直处于东晋边境，多次在顺阳击退前秦的进攻，他对桓温建议大军渡过灞水，径直进逼长安城下与前秦军队决一死战，但是桓温不从。于是，薛珍不顾命令，单独率领本部人马渡过了灞水，斩获敌人甚众。虽然如此，此时的桓温顾虑却很多，依然不敢全师渡河，决一战而定输赢。
就在桓温滞留在灞上、接见王猛的时候，前秦苻健并没有闲着。他腾出手来，采取先弱后强、各个击破的战术，命令丞相苻雄率领七千精锐骑兵，南下子午谷驰袭东晋司马勋的梁州部队，司马勋战败，退往女娲堡（不详）。击退司马勋、暂时解除被两面夹击的困境之后，苻健又命令苻雄等人进攻晋军据守的白鹿原，双方在白鹿原再次展开了一场殊死搏斗，第二次白鹿原会战，晋军大败，被斩杀了一万多人，桓温弟弟桓冲被前秦军队重重包围，命在须臾，这时，只见晋军阵中杀出一员猛将，桓温看去，乃是自己的三弟桓豁长子桓石虔。桓豁共有二十八个儿子，由于有谣言说：“谁谓尔坚石打碎。”所以，桓豁将自己的儿子们都取名“石”，其中，桓石虔、桓石秀、桓石民、桓石生、桓石绥、桓石康最为知名。桓石虔，字镇恶，勇捷绝伦，随从桓温在荆州，一次出外打猎，猛兽被箭射中倒地，大家都知道桓石虔勇猛，就让他去老虎身上拔箭，桓石虔当即跑到老虎身边，从身上拔出一箭，老虎纵身跳起，桓石虔也跳了起来，跳得比老虎还高，顺势又从老虎身上拔了一箭。此时，桓石虔看到自己的小叔桓冲被围，他纵马杀入重围，将桓冲从万众之中解救出来，前秦士兵无人敢抗。由于桓石虔此战的勇猛，致使在此后的很长时期内，北方地区，有人得了疟疾，别人在其身边大呼：“桓石虔来了！”总能将病人吓得痊愈。
在出兵之前，桓温计划可以因粮于敌，然而，前秦皇帝苻健听说桓温北伐的消息，就提前实施了坚壁清野的策略，将秦地的麦苗全部割去，此时已经到了麦熟的六月，但是秦地田野一片荒芜，根本看不到成熟的麦子。从二月至今，桓温所部已经出征了三个多月，军粮开始不足，此时白鹿原会战又战败。在这种情况下，桓温下令全军撤退。在临行之前，桓温任命王猛为高官都护（即大营指挥官），请求王猛与大军一起南下，王猛辞别桓温，回到华山，询问师傅，师傅说：“你与桓温岂能同朝为官？在此，自可得到富贵，何必远去呢？”于是，王猛就留了下来。
永和十年（公元354年）六月一日，桓温大军迁徙关中三千户居民，开始往东撤退，在灞城的前秦叛将呼延毒也率众一万跟随晋军一起东还。前秦太子苻苌等人率军追击，从灞上之潼关一路上两军多次交战，而撤退中的晋军再无战心，屡战屡败，等到晋军抵达潼关的时候，桓温的北伐军前后又损失了上万人。到潼关之后，顺阳太守薛珍埋怨桓温持重，不敢进逼长安，并在众人面前显示自己的骁勇，薛珍此举让桓温恼羞成怒，下令将其诛杀。在人才寥寥的乱世之中，桓温诛杀薛珍，实属可惜。就此，柏杨评论道：由此可以看出，桓温的胸襟不过袁绍、赵染之辈，能力不足以开创一个新的局面。
就在桓温驻军灞上的时候，前凉秦州刺史王擢也攻下了陈仓，杀死了前秦扶风太守毛难；东晋败将司马勋与王擢合兵一处，驻守在陈仓。桓温自潼关经洛阳南撤之后，前秦皇帝苻健留光禄大夫赵俱为洛阳刺史，镇守在宜阳（河南省宜阳县），防守东线，另外派遣丞相苻雄率领秦军主力部队，回师西上进击陈仓，司马勋和王擢抵挡不住，司马勋退回了汉中，王擢退回到陇上的略阳（甘肃省秦安县）。
击退了司马勋和王擢，苻雄转兵进击雍城（陕西省凤翔县）的乔秉，六月二十日，苻雄在军中病死。噩耗传来，苻健对自己的这位弟弟早死十分痛惜，他直哭得吐血，呜咽着说：“老天难道是不想让我平定四海吗？为何这么快你就将我的元才（苻雄字）给夺去啊！”追赠魏王，葬礼按照西晋安平献王司马孚的规格安葬。苻雄少善兵书，多谋略，虽为丞相，但谦恭爱士，苻健经常说：“元才，是我的周公啊！”苻雄的儿子就是日后大名鼎鼎的前秦王苻坚。
同年八月，苻健再派遣太子苻苌攻下雍城，诛杀了乔秉，自此，关中全部平定。前秦皇帝苻健赏赐众臣，以雷弱儿为丞相，毛贵为太傅，鱼遵为太尉，淮南王苻生为中军大将军，平昌王苻菁为司空。苻健勤于政事，尊崇儒学，礼遇士人，为政宽厚、节俭，关中百姓渐渐安定了下来。前秦皇太子苻苌在与桓温交战中曾被射伤，此时箭伤复发，十月，苻苌去世。
九月，桓温从北伐前线回到襄阳，晋穆帝派遣黄门前去犒劳。也就是从北伐回来之后，桓温军中得到了一位手巧的北方老婢女，想问之下原来曾经是刘琨的伎女。桓温一直以来自认为才能堪比司马懿、刘琨，有人将他比作王敦，他就很生气。老婢女见到桓温就潸然泪下，桓温询问原因，老婢女回答：“似刘司空。”桓温大喜，进屋重新整理衣服，再次让老婢女瞧看，老婢女仔细看后说：“脸庞很像，但恨薄；眼睛很像，但恨小；胡须很像，但恨红；形态很像，但恨低；声音很像，但恨雌。”听罢，桓温解开衣带，扔掉帽子，一头倒在床上，“昏然而睡，不怡者数日。”这个故事我们过去就曾说过，在此再次提及。
要问桓温的第一次北伐究竟是胜利还是失败了，这很难说清楚。因为，这要结合他的目的而言：如果他以消灭前秦、占领关中为目的的话，此次作战，尺寸之地未获，并且损兵折将，前后死伤二万余人，即使算上得到的呼延毒的一万部众和三千户秦地民众，最多也只能算是打了个平手，形式意义远大于实质；但是，这毕竟是晋军主力部队第一次踏上关中的土地，扩大了一定的政治影响，不过，对此不应过高估计，前人总以关中老者那句“不图今日复见官军”，来增强桓温此次伐秦的效果，殊不知，桓温的晋军仅仅停军灞上两月，然后就败归了，而晋军走后，关中百姓的内心做何感想，我们可想而知。当然，如果桓温北伐是以提高自身声望为目的的，那么，此次北伐毕竟是提高了桓温在东晋的声望：因为，此战之后，桓温就夺取了他梦寐以求的江州——我们一直以来对于永和年间江州刺史的人选十分模糊，史书也对这一十分重要的职位没有给予明确记载，不过，我们研读《晋书，桓彝传附桓豁传、徐宁传》，似乎可以找寻出一点若隐若现的脉络。据史书记载，徐宁是桓彝向庾亮推荐的，当时，他对庾亮说：“吾为卿得一佳吏部郎。”庾亮就任命徐宁为吏部郎，史书记作“即迁吏部郎、左将军、江州刺史，卒官。”而《桓云传》称：“历位建武将军、义成太守。遭母忧去职。葬毕，起为江州刺史，称疾，庐于墓次。诏书敦逼，固辞不行，服阕，然后莅职。加都督司豫二州军事、领镇蛮护军、西阳太守、假节。”据此，我们推测，在桓温任荆州刺史的时候，司马昱任命了与桓家有渊源的徐宁担任江州刺史，作为桓温与建康之间的缓冲，桓温第一次北伐之后，桓温之母去世，而徐宁也在江州刺史任上死去，东晋朝廷为了安抚桓温，即将江州刺史的职务让给桓温的二弟桓云，而桓云则直到服丧期满之后才就任。也就是说，桓温借这次北伐之威，将过去没有拿到手里的江州，收入到了桓氏家族的囊中。