鉴于匈奴军队的残暴不仁，“永嘉之乱”发生不久，紧接着的就是“永嘉南渡”。大家还记得几十年前司马炎和孙皓的那番对话吧，孙皓说在南方设了个座位，等着司马炎去坐，结果司马炎对此一笑置之。当时的司马炎哪里曾想到，由于司马氏的内部衰败和自相残杀，这番对话会这么快就成了谶语。在永嘉年间，由于涌向南方的人数太多（据史料记载，南逃的士人竟占总数的十之六、七），原本被视作蛮荒之地的江南地区一下子变得商业繁华、人口稠密，从而诞生了世界上第一座人口过百万的超级大城市：建康。（建康，即之前的东吴建邺城，于永嘉南渡之后更名为建康城，在今江苏省南京市）。司马炎的从子司马睿凭此为资，在以王导、王敦为代表的王氏世族的支持下，坐上了孙皓留给他的那个座位（东晋建立于公元317年，所以司马睿在南渡建康初期，名分还仅是诸侯）。
另一方面，在晋怀帝被俘走，并被刘聪杀害后，司马炎的孙子司马邺在长安登基，史称晋愍帝（西晋）。刘聪为了击败这两位晋王室的后人，很快下达了追击令，他委任石勒攻打江南，而攻打长安的任务，则交给了那位能一箭射透铁块的刘曜。
当时的局势，因为长安临近塞外，与各地联系的途径都已被匈奴人切断，刘曜这次西征属于围攻孤城，难度极小可略过不提。倒是石勒的南征行动，很快就遭到了江南晋军的顽强抵抗，其中，负责镇守京口（在今江苏镇江）的晋军将领，正是“闻鸡起舞”的另一位主人公：祖逖。祖逖不愧是刘琨的好兄弟，与旁人见到胡人军队避之不及不同，祖逖非但不惧怕胡人，而且他多次向司马睿提议，请求北伐中原，收复洛阳。后来司马睿实在坳他不过，才勉强给了祖逖二千名士兵，三千匹布帛；至于武器、战马等物，一件都没着落。司马睿的意思无非是：能给你祖逖的支持就这么多了，至于是否北伐，你大可看着办。
祖逖收下两千士兵之后，带着全族老小毅然渡江北上，船行驶至中流，祖逖愤怒地击打船楫，高声对跟随他一道北上的众人道：“我祖逖对长江起誓，若不能收复中原，今生绝不会再回到江南！”于是，才有了“中流击楫”这一成语。在抵达长江北岸后，祖逖亲自带头，与将士们起炉炼铁，打造武器，又招募到新军数千人，从而在北方牢牢扎根下来。
石勒虽然在军事上天赋异禀，但一旦碰到这种不要命的爱国义士，并无太大优势。加上北方军队进攻南方政权，历来有水土不服、不适应气候等问题，石勒也不例外。公元312年春季，石勒率大军抵达葛陂（地名，在今河南省项城市），恰逢该地大雨连绵，一连下了三个多月，石勒等人不能前行，只得坐看疾疫横行，粮草耗尽，尚未与晋军交战，军中病死、饿死的士兵便达上万人。这时，司马睿派人北伐的消息又传了过来，石勒不知其虚实，只好下令全军就地构筑壁垒，并与部下们商议战策。有部下建议道：“晋朝毕竟是华夏正统，我军遭遇这等困境，说明汉人的江山尚未到彻底灭亡之时。大将军不如立即派人向司马睿赔罪，并表示会相助他打败那些匈奴人，收复河朔。待司马睿的军队退回江南，我军养好气力，再徐徐图之。”石勒听了，一声长叹。又有部下提议道：“趁着大雨滂沱，晋军未到，大将军不如以无法作战为由，早早下令班师，回北方复命。”石勒听后，勃然大怒。又有部下提议道：“我军虽然遭遇大雨、疾疫，粮草又消耗殆尽，但有半数士兵仍愿奋战。大将军可在晋军抵达之前，先发动奇袭，夺取几座南方城邑，取其粮食为我军所用。那么只待天气好转，一年之内，全取吴地的计划便可实现了。”
石勒听了这话，心情才好转起来，称赞献出该计的那几人道：“这才是勇将之计也！”下令各赐每人一匹良马，一副铠甲，决意继续南下。
从事后来看，石勒南征建康之战，是发生在“永嘉南渡”初期，当时司马睿虽在长江以南建立起了政权，但立足未稳，如果石勒真的能克服不利条件，采用偷袭战术发起攻势的话，晋王朝很可能会就此彻底灭亡。不过正当他下令出兵之际，又有一位“君子”站了出来，说不能打。
这人名叫张宾，赵地南和（今属河北邢台市）人。他的父亲张瑶曾官拜中山太守，到了他这一代，可能是家道中落，在被当地中正评价品级时只得了个下品。为此，晋朝强盛时期，张宾郁郁不得志，干脆称病闲居家中。直到石勒奉刘渊之命，攻打魏、赵等地时，张宾才兴奋起来，对忙着逃往南方的其他士人道：“我自负才学不输于张良，可惜生平未能遇到汉高祖。这位胡将军（指胡人石勒）与其他许多将领都不一样，或者可以与之一起成就大事。”于是他主动前往石勒军中，希望做石勒的谋士。
张宾也许不知道，他这一举动，无异于羊入虎口。石勒一生，最仇恨的就是那些自负饱读诗书、德才兼备的“中原士人”，尤其是“上品人”，但凡二千石以上的官员，他向来是杀人不眨眼，此事可参考他是如何对待王衍和十万晋军的。也多亏张宾的品级不高，所以他才奇迹般地活了下来，不过石勒对他并没有太大兴趣——在石勒看来，像张宾这种穷书生就是跑来他这里混饭吃的，别说对他言听计从了，能够不杀他，还每日供他一日三餐就不错了。
张宾郁郁不得志了半辈子，对此倒也不见怪，此后就跟随在石勒身边，有机会就插话几句，献上一两个计策，虽然他知道石勒不喜欢自己，根本不会用自己的计策。直到公元211年，汉军攻陷了洛阳，随后石勒又前往蒙城，击败并俘虏了苟晞，这才主动召张宾前来，问他：“张先生，王弥听闻我俘虏了苟晞，致信前来祝贺，信中道：明公既得了苟晞，若再得我王弥，有我二人作您的左膀右臂，天下当不足虑也。——他这是准备向我投降吗？”
张宾摸出随身携带的羽扇，轻摇几下，笑问石勒：“那主公您认为呢？”
石勒想了一想，道：“王弥与我同朝为臣，实力不在我之下，却主动向我示好，只怕是有图我之心。我已得了陛下命令，不日将出兵南下攻打江东，若是王弥再趁机攻我身后，只怕我军会有腹背受敌之险啊。”
张宾不笑了，他点点头，对石勒道：“这还不好办，出兵南下之前，先把王弥除掉就是了！”
“可是他与我实力相当，我二人又都是身居汉国总督之职。若草率与之开战，一来没有必胜的把握，二来陛下那边只怕会遣人问罪于我。”
“要除掉王弥，又何须动武呢，只需设下鸿门宴便行。至于陛下嘛，待主公除掉王弥，吞并了他的军队，您的实力已不在刘聪之下。届时他给您加官进爵还来不及，又岂敢派人前来兴师问罪？”
随后，张宾就将什么是“鸿门宴”，详细对石勒进行了解释。石勒之前一直都是靠蛮力解决问题，听过之后，觉得这些汉人想出的阴谋诡计倒也有些意思，兴冲冲的就要派人去请王弥赴宴。张宾忙拉住他道：“不行，这时若请王弥前来，等于摆明了是要杀他。您应当主动率军去帮助王弥，替他攻击他的敌人，为他攻城略地、抢掠财物。等他对您失去了戒心，此计方能成功。”
张宾所说的“王弥的敌人”，指的是当时晋国在北方领土纷纷陷落的情况下，那些不肯向匈奴人臣服，仍在负隅顽抗的晋军将领。石勒率军到青州后，王弥恰好在与一位名叫刘瑞的晋军将领交战，一时战局焦灼。在石勒的相助下，王弥很快就打败了刘瑞，并得了降兵、财物许多。石勒一面向王弥祝贺，一面以共庆胜利为由，邀请王弥赴宴。王弥大胜之余，果然对石勒少了戒备，加上他认定石勒不敢为难自己，遂欣然前往其军中赴宴。
这次宴会之后，王弥被石勒所杀，其军队被石勒吞并，至此，石勒已初步具备和汉国平起平坐的资本。石勒又按张宾建议，主动上奏刘聪，称王弥有叛变汉国之心，故才杀之。刘聪碍于石勒的强盛，虽然派出使者前往石勒军中问罪，却同时擢升石勒为并、幽二州总督，镇东大将军。
“像先生这样的人才，不知附近还有么，如果有，请先生帮我请来，我石勒今后一定会重用你们的。”
一下子连得三枚官印之后，石勒迫不及待地问张宾道。