就在前一个月，青州的王弥突然从山中出来，率众出现在青州地面，攻城略地，诛杀两千石，司马越派遣公车令（宫门接待官）东莱郡人鞠羡回到自己的老家做郡长，率兵讨伐王弥，却被王弥击败，并阵亡。
司马越出镇许昌，也是以自己的藩国东海国受到王弥威胁为由的，不过，在他出镇许昌之前，需要先把朝中的事情安排妥当，他做了以下安排：
一是，把显然没有能力的弟弟高密王司马略从纷乱的青州调到安全平静的荆州，任使持节、都督荆州诸军事、征南大将军、开府仪同三司。
二是，任命屯驻在许昌的弟弟南阳王司马模为征西大将军、开府、都督秦州、雍州、梁州、益州诸军事，代替死去的河间王司马顒镇守关中。
三是，改封弟弟东燕王司马腾为新蔡王，都督司州、冀州诸军事，镇守邺城。
四是，任命投靠自己的琅琊王司马睿为安东将军、都督扬州江南诸军事，假节，镇守建业。
此时，并州刺史刘琨已经上路，刘琨刚刚走到上党地区（山西省黎城县西南），距离并州治所晋阳（山西省太原市）还很远，可是，司马腾早已等不及了，也不等交接什么的，直接就率众仓皇从井陉（太行山八陉之一·河北省井陉县西）东下。连年的饥荒让并州再也留不住一个人了，如今领头的司马腾走了，新来的刺史还没有到，谁知道刘琨能否顺利到达？失去了主心骨的人们只想跟随着司马腾东下。这些人中有州政府的将领田甄、田甄老弟田兰、任祉、祁济、李恽、薄盛等官员、民众，共约一万余人。司马腾也感到不好意思，对不住刘琨，就给这伙人起了一个奇怪的名字，叫做“乞活”，意思是我司马腾不是不讲义气，把并州的兵民带走，而是他们自愿跟着我到冀州讨生活来了。
过去，我们多次提到过刘琨，他做过贾谧的“二十四友”，也曾帮助过司马虓，不能不说是一时的活跃人士。但是，经历了人生的起起伏伏以后，此时的刘琨才闪烁出动人心魄的光辉，也才值得我们注目着，认真地看看他。
刘琨，字越石，中山魏昌人，是汉中山靖王之后，与刘备是一家。很小的时候都被人品评为“隽朗”，与祖逖的异母哥哥祖纳都因为雄豪而闻名天下。《晋书》有这样一段非常有趣的记载，说的是：东晋大司马桓温自视甚高，但却十分敬重刘琨，桓温常常自以为自己的雄姿风气堪比司马懿和刘琨，有人把他比作王敦，他都很不满意。等到桓温北伐回来，在北方正好得到一个老婢女，相问之下方知此女年轻的时候曾为刘琨的伎女，该女一见桓温，就潸然而泣。桓温莫名其妙，忙问原因，老婢女回答说：“大人和刘琨刘司空长得很象。”桓温闻言大悦，但是心里还是有点不自信，赶忙出去重新整理衣冠，自我修饰一番，然后又传老婢来问自己到底是真的象吗？这次，老婢女仔细看看，说：“脸庞长得很像，只是有点瘦薄；眼睛也很像，可惜就是太小；胡须也很像，可惜就是发黄；个子也很像，就是没人家高大；声音也很像，就是没有人家的雄气。”桓温一听，当时把帽子也扔了，衣服的带子也解了，回屋倒头就睡，连着很长时间见人都噘着嘴，满脸的不高兴。
——可见刘琨是何等的豪气，也是何等的迷人。
刘琨年少的时候就抱有很大的志向，善于结交比自己能力强的人为友，但是，刘琨的缺点也是十分明显，那就是沾染了西晋高层士大夫的那种奢靡浮夸之气，嗜好声色，尤其喜爱并精通音乐。他与祖逖同为司州主薄，两人私交甚好，在历史上留下了著名的“闻鸡起舞”的典故。等到后来祖逖被司马睿委以北伐重任，消息传到北方，刘琨与亲友写信称：“我枕戈待旦，志在灭胡，经常恐怕落到了祖生的身后。”两人一南一北，是如此的以报国意气相磨砺、相期许。
而此时的并州（山西省中部）灾荒饥馑，又不断受到汉赵帝国（首都黎亭【山西省壶关县西南】）军民的抢劫，郡县没有自卫能力。仅仅残留不满两万户人家，而又遍地盗匪，路断人绝。也就是此时，刘琨写下了著名的《扶风歌》：“朝发广莫门，暮宿丹水山。左手弯繁弱，右手挥龙渊。顾瞻望宫阙，俯仰御飞轩。据鞍长叹息，泪下如流泉。系马长松下，废鞍高岳头。烈烈悲风起，泠泠涧水流。挥手长相谢，哽咽不能言。浮云为我结，归鸟为我旋。去家日已远，安知存与亡。慷慨穷林中，抱膝独摧藏。麋鹿游我前，猿猴戏我侧。资粮既乏尽，薇蕨安可食。揽辔命徒侣，吟啸绝岩中。君子道微矣，夫子故有穷。惟昔李骞期，寄在匈奴庭。忠信反获罪，汉武不见明。我欲竟此曲，此曲悲且长。弃置勿重陈，重陈令心伤。” 全诗辞旨愀怆悲壮，千载之下，感人犹深。
刘琨一面停留在上党郡招兵买马，一面上书皇帝，他在上表中说：“臣在光熙元年9月末从洛阳出发（《晋书，刘琨传》在此表以前说是永嘉元年，根据《晋书晋怀帝本纪》记载“永嘉元年3月……并州诸郡为刘元海所陷，刺史刘琨独保晋阳”）句，结合此句9月出发，可以推断刘琨是在永嘉元年【307年】以前，这个9月当是光熙元年【306年】的9月，可见《晋书，刘琨传》记载错误。），山路险峻，胡寇遍布，总是以少击众，冒险前进，一路上辛苦备尝，危机四伏，如今到达了壶关。我刚刚到达并州州境，亲眼目睹了州内的困乏，贫苦百姓流移四散，十户不存二户，路上满眼携老扶弱流亡的人们。至于那些没有能力流亡的，更是困守家里，卖妻卖儿，生下的孩子也养活不了，丢弃于野，死亡的人一个接一个，白骨纵横在田野里。而胡人数万，满山都是，出门就会遇到抢劫，睁开眼睛就能看到强盗。现在只有壶关，能够买得粮食。而这里是并州通向中原的钥匙，地理位置十分重要，可是，独独的坚守此城，既不能出去砍柴，耕牛也没有了，还缺乏耕种的工具……并州虽说是靠近边境的州，但是，却直接连接着京师，南面通向河内郡，东边连接着司冀二州，北面捍御鲜卑，西面抗拒刘渊，这里还是出产强弓、良马、勇士的地方。请求给予此州谷五百万斛，绢五百万匹，绵五百万斤。”
朝廷答应了刘琨的要求。
然后，刘琨在壶关召集了近千人，他们一路往西北，转斗而前，根据《晋书，刘元海载记》的记载，当时，刘渊曾经派遣前将军刘景为使持节、征讨大都督、大将军率军在刘琨的必经之路上邀击刘琨，结果在版桥一战中被刘琨打得大败而逃，这样，刘琨才艰难地来到了晋阳。进得城里，满目疮痍，城内的房舍大部分都被烧毁，街上堆满了僵硬的尸体，活着的人也都饿得面无人色，到处都是长得象树林一样的荒草荆棘，夜晚甚至白天四处游荡着成群觅食的豺狼，整个城市笼罩在一片死寂荒凉之中。
刘琨来到以后，立即组织赈济灾民，整修道路，建设府舍，剪除荆棘，掩埋尸体，招徕饥民。一股一股的强盗不时前来骚扰，刘琨的部队无力出门迎战，只能坚守在晋阳的城门与敌厮杀，而百姓则在城外拿着盾牌耕作，处境异常艰险。由于并州的饥馑，刘琨派人去离石刘渊的大本营说服同样饥饿困顿的流民，致使本来投靠刘渊的杂胡1万余落前来投降，弄得刘渊十分害怕，这也是刘渊离开离石，迁都蒲子的一个重要原因。
刘琨骨子里是豪爽奢靡的本性，自己时常感到也应节俭自励，老是痛下决心，可是，转眼就忘，还是故态复萌。他虽然善于招徕，但却不善于控驭部众，以至于每天来投靠的人常达数千，而走的人也为数不少。不过，总的来说，刘琨逐渐在并州站稳了脚跟，受到当地各族民众的信任和支持，也正是刘琨的到来，稍稍改变了司马腾在时的处处被动局面……