侍中刘殷、王育建议刘渊：“大王您起兵这么久了，但是还偏居一隅，王威未震。应该命将四处出击，北上杀掉刘琨，西进平定河东，即皇帝位，渡河攻克长安，定都关中，然后再以关中之众出潼关，席卷洛阳，这是汉高祖之所以能击败强大的西楚霸王项羽的原因啊！”
刘殷、王育之所以这样说，是与山西的特殊地理位置相关的。山西号称中原屋脊，对四周均具有俯瞰之势，占据山西全境，东可以挥师冀州、幽州；南可以通过太行山第一、第二陘进攻河内，进而通过河桥，进攻洛阳；西南占领蒲坂，就可以得到进攻关中的跳板，绕开潼关险隘，渡河进攻长安。二人的计划也是先占领山西的诸要地，然后进入关中。
刘渊听后马上表示同意，着手组织对河东之地的攻击，他派兵相继占领了蒲坂（山西省永济市）、平阳（山西省临汾县西南），晋河东太守路述战死，平阳太守宋抽弃郡而逃。刘渊随后又将大本营从壶关附近的黎亭迁回到了蒲子（故治在今山西隰县东北八十里蒲子村，今属山西交口县）。刘渊对河东的一系列攻势，让上郡（今陕西延安、榆中以及内蒙乌审旗等地）鲜卑陆逐延、氐人首领单徴十分害怕，相继归降了刘渊，其中单徴还将年轻貌美的女儿嫁给老刘渊。
在刘渊基本上控制了山西中部、南部的同时，在“先攻击弱小的堡垒，然后再攻击较强的郡县”这一正确的战略思想指导下，石勒也在冀州接连取得战果，在攻拔了冀州数十处民间自发组织的堡垒，简拔了5万名精壮以后，石勒实力大增。308年9月，石勒与王弥一起合力进攻邺城，征北将军和郁吓得弃城跑到了卫国。晋怀帝司马炽赶紧命令如今的豫州刺史裴宪（玉人裴楷之子）屯兵白马（河南省滑县东）防备王弥，让车骑将军王堪屯兵东燕郡（河南省延津县东北）抗拒石勒，平北将军曹武屯兵大阳（山西省平陆县），以防备来自刘渊方向之敌。
受到一系列好消息的刺激，308年10月3日，刘渊在平阳即皇帝位，国号仍然称为“汉”，大赦境内，改元永凤。最先提出“全盘西化”这一引起广泛争议口号的陈序经先生，在他的名著《匈奴史稿》中提出，刘邦是在称汉王5年以后称帝，而刘渊也是在称王5年以后称帝，可见，刘渊是事事处处效仿刘邦的。称帝后的刘渊以儿子大将军刘和为大司马，封梁王；尚书令刘欢乐为大司徒，封陈留王；御史大夫呼延翼为大司空，封雁门郡公；儿子刘聪为车骑大将军；族子刘曜为龙骧大将军；宗室按照亲疏关系全部封为郡县王，异性大臣根据功劳大小全部封为郡县公侯，以石勒为持节、平东大将军、校尉、都督；晋封王弥为征东大将军，东莱公——反正都是晋王朝的土地，指山卖磨的，花不了刘渊一分钱嘛。刘渊对于投靠的石勒、王弥等人给予了相当大的自主权，这固然使得他们拥有很大的自我发展的空间很好，但是，也埋下了“尾大不掉”的隐患。（不过，《十六国春秋辑补》卷二《前赵录》的记载与此稍有不同：“以卫军和为大将军，抚军聪为车骑大将军，建武曜为龙骧大将军；又以其大将军和为大司马，封梁王，尚书令刘欢乐为大司徒，封陈留王，御史大夫呼延翼为大司空，封雁门郡公，以延年为江都王。”）
刘渊正在论功行赏，身在晋阳的刘琨却没有忘记壶关——这个对于双方都具有极为重要战略意义的据点。
11月1日，刘琨命令上党郡郡长刘惇（结合后面，此处似为庞惇之误），率鲜卑兵团攻击壶关，汉国镇东将军綦毋达战败，逃走，刘琨重新又拿下了壶关这一战略要地。
虽然刘琨再一次切断了石勒等人与刘渊本部的联系，但是，这并不妨碍石勒继续在冀州纵横驰骋。
和郁逃走以后，王濬之孙、魏郡郡长王粹依然坚守邺城，战斗是惨烈的。11月8日，石勒大军终于攻陷了邺城，王粹退守邺城城西北的“三台”。
所谓“三台”，是指曹操于210年在邺城兴建的三个高台，中央一个叫铜雀台，高10丈，上面有101间房子，为中台；南边的叫金雀台，高8丈，上面是109间房子，称南台；北边的叫冰井台，也高8丈，有145间房间，为北台。
退守“三台”的王粹一直不降，直到战死。攻陷邺城以后，石勒紧接着又转兵扫荡赵郡，杀掉冀州西部都尉冯冲，在中丘攻杀“乞活军”的田禋、郝亭；又进攻巨鹿、常山二郡，杀掉郡将，并攻陷冀州100多座堡垒，搜集兵士，壮大自己，人数多达10余万。
石勒在扩充实力的同时，没有忘记笼络汉族的士大夫们，他在自己的军营里专门设立了一个高规格的流动招待所，号称“君子营”，容纳汉族高级知识分子。这里需要特别提到一个为石勒问鼎中原立下汗马功劳的人——张宾。
张宾，字孟孙，是赵郡中丘人，父亲张瑶是中山太守，张宾年少好学，博览群书，曾经对自己的兄弟们说：“我自认为我的智谋不亚于张良，只是我没有能遇到像汉高祖刘邦那样的君主罢了。”当石勒大军来到常山的时候，张宾对家人说：“我看到的将军们太多了，只有这个胡人将军可以共成大事。”于是，提着宝剑，来到石勒的军门，大呼请见。刚开始的时候，石勒也并没看着他，等到相处以后，张宾算无遗策，石勒感到十分惊奇，从此引为参谋长，一举一动都要征求张宾的意见。
与此相反，小肚鸡肠的司马越却还在继续闹小性子。
本来“乞活军”是政府军的一个有力助手，是他们斩杀了汲桑，为司马腾报了仇，而石勒又杀了“乞活军”的两位重要将领田禋、郝亭，因此，战斗力很强的“乞活军”与石勒有不共戴天之仇。司马越理应认真安抚这支队伍，开始的时候，他也的确想到了这一点，他任命“乞活军”的田甄为汲郡太守，任命田兰为巨鹿太守，可是，田甄却想当魏郡太守，司马越不干，这让田甄十分恼火。在司马越屯兵荥阳的时候，他发书招“乞活军”的六帅（即：田甄、田兰、任祉、祁济、李恽、薄盛）领兵前来会合，田甄等人予以拒绝。司马越大怒，不仅不是去努力团结一切可以团结的人，反而去打击本来属于自己阵营的兄弟，他派遣监军刘望率领大军前去讨伐“乞活军”。
刘望渡过黄河，田甄不敌，往后撤退。面对刘望的大军，“乞活军”内部发生了分化，李恽和薄盛诛杀了田甄的弟弟田兰，率领部众投降了刘望；而田甄、任祉、祁济三人弃军逃奔上党。