他立即以讨伐皇甫商为名义，派遣张方为都督率领精兵7万，朝洛阳进发，同时，派人联络成都王司马颖共同起兵。这是太安2年，公元303年8月的事。
司马颖是在讨伐荆州张昌叛乱的路上接到司马顒的文书的。河北军团在讨伐荆州妖贼张昌的号召下，声势浩大，义从如云，人数达到了空前的20万之众，司马颖以清河内史陆云为使持节、大都督、前锋将军。
这兴许也是张昌击败南阳守军以后，不敢乘胜北上的主要原因吧……
在此之前，骠骑从事诸葛玫、司徒长史牵秀借着被司马乂派出讨伐张昌而投奔司马颖，已经向司马颖报告了司马乂诛杀李含等人的消息，司马颖对于司马顒的反应早已做了心理准备。
而此时，张昌被荆州刺史张弘和豫州刺史刘乔这二刘击败的消息也传到了司马颖这里。
于是，司马颖决定响应司马顒的号召，顺势朝洛阳进发，讨伐自己的哥哥司马乂。
按道理说，司马颖丝毫没有理由抱怨司马乂。
司马乂当政以后，事事都向司马颖咨询，《晋书，司马颖传》记载，当时“颖悬执朝政，事无巨细，皆就邺咨之。”同时，哥哥司马乂对于当今皇帝司马衷礼数也没有什么缺失的地方。
那么，问题就出自司马颖自己的身上。史书记载，司马颖在齐王司马冏被杀以后，“既恃功骄奢，百度弛废，甚于冏时。”但是，由于自己身在邺城，而哥哥司马乂身处朝廷，所以，无法随便行事。所以，才想取而代之。
司马颖身边的智囊卢志劝谏司马颖说：“过去您曾经有让皇上复辟的大功，把赵王司马伦平定以后，您就安静地回到了邺城，归功于齐王司马冏，推辞了九锡的赏赐，不担任朝廷的职务，赈济阳翟的饥民，埋葬黄桥的白骨，这些都是大徳大义的事情，天下人没有不以您为依靠的。张昌扰乱荆州，您也扫清了，南边因您而重新平定，这时，您振旅而还，把军队驻扎在郊外，您穿着文官的衣服入朝拜见皇帝，这才是霸王应该做的事情啊！”
卢志前此，在司马顒号召一起讨伐司马冏的时候，就曾劝谏过司马颖，那次，司马颖就没有听进去，这次，他同样不听。参军邵续对司马颖说：“我听说兄弟就象人的左右手，如今明公您面临天下的敌人，却想自己砍去自己的一只手吗？我实在是弄不明白。”
其实，邵续是明白的，糊涂的是司马颖。
此时司马颖的部队因为出兵的时候是以讨伐张昌为名，所以有很多义从，部队人数达到了空前的20多万，加上司马顒的7万精兵，再加上司马乂的数万禁卫军，这次三王交战的总兵力达到空前的30万人，也是晋王朝内讧继2年前（301年）讨伐司马伦之后又一次涉及到地方的、最大规模的一次战斗，而此次的惨烈程度、死伤人数与上次相比都有过之而无不及。
于是，司马颖补充了司马顒的讨伐理由，把这次起兵的目的增加了一条，那就是诬陷羊皇后的老爸专权恣肆。其实，司马颖何尝不知羊皇后的老爸羊玄之一直是一个老实本分的人？——在二王起兵以后，很快这个可怜虫就被吓死了。——只是在司马颖看来，如果仅仅是为了讨伐左将军皇甫商，那这场战争似乎是在河间王司马顒的主导下进行的，你司马颖起兵只是为了给司马顒的一个部将李含报仇，这的确有点丢分，等胜利以后，谁的功劳大？并且，这个羊献容还是孙秀所立，羊玄之的老婆可是孙秀一党孙旗的女儿，在诛杀赵王司马伦以后，齐王司马冏竟然放过了这个羊皇后，这让身处外藩的司马颖一直不爽。如今是拿出这件陈年老账说事的时候了。司马顒和司马颖的正式文书是这样说的：“司马乂论功不公平，与上书右仆射羊玄之、左将军皇甫商专擅朝政，杀害忠良，请求诛杀羊玄之、皇甫商，把司马乂遣送回他自己的封国。”
看到二王起兵，司马乂只有应战。司马衷下诏说：“二王竟然敢向中央举兵，我要亲自率领六军讨伐奸臣和叛逆。命令司马乂为太尉，都督中外诸军事。”这是《资治通鉴》的表述，但是，考察《晋书，惠帝本纪》发现，在司马乂诛杀司马冏以后，就已经被任命为这个职务了，而此时，皇帝司马衷任命司马乂的职务是大都督，大约《晋书》的记载是对的。
此时，司马顒派遣的大将张方所率领的7万关中兵团已经出了函谷关，从西面压向洛阳；而司马颖则任命平原内史陆机为后将军（《晋书，司马颖传》称为前将军，此处依据陆机本传说法）、河北大都督，都督北中郎将王粹、冠军将军牵秀等诸路人马20余万，从东面进逼洛阳。
在司马颖任命陆机为集团军前锋总司令的时候，陆机一则以为自己家三世为将，这是道家最为忌讳的事情——杀人太多，可能反噬自身；二则自己是吴国人，一旦处于中原人之上，王粹、牵秀等都不服气。所以，陆机坚决推辞。但是，司马颖就是不同意。陆机的好朋友、同是吴国人的孙惠（曾经劝谏过司马冏的那位）也劝陆机把前锋都督的职务让给王粹（灭吴主将王濬之孙）。
陆机回答说：“如果再推辞的话，司马颖会说我在这种情况下，首鼠两端，这反而会加速祸害的来临啊。”
在临出发的时候，司马颖勉励陆机：“如果大功能成的话，将封你为郡公，位列部门首长，你努力啊！”
陆机回答：“过去，齐桓公任用管仲而建立了九次会盟诸侯的大功，燕惠王因为怀疑乐毅而功败垂成。今天的事情，还在于您而不在于我啊。”——这话说得意思到了，但是，也的确不太谦虚。
司马颖的左长史卢志还对10年前陆机对他的那次羞辱耿耿于怀。
他对司马颖说：“陆机自比管仲乐毅，而把你比作昏君，自古以来命将出征，从来就没有过臣子欺凌君主而能够成功的啊。”
司马颖听后默默不语。
陆机率领的部队从朝歌（河南省淇县）一直绵延到河桥（河南省孟津县东黄河渡口），战鼓声闻几百里地，史书记载，从汉魏以来，还没有象这次出征那样的盛况。
——但是，在这盛况之下，却有一种不祥之兆。
那就是：在陆机统军之初，大将的牙旗（旗杆上装饰有象牙，代表主帅）竟然折断了！