虽然诸葛诞反叛的决心比不过王凌和毌丘俭，但诸葛诞叛乱的规模因为联合了孙吴要比早先二人大很多，内乱的时间也持续了将近一年，远远强于前面两人。
诸葛诞反叛之初，议论此事的人请求立即讨伐淮南军，司马昭却说：“诸葛诞认为毋丘俭举事轻率急速而导致失败，今天他必然外连吴寇，这样一来，叛变的规模大而行动迟缓。我可以与四方将领联合起来，以全胜之策来制服他。”于是向天子上表说：“昔日黥布叛逆，汉高祖亲征；隗嚣违抗，光武帝西伐；烈祖明皇帝多次御驾亲征，都是为了振奋士气，耀武扬威。陛下应暂时亲临军旅，使将士得以借助天威。今讨贼诸军约五十万，以众击寡，没有不胜的。”
同年七月，护卫着天子与皇太后一起东征，征发青、徐、荆、豫四州兵马，并从关中分部分军队，共同会师淮北。大军至项，让廷尉何桢持符节出使淮南，劝慰叛军将士，申明朝廷逆诛赏顺的政策。司马昭进军丘头，并派镇东将军王基及安东将军陈骞包围寿春，派石苞、州泰领兵抵抗吴兵。
吴国方面则派文钦、唐咨、全端、全怿等三万余人来救诸葛诞，魏诸将迎击，不能抵御，于是他们都突入寿春城内。魏国方面将军李广临敌畏缩不前，泰山太守常时声称有疾不出兵，都斩首示众。
当时司马昭派石苞统领青州诸军，并督兖州刺史州泰和徐州刺史胡质（晋书中记载有胡质参与，但当时胡质应该已经于数年前就去世了），选精锐部队为游军，在寿春外围防备东吴支援。
东吴方面任命朱异为假节大都督，率领三万人屯居安丰。曹魏兖州刺史州泰率军与朱异交战，朱异大败，死伤二千人。孙綝亲率大军进屯镬里，又派遣朱异率领丁奉、黎斐等人的五万军队攻打曹魏。当时朱异屯于黎浆，遣将军任度、张震等募勇敢六千人，在屯西六里处搭建浮桥夜渡淮河，准备修筑半月形的营垒，曹魏监军石苞及州泰发现后将吴军击破。朱异又制造攻城武器车箱围逼五木城，再次大败而归。与此同时魏泰山太守胡烈以奇兵五千从小路奇袭吴军屯放辎重所在地都陆，焚毁了朱异军队全部的军备粮草。
孙綝又再派兵三万命令朱异与魏军死战，朱异不从，孙綝大怒，要求朱异前往相见。此时，跟随朱异军中征战的柴桑督、奋威将军陆抗制止他去见孙綝，朱异于是说道：“子通，家人耳，当何所疑乎！”遂坚持前往。孙綝见到朱异后，马上让力士将其从座位上抓起来。朱异道：“我吴国忠臣，有何罪乎？”但孙綝还是下令处死了朱异，而改派弟弟孙恩虚张声势前往救援，但因感觉无力再战，自己则退回建业。
在寿春方面，大将军司马昭率领二十六万大军，派王基和安东将军陈骞等四面合围，将城包围两重，开挖堑壕、修筑堡垒。文钦等人几次想冲出包围，都被击退。
据《干宝晋纪》记载：当初，寿春一带每年都会下大雨，一下雨淮河就要涨水，一直淹到寿春城下。所以诸葛诞看见司马昭在城下扎营非常高兴，他说：“是固不攻而自败也。”可让他没想到的是，自从司马昭扎营开始，就一滴雨都没下，是少有的大旱。
孙吴退兵后，诸葛诞的部将蒋班和焦彝劝诸葛诞率主力专攻一方，以求突围，不宜困守寿春；但文钦认为东吴救兵必至，劝诸葛诞固守。诸葛诞不听蒋班的建议，更意图杀掉二人，二人于是逃出城投降魏军。
当时东吴右大司马全琮之子全怿、孙全端、全翩、全缉等率领大军来救援诸葛诞。全怿兄长的儿子全辉、全仪留在建业，因为他二人惹上官司，带着母亲和数十曲部渡江，投降了司马昭。钟会设计，秘密替全辉、全仪写信，派遣全仪、全辉的家人进城送信给全怿，说吴主因全怿等人不能拿下寿春而暴怒，要尽杀他的家人，故而才逃往北方。全怿等人闻讯，内心恐惧不安，于是开城投降。投降的人都受到礼遇，从此城中的诸葛诞开始人心背离。
甘露三年（258）正月，诸葛诞、文钦、唐咨等制造出许多进攻的武器，连续五六天，不分昼夜，强行从南面突围。包围的军队从高处用发石车发射石块，用火箭烧毁攻城器具，箭石如雨，尸首遍野，血流满堑壕。诸葛诞等人只能又退进城去。
城内粮食日益短缺，出城投降的人又达几万，文钦想把北方人全都驱赶出去，以便节省粮食，与吴国一起坚守。诸葛诞不接受这个意见，因此两人产生隔阂。文钦本来与诸葛诞就有矛盾。只是因为特殊事宜而聚合，事情越是紧急就越不相信对方。文钦见诸葛诞什么事都要策划一番而不满，于是诸葛诞杀掉文钦。文钦子文鸯和文虎知道文钦被杀，于是投降司马昭。文鸯二人获封赏更令寿春的兵民丧失战意。
最终司马昭在二月攻克寿春，诸葛诞兵败出城逃亡，被胡奋部下士兵击杀，诸葛诞麾下数百人于寿春被俘，坚决不降，更说：“为诸葛公死，不恨。”行刑时排成一列，每斩一人都招降下一人，但始终无人投降。
吴将于诠亦力战而死，唐咨和王祚等人则投降，司马昭还上表给他们加封爵，士卒饥饿有病的，都供给粮食医药。有人说吴兵必然不肯为我们效力，请求把他们活埋了。司马昭却说：“放他们回去，才显示出大魏的宽宏大度。”后来将他们迁徙到三河。这年四月，司马昭回到京师，魏帝把丘头改为武丘，以彰显武功。
甘露三年（258）五月，在平定诸葛诞之乱后，魏帝封司马昭为晋公，封地包括并州的太原、上党、西河、乐平、新兴、雁门和司州的河东、平阳，共八郡，地方七百里，加九锡，晋位相国，晋国府中置官司。司马昭九次辞让，天子才勉强同意了。于是增加封邑一万户，，食三县租税。儿子中没有爵位的都封为列侯。
淮南三叛是曹魏内部守旧势力对于司马家掌权派的反击，三次叛乱分别发生在司马懿、司马师以及司马昭掌权期间，然而这三次叛乱都失败了，司马家也就此成功铲除拥护魏帝的势力。
此后司马昭夺权的趋势越加明显，在司马昭接受晋公和相国之位后，魏帝曹髦最终铤而走险，发动了甘露之变。
