太和元年（366年）十月，司马昱进位丞相、录尚书事，赐“入朝不趋，赞拜不名，剑履上殿”的荣誉，又赐羽葆、鼓吹及持班剑的武士六十人，司马昱又坚决辞让。
太和四年十一月二十五日（370年），在桓温北伐失败后，司马昱与桓温在涂中会面，共同商议之后的行动。
太和六年十一月十五日（372年1月6日），大司马桓温废司马奕为东海王，并于同日率百官到会稽王府奉迎司马昱，司马昱在朝堂更换服装，戴平顶头巾，穿单衣，面朝东方流涕，叩拜接受皇帝的印玺绶带，即日便即位为帝，改年号咸安。桓温临时住在中堂，分派兵力屯驻守卫。
桓温及后写了讲辞，打算向司马昱陈述自己废立皇帝的本意。但司马昱接见他不停流泪，令桓温战战兢兢，居然一句话都说不出来。
司马昱虽处在帝位，垂拱无为、持守常道而已，常惧废黜。当时，司马昱见荧惑入太微垣，因晋废帝被废时亦有同样天象，故此十分不安，对桓温亲信也是自己昔日僚属的郗超问桓温会否再行废立之事。郗超断言道：“大司马正在对内稳定国家，对外开拓江山，臣愿用全家百余口来担保，不会发生不正常的事变。”等到郗超急于请假回去看望他的父亲（郗愔，忠于晋室）时，司马昱说：“告诉尊父，宗族国家之事，竟到了这种地步，是因为朕不能用道德去匡正守卫的缘故，惭愧慨叹之深，怎能用语言来表达！”接着便咏庾阐之诗：“志士痛朝危，忠臣哀主辱。”吟诵得潸然泪下，打湿了衣襟。司马昱也因而忧愤得病。
咸安二年七月甲寅（372年9月7日），司马昱因病重召桓温入朝辅政，一天一夜连发四道诏令，桓温都推辞不到。
二十八日（9月12日），司马昱立司马曜为太子。临终前，司马昱写了遗诏，要桓温依周公先例居摄，又写道：“少子可辅者辅之，如不可，君自取之。”王坦之在司马昱面前亲手撕毁遗诏，司马昱说：“晋室天下，只是因好运而意外获得，你又对这个决定有什么不满呢！”王坦之却说：“晋室天下，是宣帝（司马懿）和元帝（司马睿）建立的，怎由陛下独断独行！”司马昱于是命王坦之改写遗诏，写道：“家国事都禀报给大司马，如诸葛武侯（诸葛亮）、王丞相（王导）的旧例。”桓温看到后大失所望。同日，司马昱在东堂驾崩，享年五十三岁。
十月初八（11月19日），葬于高平陵，庙号太宗，谥号简文皇帝。
司马昱即位为帝后，桓温主控朝政，一步步要消灭反对势力，首先要对付的就是行径嚣张的司马昱同父异母兄司马曦。司马昱即位不久，桓温就诬陷司马曦谋反将其免官，及后逼令新蔡王司马晃自诬与司马曦及殷涓、庾倩等人谋反，以求翦灭陈郡殷氏和颖川庾氏在朝中的势力。随后桓温指示御史中丞司马恬奏请司马昱依法处死司马曦，司马昱不肯，下令再作议论。
桓温再次上奏求诛司马曦，言词十分严厉急切，司马昱于是亲手写诏给桓温说：“如果晋室国祚长久，那么你就应该依从早前的诏命从事；如晋室大势已去，那你就让我退位让贤吧。”桓温看后害怕到流汗色变，于是不敢再逼，只上奏废掉司马曦和他三名儿子，并流放其家属。殷涓、庾倩、庾柔等人被灭族，殷氏和庾氏一蹶不振，桓温的威势达至高峰。