东晋会稽王司马昱在绝嗣多年之后，终于盼来了一个儿子。这个儿子出生时，正当东方始明，司马昱因此给他取名曜，字昌明。
司马昱做了9个月的皇帝，临终前把11岁的司马曜立为皇太子。这位皇太子在他父亲灵前一滴泪也不掉，左右人提醒他，应按常礼大哭一场表示悲痛。他却回答：“哀至则哭，何常之有！”
拥有重兵的大司马桓温，驻扎在姑熟（今安徽当涂）。要不要先请示桓温，然后再让司马曜继皇帝位，群臣对此有意见分歧。有的主张：“当须大司马处分。”王彪之却说：“皇帝驾崩，皇太子理应继位，没有请示臣下的道理。”这样，司马曜才算顺顺当当即了位。
桓温本来指望司马昱临终禅位，由他来当皇帝；起码也会像周公一样居摄，当个代理皇帝。但司马昱遗诏却让他以诸葛亮和王导为榜样，辅佐司马曜，自然十分恼火。他断定这是大臣谢安等人从中作梗，恨得咬牙切齿。
宁康元年（公元373年）二月，桓温带着大兵，杀气腾腾地向首都建康（今江苏南京）赶来，谢安和王坦之带领满朝官员前去迎接。这时，上上下下人心惶惶，传说桓温要杀王、谢两人，灭掉东晋，改朝换代。
谁知桓温到了建康不久，忽然生起病来，后来病势越来越重。桓温几次暗示朝廷给自己加九锡，并屡次派人催促。桓温的亲信袁宏起草好加九锡的诏文，草稿送给谢安审批，送一次，谢安改一次，拖了几十天，还没定稿。这样一直拖到七月，这个权臣寿终正寝，司马曜被废黜的危机总算度过去了。
在同桓温周旋中表现出超人胆识的谢安，从此成为朝廷的中流砥柱。太元元年（公元376年），14岁的司马曜亲政，任命谢安为中书令、录尚书事；第二年，又任命为侍中、都督扬豫徐兖青五州诸军事。这样，谢安掌起了东晋的军政全权。
这时，氐族在北方建立的前秦日益强大，经常骚扰东晋的北部边境。司马曜颁发诏书，寻求良将。谢安的侄子谢玄应征。谢玄在当时称为“北府”的京口一带招募士兵，组织起一支新军，得到了刘牢之等猛将。刘牢之率领精锐部队为先锋，战无不捷。这支新军号称“北府兵”。
太元八年（公元383年）八月，前秦王符坚以符融为前锋，亲自统率骑兵27万、步兵60万南下攻晋。这支号称百万的大军，旌旗相望，钲鼓千里，大有把东晋捣为粉末之势。司马曜和谢安派遣谢石为征讨大都督，谢玄为前锋都督，统兵8万，进行抵抗。
十月，秦军前锋到达寿阳（今安徽寿县），与前来抵抗的东晋前锋隔淝水对阵。谢石和谢玄分析形势，认为：倘若百万秦军到齐，是难以为敌的。应当乘其各路军队还没会齐之时，迅速出击；只要击败了这支前锋军，整个秦军就会崩溃。
谢玄派使者对符融说：“你们远道而来利于速战，但你们逼近水滨安营扎寨，这是持久战的阵势，并不是速决战的阵势。请你们把阵营向后撤退一下，在水边腾出一块空地作为战场，让我们晋军渡过淝水，与你们决一胜负。”符坚计划把前秦军向后撤退一下，乘东晋军渡江之时，派骑兵冲杀，没有不胜的，符融也觉得这是个好主意。于是下令向后撤，谁知这一撤，秦军立刻大乱，谢玄乘机率晋军渡过淝水，攻上岸来。符融来到阵前，想押住阵脚，坐骑竟被乱兵撞倒，他自己也被攻上来的晋兵所杀。秦军失去主帅，全线溃败。晋军乘胜追杀，秦军自相践踏，尸体蔽野塞川。
前秦其他各路军队，听说前锋溃败，都调头逃跑，听到风声鹤唳，也疑心是追赶的晋军来了，昼夜不息地逃奔。依附于前秦的各少数民族贵族也纷纷叛离，因此秦军损失十分之七八。
淝水之战胜利了，司马曜又逃过了一次亡国的危机。
司马曜的同母弟司马道子，9岁时封为琅邪王，食邑多达7600余户。太元八年（公元383年）九月，正当前秦南侵时，20岁的司马道子被委以录尚书事的重任，得以干预朝政。淝水之战结束后，他便开始倾轧谢安。
谢安的女婿王国宝品行恶劣。谢安厌恶他的为人，不重用他，让他做不那么重要的尚书郎。王国宝自以为像他这样出身于琅邪王氏名门大族的子弟，从来都是做清显贵重的吏部郎的，因而对谢安怨恨在心。王国宝的从妹是司马道子的妃子。王国宝经常在司马道子面前说谢安的坏话，司马道子便把这些坏话当做在司马曜面前攻击谢安的炮弹。谢安在淝水之战中立有大功，那些嫉妒他的无耻之徒也都竭力败坏他。司马曜听任谗言，对谢安的信任大不如以前了。
太元十年（公元385年），谢安被排挤出建康，出镇广陵（今江苏扬州），过起闲居生活。九月，谢安病逝，东晋失去最后一根顶梁柱。司马道子领扬州刺史、录尚书事、都督中外诸军事，全面操掌起军政大权。司马道子势倾内外，远近奔凑，司马曜意渐不平，兄弟二人开始闹起矛盾起来。
司马道子专权奢纵，他所亲信的赵牙和菇千秋，一个原是唱戏的，另一个原是捕贼小吏，都靠谄媚和贿赂做了大官。赵牙为司马道子建筑了一所府第，里面筑山穿池，费用巨万。菇千秋则卖官招权，被人揭发出来。司马曜对他弟弟的行为越来越厌恶，但碍于手足情分，下不了废黜的决心。于是，他选拔一批有名望并为自己所亲信的大臣，如王恭、郗恢、殷仲堪、王珣和王雅等，委以地方要任，来防遏司马道子的势力。司马道子也引王国宝和他的弟弟王绪为心腹。这样，朝廷内部形成了两帮对立势力。
司马曜最先宠爱的两位美人，后来因失宠均被打入了冷宫，在后期他最宠爱的是张贵人。太元二十一年（公元396年）九月的一天，他和张贵人在后宫饮酒，妓乐相陪。张贵人年近30，司马曜带着醉意，跟她开玩笑说：“你已到了失宠年龄，我正在物色更年轻漂亮的。”张美人想到前两位美人的下场，对玩笑话认了真，怀恨在心。傍晚，大醉的司马曜酣睡在清暑殿。张贵人将大大小小的宦官灌醉，打发他们各自安歇。然后，她让侍女用一条厚厚的被子蒙住司马曜的头，把他活活憋死。她又用重金贿赂左右的人，说是“因魇暴崩”。当时，太子司马德宗年幼无知，专权的司马道子昏荒无道，这件弑君大逆之事，竟没人过问，蒙混过去。
司马曜死时35岁。太元二十一年十一月，葬于隆平陵。庙号“孝武帝”。