晋永和九年（公元353年）十月，前凉国君张重华染病不起，将年仅10岁的儿子张曜灵立为太子，准备让他接替王位。
消息传出后，张重华的大哥张祚极为不满。但是，张祚城府很深，表面上并不流露出不满情绪，而暗地里却和张重华亲信的大臣赵长、尉缉频繁来往，结拜兄弟，密谋待重华死后废掉曜灵，篡位夺权。十一月，张重华病死，张曜灵继位，赵长等人伪造张重华的遗嘱，把张祚拥立为都督中外诸军事、抚军大将军。没过多久，赵长等人又向张重华的母亲马氏送去一份请示报告，说：“现在政局不稳，曜灵太小，无法收拾这种局面，应当立张祚为凉王。”马氏与张氏早有奸情，恰在这时，张祚悄悄地走进马氏的卧室，对马氏温存一番后，让她赶快废掉曜灵。马氏满口答应，当天就把张曜灵废掉，立张祚为凉州牧。次年一月，张祚自称凉王，改元和平，采用皇帝礼乐。
张祚深知自己的王位来得很不光彩，生怕别人对他说三道四，更怕别人对他的王位有非分之想。刚即位时就派人到酒泉杀害了谢艾，即位的第二年（公元355年），他又怕河州刺史张瓘势力太强，便让张掖太守索孚到河州，取而代之。张瓘十分痛快地遵照张祚的命令，让弟弟张琚离开枹罕（今甘肃临夏），带兵讨伐反对前凉的胡人。但是，张祚让张瓘讨伐胡人只是幌子，目的是让张琚离开枹罕，待张琚离开枹罕后，张祚又派易揣、张玲带上13000人袭击张瓘。张掖人王鸾似乎有点先知先觉，听到张祚派兵袭击张瓘的消息后，找到张祚说：“这军队出去后，必定回不来，凉国危险了！”又数说了张祚三条淫虐无道的罪状。张祚一听，气得暴跳如雷，喝令卫兵把他拉出去杀掉。王鸾赴刑场时，大声叫喊：“张祚，你这个淫棍，你把张重华未出嫁的女儿全都奸淫了，现在又向你老爹大发淫威，实话告诉你吧，我死之后，你也不会再活多久，不信你就走着瞧吧！”
再说张瓘听到张祚派兵来袭的消息，立即杀掉了索孚，并传檄各州郡，废掉张祚，拥立张曜灵为凉王。然后他调动兵马迎头痛击易揣、张玲，把他们打得狼狈逃回姑臧。同年八月，骁骑将军宋混和弟弟宋澄因大哥宋修与张祚有矛盾，料到张祚迟早会对他们下毒手，便联合了1万多人响应张瓘。张祚见自己已经落到众叛亲离的地步，只好在张曜灵身上发泄怒火，命令杨秋胡把他活活拉杀，胡乱埋到一个沙坑中。不久，宋混大军到了姑臧城下，张祚见状，准备把张瓘的弟弟张琚和儿子张嵩杀掉，还没动手，张琚、张嵩已经找了几百名市民打开姑臧西门，把宋混大军迎进城内。直到这时，张祚还要大发淫威，提着宝剑在殿上叱令士兵迎战。士兵们平时从张祚那里没得到任何好处，关键时刻谁也不愿为他卖命。张祚遂被宋混的士兵杀死，城内百姓听说暴君被杀，无不拍手称快。张祚死后谥号“威公”。