建义四年（公元388年）六月，西秦国君乞伏国仁突然病死，国仁的儿子公府年幼，无法继承帝位。大臣们正左右为难，乞伏国仁的弟弟乞伏乾归说：“既然人已死了，总得有人接替他的位置。”大臣们听出了他的话外音，便推乾归为大都督、大将军、大单于、河南王。乾归也不客气，心安理得地改元太初，将国都从勇士城迁到金城（今甘肃兰州）。这时，吐谷浑大人（首领）视连，鲜卑豆留革奇部、叱豆浑部、卢水尉地跋纷纷归附乞伏乾归。太初七年（公元394年）十月，乞伏乾归消灭了氐王杨定，占有陇西、巴西地区，成了西北的又一个强大政权。
太初八年（公元395年）七月，后凉吕光率领十万大军出击西秦，乞伏乾归非常紧张。这时左辅密贵周、左卫莫者羝劝乾归向吕光称臣，乾归被吕光的浩大声势吓昏了头，便把儿子敕勃当作人质送给吕光，表示称臣。吕光见没交战乾归就已屈服，也就耀武扬威地撤离了西秦。吕光一撤，乾归又感到非常窝囊，一气之下杀死了劝他投降的密贵周、莫者羝，并把吕光臭骂一顿。吕光对乞伏乾归的出尔反尔十分反感，又于太初十年（公元397年）一月出击西秦，很快攻取了西秦的金城、临洮、武始、河关。西秦大臣见状都吓破了胆，齐声劝乞伏乾归东奔成纪。乾归胸有成竹，仔细考虑了作战方案，然后将握有精兵的吕光弟弟吕延诱入埋伏圈，把吕延官兵打得人仰马翻，吕延死于战场。吕光听到吕延败讯后，急忙带兵回到姑臧（今甘肃武威）。
打退后凉之后，乞伏乾归又想征服左邻右舍，于是便于第二年（公元398年）派乞伏益州攻克支阳、允吾等三城，不久又用兵吐谷浑，在度周川打败吐谷浑。乞伏乾归的东征西伐虽一时取胜，但严重消耗了西秦的国力。太初十三年（公元400年），后秦姚兴带兵袭击西秦。乞伏乾归听说姚兴即将到来，对诸将信心十足地说：“我自继位以来，多次消灭强敌。现在姚兴带着全部军队入侵，气焰十分嚣张。生死存亡，在此一举。这次消灭姚兴，关中之地就会全归我们所有。”当下各位大将分头行动，慕容允屯兵柏阳，罗敦屯兵侯辰谷，乾归亲自率领数千骑兵等待姚兴军队。但是，天不助人，突然狂风突起，黄沙飞扬，一时天昏地暗，乾归与中军失去联系，次日一早与姚兴交战失利，后不得不投降了姚兴。姚兴见乾归投降后，乐得眉开眼笑，把他封为归义侯，让他继续管理原来部众。此后乞伏乾归遵照姚兴的旨意，先后在滋川讨伐羌族党龙头，攻克杨盛的皮氏堡、古阳堡，打败吐谷浑将领大孩，为姚兴立下了汗马功劳，自己的势力也逐渐壮大。姚兴怕乾归势力强大后不听指挥，便于弘始八年（公元406年）十二月乘乾归到长安朝拜之机把他留在长安，给了他一个尚书空衔，解除了他的兵权。
乞伏乾归的儿子乞伏炽磐在弘始四年（公元402年）也从西平来到长安，被姚兴封为振忠将军、兴晋太守，带兵驻守苑川。乞伏乾归被姚兴留在长安后，乞伏炽磐纠集了27000人占据山康山良山作为根据地。乾归听到这一消息，偷偷地从长安跑回苑川，然后搜罗了3万人到度坚山重新称帝，改元更始，将夫人边氏立为皇后，儿子炽磐立为太子，原来的大臣全都恢复职务。接着，派兵攻克后秦的金城、南安、陇西等郡，把25000户分别迁到苑川、枹罕（今甘肃临夏）。秦更始三年（公元411年），乾归亲率3万兵众到枹罕征伐羌族彭利发，彭利发闻风南逃。同年六月，乾归被侄子公府所杀，葬于枪罕，谥号“武元王”。