次日，天刚蒙蒙亮，李建成、李世民兄弟各统骑兵五百人，翻过山口，到达了宋老生驻扎的霍邑城外。不多时，就见李渊也带着手下大将殷开山，统领了步兵两千多人，也翻过了山口。
李渊下令：先不要急着安营扎寨，今晚我们就进城歇息，城里的女群众，盼望我们好久好久了耶……大郎二郎，你们各带二十名骑兵，与我在城门附近埋伏，全部骑兵化整为零，每组二十人左右，与我将霍邑城团团围定。
李建成和李世民面面相觑，这个当爹的，他可真不得了。城里的宋老生，手下统有将士三万之众，而李渊竟然让他们兄弟俩率骑兵一千人围城，你一千人围得住三万人吗？虽然心里嘀咕，可两人谁也不敢吭气，都知道李渊既然这样安排，必然有他的道理，就依言行事，两人各领了二十名骑兵，在霍邑城南门附近来来回回游荡。
这边李渊命令殷开山将两千名步兵排成方队，远远站着，冲着霍邑城呜嗷喊叫。
宋老生发现李渊的人马在后方出现，大大吃了一惊。他也看到了成群的骑兵在城外跑来跑去，心里就有点打鼓，他这边虽然有三万之众，可清一色步兵，步兵跟人家骑兵怎么个打法？让人家骑兵拿马一撞一个跟头。可如果不出城，只怕不知哪个王八蛋就会立即放出一只信鸽，飞往长安，说自己和李渊是一伙的……没办法，干脆让三万步兵全部冲出去算了……
霍邑城的南门、东门同时打开，三万部众发出了惊天动地的呐喊之声，向着李渊那两千人冲了过去。只见李渊丝毫也不犹豫，掉头就走，宋老生的人马在后面紧追不放，正追之际，忽听后面喊声震天，原来是李建成带领二十个骑兵，不由分说抢了南门，李世民带了二十个骑兵，趁这机会抢了东门。
三万人马回头一看，登时大怒，你这边总共才二十个人，也敢抄后路，真是太不像话了。就听三万人齐声呐喊，掉头向门口方向杀去，不想李渊也趁这机会大声喊叫，尾随其后追杀而来。
战鼓还未擂响，两军已经开始冲锋，李渊以不过三千人的兵力，成功的将对方三万人马团团围困，这激起了宋老生部将的凶性，只听杀声震天，无数双脚踏起的尘埃遮蔽了天空，震动得城池摇摇欲坠。这时候宋老生正指挥若定，忽见李渊跳起来，站在马背上，手里举着一颗人头，大声喊叫道：宋老生死了，宋老生的人头在这里……李渊一喊，他手下的两千名士兵也同声呐喊：宋老生死了，大家杀啊……
听了这番喊叫，宋老生的鼻子差一点没气歪，赶紧跟旁边的人解释：我没死，我还活得好好的……可是他一个人的辩解声，终究大不过两千人的齐声吼叫。三万部众以为统帅真的被杀，顿时乱成一团，向着四面八方，哭喊着自顾逃命，被李渊驱众杀来，只砍得满地人头滚滚。
宋老生急了，杀出一条血路，终于冲到了南门前，可是李建成率了二十名骑兵堵在这里，城里的人不敢开门，怕把李建成放进去。宋老生无奈，只好掉头往东门方向走，到了东门，又发现李世民率二十人堵在这里，同样是无门可入。
宋老生急得向城楼上高喊，我是宋老生，快点悬下根绳子……城楼上很快有绳子悬了下来，宋老生抓住绳子，壁虎一样嗖嗖往上爬，眼看就要爬上去了，不想下面有个李渊的小兵，也揪住绳子追了上来，他捉住宋老生的一只脚，向上连挥几刀，就听扑哧一声，宋老生的好大一颗人头，已然离颈而落。
当宋老生身死的时候，霍邑城下，纵横数里，躺满了密麻麻的尸体，一个挨一个，那情景惨不忍睹。
杀宋老生的士兵跳下来，捧着人头，飞跑到李渊面前报功。
不曾想，李渊接过人头，就用力往地下一摔，然后放声大哭起来。他一边大哭，一边骂：宋老生，你这个杀千刀的王八蛋，我李渊两手清白一辈子，从来不伤害对手，可今天让你给破了例，你为什么这么难为我？为什么？难道我李渊勤政为民爱护百姓有错吗？你就这么看不过眼？非要逼着我杀人盈野、血流成河吗？宋老生啊，你为什么这么逼我，为什么啊……
就在李渊捶胸顿足、放声痛哭声中，就听霍邑城门发出了嘎吱的声响，城门开了，霍邑请降。
李建成和李世民相互对视了一眼，都不由得打心眼里钦服。
李渊，不愧是当爹的，真有一套，兵不血刃，哭开城门，足够这俩儿子学一辈子的。
以哭服人，哭到你自开城门投降为止。就这样李渊兵不刃血，渡过黄河，抵达长安城下。
此时隋炀帝杨广正巡幸江都，在扬州未归，长安城里主持军务的，是杨广的儿子代王杨侑。这孩子刚刚九岁，见李渊大军来到，紧闭城门，拒不出战。于是李渊对将士们说：我希望，你们能够明白我的心愿，我是受天之命，来保卫皇上的，我不愿意看到战火突起，不愿意看到有一个百姓因为我死亡，倘若出了这样的事，是杀是砍是剐是剁，我李渊随你们处置。
说完这句话，李渊就回到军帐里，把帐门牢牢地关上，坚决不向外边偷看一眼。外边的军士则在大郎李建成、二郎李世民的带领下，将长安城附近的竹子树木，统统砍光，用来制造攻城的器械。等到李渊终于走出军帐的时候，三军将士，已经争先恐后，登城而入，攻下了长安城。
见此情形，李渊痛心不已，仰天长恸：陷孤不义，皆卿尔等。
唐军迈着大步进入长安，代王杨侑躲藏在府中不敢露面，李渊率兵而入，跪在杨侑面前大哭，哭罢，宣布废黜天子杨广，拥立杨侑为皇帝。小杨侑也不傻，立即任命李渊为大丞相，主管一切军务政务，加封唐王。
再接下来的事情，也就顺理成章了。大隋最后一任帝王杨侑，哭着恳求把天下让给李渊，李渊断然拒绝，说：你把我当成啥人啦……杨侑再恳求，李渊再拒绝，说：少跟老子整这事……杨侑跪在地上，磕头如捣蒜地恳求。李渊说：请你不要再侮辱我的人格啦，我李渊岂是那种人……外边的受禅台子搭好了没有？搭好了那就赶紧吧……
万般无奈，不情不愿，李渊从杨侑手里接过了天下。盛世大唐，于此徐徐拉开了帷幕。