大业十二年（丙子年，公元616年）
春季正月，各地朝集使有二十多个郡没来朝见，朝廷才开始商议分派十二路使者，征调军队讨伐捕捉盗贼。
隋炀帝下诏命毗陵通守路道德召集十个郡的士兵几万人，在毗陵郡东南修建宫苑，周围十二里，里面建造十六座离宫，大致仿照东都西苑的规格，但奇丽程度超过西苑。他还想在会稽修建宫殿，恰逢天下大乱，没能建成。
三月上巳节，隋炀帝和群臣在西苑水上饮酒，命令学士杜宝撰写《水饰图经》，收录古代水上相关的典故七十二则，让朝散大夫黄衮用木头制作对应的水饰景观，中间穿插载有歌妓的船、载酒的船，木人动作栩栩如生，钟、磬、筝、瑟等乐器还能自动演奏乐曲。
己丑日，张金称攻陷平恩县，一天内杀死男女一万多人；又攻陷武安、钜鹿、清河等县。张金称比其他贼寇更残暴，所到之处百姓被屠杀殆尽。
夏季四月丁巳日，大业殿西院失火。隋炀帝以为是盗贼来了，惊慌逃跑，躲进西苑的草丛里，火扑灭后才回来。隋炀帝从大业八年以后，每天晚上睡觉都常常惊醒，说有贼，要让几个宫女摇晃着安抚他，才能入睡。
癸亥日，历山飞的部将甄翟儿率领十万人侵犯太原，将军潘长文战败身亡。五月丙戌初一，发生日全食。
壬午日，隋炀帝在景华宫搜集萤火虫，得到几斛，夜里出宫游山，把萤火虫放飞，光芒照亮整个山谷。
隋炀帝询问大臣盗贼的情况，左翊卫大将军宇文述说：“盗贼逐渐减少了。”隋炀帝问：“比以前少了多少？”宇文述回答：“不到以前的十分之一。”纳言苏威悄悄躲到柱子后面，隋炀帝叫他上前询问，苏威说：“我不负责这方面事务，不知道具体数量，但担心盗贼离京城越来越近了。”隋炀帝问：“为什么这么说？”苏威说：“以前盗贼占据长白山，现在已经靠近汜水了。而且以前的租赋、劳役，现在都收不上来，难道不是百姓都变成盗贼了吗！近来看到上奏的盗贼数量都不真实，导致朝廷谋划失误，不能及时剿灭。另外，之前在雁门，陛下承诺不再征伐高丽，现在又要征调军队，盗贼怎么可能平息！”隋炀帝不高兴，结束了谈话。不久到了五月五日，大臣们大多进献珍奇古玩，只有苏威献上一部《尚书》。有人诬陷苏威说：“《尚书》里有《五子之歌》，讲的是夏启之子失国的事，苏威这是对陛下很不恭敬。”隋炀帝更加愤怒。没过多久，隋炀帝问苏威征伐高丽的事，苏威想让隋炀帝知道天下盗贼众多，回答说：“这次征伐，希望陛下不要发兵，只要赦免所有盗贼，就能得到几十万士兵。派他们东征，他们会因免罪而高兴，争相立功，高丽就能平定。”隋炀帝很不高兴。苏威出去后，御史大夫裴蕴上奏说：“苏威太不恭敬了！天下哪里有这么多盗贼！”隋炀帝说：“这老东西诡计多端，想用盗贼威胁我！我真想打他的嘴，还是先忍一忍。”裴蕴知道隋炀帝的心意，派河南平民张行本上奏：“苏威以前在高阳负责选拔官员时，滥用职权授予官职；还因害怕突厥，请求返回京师。”隋炀帝下令调查核实，定案后下诏列举苏威的罪状，将他除名为民。一个多月后，又有人上奏说苏威和突厥暗中谋划叛乱，案件交给裴蕴审理，裴蕴判处苏威死刑。苏威无法为自己辩解，只能叩首认错。隋炀帝怜悯他，赦免了他，说：“不忍心马上杀他。”于是将苏威和他的子孙三代都除名。
秋季七月壬戌日，济景公樊子盖去世。
江都新建造的龙舟完工，送到东都；宇文述劝隋炀帝前往江都，隋炀帝听从了。右候卫大将军酒泉人赵才劝谏说：“现在百姓疲惫，国库空虚，盗贼蜂起，法令无法推行，希望陛下返回京师，安抚百姓。”隋炀帝大怒，把赵才交给司法官员处置，十天后，怒气消解，才释放了他。朝中大臣都不想去江都，但隋炀帝态度坚决，没人敢再劝谏。建节尉任宗上书极力劝谏，当天就在朝堂上被用杖打死。甲子日，隋炀帝前往江都，命令越王杨侗和光禄大夫段达、太府卿元文都、检校民部尚书韦津、右武卫将军皇甫天逸、右司郎卢楚等人负责东都留守事务。韦津是韦孝宽的儿子。隋炀帝写诗与宫中妃嫔告别：“我梦江都好，征辽亦偶然。”奉信郎崔民象因盗贼遍地，在建国门上表劝谏；隋炀帝大怒，先割掉他的下巴，然后将他斩首。
戊辰日，冯翊人孙华起兵造反。虞世基因盗贼太多，请求派兵驻守洛口仓，隋炀帝说：“你是书生，肯定还是胆小怕事。”戊辰日，隋炀帝的车驾抵达巩县。他下令有关部门将箕山、公路两个府的军队转移到洛口仓内，还命令修筑城墙以防不测。抵达汜水时，奉信郎王爱仁又上表请求返回西京，隋炀帝将他斩首后继续前进。抵达梁郡时，郡里有人拦住车驾上书说：“陛下如果执意前往江都，天下就不再是陛下的了！”隋炀帝又将他斩首。当时李子通占据海陵，左才相抢掠淮北，杜伏威驻扎在六合，各自拥有几万部众；隋炀帝派光禄大夫陈棱率领八千宫廷精锐士兵讨伐他们，多次取得胜利。
八月乙巳日，贼寇首领赵万海率领几十万部众，从恒山侵犯高阳。
冬季十月己丑日，许恭公宇文述去世。起初，宇文述的儿子宇文化及、宇文智及都是品行恶劣的无赖。宇文化及在隋炀帝当太子时就侍奉他，隋炀帝很宠爱他，即位后，任命他为太仆少卿。隋炀帝前往榆林时，宇文化及、宇文智及违反禁令与突厥贸易，隋炀帝大怒，要处死他们，已经脱下他们的衣服、绑好头发准备行刑，最后又赦免了他们，把他们赐给宇文述当奴隶。宇文智及的弟弟宇文士及，因娶了公主，常常轻视宇文智及，只有宇文化及和宇文智及关系亲密。宇文述去世后，隋炀帝又任命宇文化及为右屯卫将军，宇文智及为将作少监。
李密逃亡后，前去投靠郝孝德，郝孝德对他不礼遇；又去投奔王薄，王薄也没看重他。李密处境困窘，甚至靠剥树皮充饥，他躲在淮阳的乡村房舍里，改名换姓，聚集门徒教书。郡县官员怀疑他，派人抓捕，李密逃走，投奔他的妹夫雍丘县令丘君明。丘君明不敢收留，把李密转送到游侠王秀才家，王秀才把女儿嫁给了李密。丘君明的堂侄丘怀义告发了这件事，隋炀帝命令丘怀义亲自携带敕书，与梁郡通守杨汪联络抓捕李密。杨汪派兵包围王秀才家，恰好李密外出，得以幸免，丘君明、王秀才都被处死。
韦城人翟让担任东都法曹时，因事获罪应当斩首。狱吏黄君汉觉得他勇猛过人，是个奇才，夜里悄悄对翟让说：“翟法司，当前的天时人事，你也该有所察觉，怎能在监狱里等死呢！”翟让又惊又喜，叩头说：“我翟让就像圈里的猪，生死全听黄曹主安排！”黄君汉当即砸开刑具，放走翟让。翟让再次叩拜说：“我能得到再生之恩，实在幸运，但您怎么办呢！”说着流下眼泪。黄君汉发怒说：“我本来以为你是大丈夫，能拯救百姓性命，所以冒着生命危险放你走，你怎么反而像小儿女一样哭着道谢呢！你只管努力逃脱，不用替我担心！”翟让于是逃到瓦岗山当盗贼，同郡人单雄信，勇猛矫健，擅长使用马槊，聚集年轻人前去投奔他。离狐人徐世积家住卫南，十七岁，有勇有谋，劝翟让说：“东郡是您和我的故乡，很多人都认识我们，不宜在当地抢掠。荥阳、梁郡，是汴水经过的地方，抢掠过往船只、商旅，足够维持我们的开支。”翟让同意，率领部众进入荥阳、梁郡境内，抢掠公私船只，物资充足，归附的人越来越多，部众达到一万多人。
当时还有外黄人王当仁、济阳人王伯当、韦城人周文举、雍丘人李公逸等人，都聚集部众当盗贼。李密从雍州逃亡后，在各路贼寇首领之间往来，向他们游说夺取天下的策略，起初首领们都不信。时间久了，逐渐觉得李密说得有道理，相互议论说：“这个人是公卿子弟，却有这样的志向。现在人人都说杨家要灭亡，李家要兴起。我听说真正的王者不会轻易死去，这个人多次陷入险境却能逃脱，难道他就是那个王者吗！”从此逐渐敬重李密。
李密观察各路首领，只有翟让势力最强，于是通过王伯当拜见翟让，为翟让谋划计策，还前去游说其他小股盗贼，让他们都归附翟让。翟让很高兴，逐渐亲近李密，和他商议事务，李密趁机劝翟让说：“刘邦、项羽都是从平民起家成为帝王的。现在皇上昏庸，百姓怨恨，精锐士兵都在辽东战死，与突厥的和亲关系也已断绝，皇上却还在巡游扬州、吴越，放弃东都，这正是刘邦、项羽奋起的时机啊。凭您的雄才大略，士兵精锐，席卷东西二京，诛杀暴虐的隋炀帝，灭亡隋朝并不难！”翟让推辞说：“我们这些人都是盗贼，只求在草丛中苟且偷生，您说的这些，不是我能做到的。”
恰逢有个叫李玄英的人，从东都逃出来，经过各路贼寇的地盘，四处寻找李密，说“这个人会取代隋朝”。有人问他原因，李玄英说：“近来民间流传的歌谣《桃李章》唱道：‘桃李子，皇后绕扬州，宛转花园里。勿浪语，谁道许！’‘桃李子’，指的是逃亡的李氏子弟；‘皇’和‘后’，都是君主的称呼；‘宛转花园里’，指天子在扬州再也回不来，终将死于沟壑；‘莫浪语，谁道许’，‘许’通‘密’，说的就是李密。”李玄英遇到李密后，就投靠了他。前宋城县尉齐郡人房彦藻，自认为有才华，怨恨没被朝廷重用，曾参与杨玄感的谋反。他改名换姓逃亡，在梁郡、宋郡之间遇到李密，就和李密一起游历汉水、沔水流域，遍访各路贼寇，游说其中的豪杰；返回时，跟随他们的有几百人，房彦藻也作为宾客，留在翟让的营中。翟让见豪杰们都归附李密，想采纳李密的计策，却又犹豫不决。
有个叫贾雄的人，通晓阴阳占卜，是翟让的军师，他的话翟让没有不听的。李密与贾雄深交，让他借助占卜之术劝说翟让；贾雄答应了，心里想好说辞却没来得及说。恰逢翟让召见贾雄，把李密的建议告诉了他，问是否可行，贾雄回答：“这是大吉大利的事，好得没法说。”又说：“您如果自己称王，恐怕未必能成功；如果拥立李密，事情就没有办不成的。”翟让问：“按你这么说，蒲山公（李密）应该自己称王，为什么来投靠我呢？”贾雄回答：“事情有因果关联。他来投靠您，是因为将军姓翟，‘翟’就是‘泽’（沼泽），蒲草没有沼泽就不能生长，所以他必须依靠将军您啊。”翟让信服，与李密的关系日益深厚。
李密趁机劝翟让说：“现在天下大乱，百姓无法耕种，您的部众虽然多，但没有粮仓储存粮食，只能依靠野外抢掠，常常苦于物资不足。如果长期这样，再加上强大的敌军来攻，部众必定会溃散。不如先夺取荥阳，在那里休整军队、囤积粮食，等士兵马匹都养得强壮了，再和别人争夺天下。”翟让听从了，于是攻破金堤关，进攻荥阳各县城，大多攻克。
荥阳太守郇王杨庆，是杨弘的儿子，无法讨伐翟让，隋炀帝调任张须陁为荥阳通守，让他讨伐翟让。庚戌日，张须陁率领军队进攻翟让，翟让之前多次被张须陁打败，听说他来了，非常害怕，准备躲避。李密说：“张须陁勇猛却没有谋略，军队又多次取胜，既骄傲又凶狠，一战就能擒获他。您只需排列阵势等待，我保证为您打败他。”翟让不得已，率领军队准备交战，李密分出一千多人埋伏在大海寺北边的树林里。张须陁一向轻视翟让，摆好阵势前进，翟让与他交战，失利，张须陁趁机追击，追了十多里；李密发动伏兵突袭，张须陁的军队战败。李密与翟让以及徐世积、王伯当合兵包围张须陁，张须陁突破包围逃出；但身边的士兵没能全部突围，张须陁又骑马返回救援，往返多次，最终战死。他部下的士兵日夜哭喊，几天不停，河南各郡县都为之士气低落。鹰扬郎将河东人贾务本是张须陁的副将，也受了伤，率领残余部众五千多人逃往梁郡，不久后贾务本去世。隋炀帝下诏任命光禄大夫裴仁基为河南道讨捕大使，接替张须陁统领军队，调任他镇守虎牢。
翟让于是让李密设立营帐，单独统领自己的部众，号称“薄山公营”。李密管理部众纪律严明，即使在盛夏，他号令士兵时，士兵们都像背负着霜雪一样敬畏。李密自身生活节俭朴素，得到的金银财宝，全部分给部下，因此士兵都愿意为他效力。李密部下的士兵常被翟让的士兵欺辱，但因李密一向纪律严明，没人敢报复。翟让对李密说：“现在物资粮食大致充足，我想返回瓦岗，您如果不想去，就随您去哪里，我从此和您分别。”翟让率领物资粮草向东返回，李密也向西进军到康城，劝降了几个县城，获得大量物资储备。翟让不久就后悔了，又率领军队跟随李密。
鄱阳贼寇首领操师乞自称元兴王，建立年号为始兴，攻陷豫章郡，任命同乡人林士弘为大将军。隋炀帝下诏命治书侍御史刘子翊率领军队讨伐他。操师乞中流箭身亡，林士弘接替他统领部众，与刘子翊在彭蠡湖交战，刘子翊战败身亡。林士弘的军队声势大振，达到十多万人。十二月壬辰日，林士弘自称皇帝，国号为楚，建立年号为太平；随后夺取九江、临川、南康、宜昌等郡，各地豪杰争相杀死隋朝的郡守县令，以郡县响应林士弘。他的地盘北起九江，南到番禺，都被他占据。
隋炀帝下诏任命右骁卫将军唐公李渊为太原留守，任命虎贲郎将王威、虎牙郎将高君雅为他的副将，率领军队讨伐甄翟儿，双方在雀鼠谷相遇。李渊的部众只有几千人，贼寇将李渊包围了好几层；李世民率领精锐士兵救援，在万军之中救出李渊，恰逢步兵赶到，合力进攻，大败贼寇。
隋炀帝疏远皇室亲属，蔡王杨智积常常感到不安，等到生病，不肯请医生诊治，临终前，对亲信说：“我今天才知道能保全头颅死在地下了！”
张金称、郝孝德、孙宣雅、高士达、杨公卿等人在河北抢掠，攻陷郡县，屠杀百姓；隋朝将帅接连战败身亡，只有虎贲中郎将蒲城人王辩、清河郡丞华阴人杨善会多次立功，杨善会前后与贼寇交战七百多次，从未失败。隋炀帝派太仆卿杨义臣讨伐张金称。张金称在平恩县东北扎营，杨义臣率领军队径直前进，抵达临清县西边，占据永济渠扎营，距离张金称的营地四十里，深挖壕沟、高筑营垒，不与张金称交战。张金称每天率领军队到杨义臣营地西边，杨义臣部署士兵穿上铠甲，约定与他交战，却始终不出战。傍晚，张金称返回营地，第二天早上再来；这样过了一个多月，杨义臣始终不出战。张金称认为杨义臣胆小，多次逼近他的营地辱骂。杨义臣于是对张金称说：“你明天早上来，我一定和你交战。”张金称轻视他，不再设防。杨义臣挑选两千精锐骑兵，夜里从馆陶渡过黄河，趁张金称离开营地，就攻入营地袭击他的家属和物资。张金称得知后，率领军队返回，杨义臣从后面追击，张金称大败，与身边的人逃往清河县东边。一个多月后，杨善会讨伐并擒获张金称。官吏在集市上立起木杆，悬挂张金称的头，张开他的手脚，让仇家割他的肉吃；张金称还没断气，仍不停地唱歌。隋炀帝下诏任命杨善会为清河通守。
涿郡通守郭绚率领一万多士兵讨伐高士达。高士达自认才略不如窦建德，就提拔窦建德为军司马，把所有兵力都交给了他。窦建德请高士达留守物资粮草，自己挑选七千精锐士兵抵御郭绚，还假装与高士达有矛盾而叛离，派人向郭绚请求投降，愿意担任前锋，攻打高士达来立功赎罪。郭绚相信了他，率领军队跟随窦建德到长河，不再设防。窦建德突然袭击，杀死、俘虏几千人，砍下郭绚的首级献给高士达，张金称的残余部众也都归附了窦建德。杨义臣乘胜进军到平原，想进入高鸡泊讨伐窦建德。窦建德对高士达说：“纵观隋朝将领，擅长用兵的没人比得上杨义臣。他现在消灭张金称后前来，锋芒锐不可当。请您率军躲避，让他想作战却找不到对手，白白耗费时间，将士疲惫后，我们再趁机进攻，才能打败他。不然的话，恐怕您不是他的对手。”高士达不听，留下窦建德守营，自己率领精锐士兵迎击杨义臣，打了一场小胜仗后，就设宴饮酒，大肆庆祝。窦建德得知后说：“东海公（高士达）还没打败敌人，就骄傲自大，灾祸很快就要来了！”五天后，杨义臣大败高士达，在阵中斩杀了他，乘胜追击，直逼高士达的营寨，营中守军全部溃散。窦建德带着一百多名骑兵逃走，到饶阳时，趁城中不备攻陷城池，收拢士兵，得到三千多人。杨义臣杀死高士达后，认为窦建德不足为虑，就率军离去。窦建德返回平原，收编高士达的散兵，收葬战死的士兵，为高士达举办葬礼，军队重新振作，窦建德自称将军。此前，各路盗贼抓住隋朝官员和士族子弟都会杀死，只有窦建德善待他们。因此隋朝官员逐渐献城投降，窦建德的声势日益壮大，兵力达到十多万人。
内史侍郎虞世基因隋炀帝厌恶听到盗贼的消息，所以各地将领和郡县上报战败、请求救援的奏表，虞世基都修改删减，不据实上报，只说：“不过是些小偷小摸，郡县正在追捕，很快就能消灭，希望陛下不用放在心上。”隋炀帝深信不疑，有时还杖打上报的使者，认为他们谎报军情，因此天下盗贼遍布，郡县沦陷，隋炀帝都一无所知。杨义臣击败、收降河北几十万盗贼，列清单上报朝廷，隋炀帝感叹说：“我之前从没听说过，盗贼竟然多到这个地步，杨义臣收降的盗贼怎么这么多！”虞世基回答：“这些小盗贼虽然多，不足为虑。杨义臣打败他们后，手握重兵，长期在外，这才是最危险的。”隋炀帝说：“你说得对。”立刻下令召回杨义臣，遣散他的军队，盗贼因此再次兴盛。
治书侍御史韦云起上奏弹劾：“虞世基和御史大夫裴蕴执掌要害部门，负责朝廷内外事务，各地上报变故，他们都不上奏。盗贼实际数量很多，却被删减说成很少，陛下因此以为盗贼少，派兵不多，兵力悬殊，前去讨伐都不能取胜，导致官军失利，盗贼日益增多。请将他们交给有关部门治罪。”大理卿郑善果上奏：“韦云起诋毁名臣，所言不实，诽谤朝政，擅自作威作福。”隋炀帝因此将韦云起降职为大理司直。
隋炀帝抵达江都后，江淮地区郡县官员前来拜见，他只问进献的礼物厚薄，礼物丰厚的就破格提拔为郡丞、郡守，礼物微薄的就大多被停职或罢免。江都郡丞王世充进献铜镜屏风，被提拔为通守；历阳郡丞赵元楷进献珍奇美味，被提拔为江都郡丞。因此郡县官员争相搜刮百姓，来充实贡品。百姓对外被盗贼抢掠，对内被郡县征税，生活无以为继；再加上饥荒没有食物，百姓开始采摘树皮树叶充饥，有的把泥土捣成粉末吃，有的煮土块吃，这些东西都吃完后，就开始人吃人；但官府的粮食依然充足，官员都畏惧法令，没人敢赈济百姓。王世充暗中为隋炀帝挑选江淮民间的美女进献，因此更加受宠。
河间贼寇首领格谦率领十多万人，占据豆子樱自称燕王，隋炀帝命王世充率军讨伐，斩杀格谦。格谦的部将勃海人高开道收编残余部众，在燕地抢掠，军队声势再次振作。
起初，隋炀帝谋划讨伐高丽，器械物资都囤积在涿郡；涿郡人口众多、物产丰富，驻扎着几万士兵。此外，临朔宫有很多珍宝，各路盗贼争相前来抢掠；留守官员虎贲郎将赵什住等人无法抵御，只有虎贲郎将云阳人罗艺独自出战，前后多次击败盗贼，威名日益显着，赵什住等人暗中嫉妒他。罗艺准备叛乱，先散布言论激怒部众：“我们讨伐盗贼多次立功，城中仓库里的物资堆积如山，却由留守官员掌控，不肯分发救济贫困百姓，怎么能激励将士！”部众都愤怒怨恨。罗艺率军返回时，郡丞出城迎接，罗艺趁机将他逮捕，率军入城。赵什住等人害怕，都来听从命令，罗艺于是打开仓库，把物资赏赐给士兵，开粮仓赈济贫困百姓，涿郡境内的人都很高兴；他又杀死不服从自己的勃海太守唐祎等人，威名震动燕地，柳城、怀远都归附他。罗艺罢免柳城太守杨林甫，将柳城郡改为营州，任命襄平太守邓暠为总管，自己自称幽州总管。
突厥多次侵犯北方边境。隋炀帝下诏命晋阳留守李渊率领太原道军队，与马邑太守王仁恭一起抗击突厥。当时突厥势力正强，李渊和王仁恭的军队加起来不到五千人，王仁恭很担忧。李渊挑选两千名擅长骑马射箭的士兵，让他们的饮食起居都和突厥人一样，有时遇到突厥军队，就趁机袭击，前后多次取胜，突厥人很畏惧他们。
义宁元年（丁丑年，公元617年）
春季正月，右御卫将军陈棱讨伐杜伏威，杜伏威率领部众抵抗。陈棱紧闭营垒不出战，杜伏威送给他女人的衣服，称他为“陈姥姥”。陈棱大怒，出兵交战，杜伏威奋勇出击，大败陈棱，陈棱仅自身逃脱。杜伏威乘胜攻克高邮，率军占据历阳，自称总管，任命辅公祏为长史，分派将领攻占周边县城，所到之处都被攻克，江淮地区的小股盗贼争相归附。杜伏威常挑选五千名敢死士兵，称为“上募”，对他们待遇优厚，每次作战，都让“上募”先冲锋，战后检查，凡是后背受伤的就处死，认为他们是后退时被敌人击中。作战缴获的物资钱财，都用来赏赐军队。士兵战死的，就用他的妻妾陪葬。因此士兵都拼死作战，所向无敌。
丙辰日，窦建德在乐寿修筑祭坛，自称长乐王，设置百官，改年号为丁丑。
辛巳日，鲁郡贼寇首领徐圆朗攻陷东平，分兵攻占土地，从琅邪以西，向北到东平的地区，都被他占据，兵力达到两万多人。
卢明月辗转抢掠河南，一直到淮北，部众号称四十万，自称无上王；隋炀帝命江都通守王世充讨伐他。王世充与卢明月在南阳交战，大败卢明月，斩杀卢明月，残余部众溃散。
二月壬午日，朔方鹰扬郎将梁师都杀死郡丞唐世宗，占据朔方郡，自称大丞相，向北勾结突厥。
马邑太守王仁恭，收受贿赂很多，却不赈济百姓。郡人刘武周，勇猛且喜欢行侠仗义，担任鹰扬府校尉。王仁恭因刘武周是当地豪强，对他很亲近厚待，让他率领亲兵驻守在官府门前。刘武周与王仁恭的侍女私通，担心事情泄露，就谋划叛乱，先散布言论说：“现在百姓饥荒，路上到处是饿死的人，王太守关闭粮仓不赈济，哪里有当百姓父母官的样子！”众人都很愤怒。刘武周称病在家，豪杰们前来探望，刘武周杀牛摆酒款待，趁机大声说：“壮士怎能坐等饿死！现在粮仓里的粮食都腐烂堆积，谁能和我一起去夺取？”豪杰们都答应了。己丑日，王仁恭坐在厅堂处理事务，刘武周上前拜见，他的同党张万岁等人跟随进入，登上台阶，斩杀王仁恭，拿着他的首级出来示众，郡中没人敢反抗。刘武周于是打开粮仓赈济饥民，向境内各县城发布檄文，各县城都归附他，收编士兵得到一万多人。刘武周自称太守，派使者归附突厥。
李密劝翟让说：“现在东都兵力空虚，士兵没有经过训练；越王杨侗年幼，留守官员政令不统一，士民离心。段达、元文都，愚昧无谋。依我判断，他们不是将军的对手。如果将军能采纳我的计策，天下唾手可得。”于是派同党裴叔方侦察东都的虚实，东都留守官员察觉后，才开始做防守准备，并且派人骑马向江都上奏。李密对翟让说：“形势已经这样，不能不行动了。兵法说：‘先行动就能掌握主动权，后行动就会被别人控制。’现在百姓饥荒，洛口仓囤积了很多粮食，距离东都一百多里，将军如果亲自率领大军，轻装突袭，东都远水难救，又没有防备，夺取洛口仓就像捡起地上的东西一样容易。等他们得知消息，我们已经占领粮仓，发放粮食赈济贫困百姓，远近的人谁会不归附！百万大军，一天就能集结，我们凭借威势养精蓄锐，以逸待劳。即使他们派兵来，我们也早有准备。然后向四方发布檄文，招揽贤才豪杰，为他们谋划计策，挑选勇猛士兵，授予兵权，推翻隋朝，推行将军的政令，难道不是很盛大的事业吗！”翟让说：“这是英雄的谋略，不是我能胜任的；我听从您的命令，尽力办事，请您先出发，我为您殿后。”庚寅日，李密、翟让率领七千精锐士兵从阳城向北出发，翻过方山，从罗口袭击兴洛仓，攻克粮仓；打开粮仓，让百姓随意取用，老弱百姓背着粮食，在路上络绎不绝。
朝散大夫时德睿在尉氏响应李密，前宿城县令祖君彦从昌平前来归附。祖君彦是祖珽的儿子，学识渊博、记忆力强，文辞丰富敏捷，在天下闻名，吏部侍郎薛道衡曾向隋文帝推荐他，隋文帝说：“这是那个写歌杀死斛律明月的人的儿子吧？我不需要这样的人！”隋炀帝即位后，尤其忌恨他的名声，只按常规任命他为东平书佐，代理宿城县令。祖君彦自认为有才华，常常郁郁寡欢，想要叛乱。李密早就听说他的名声，得到他后非常高兴，把他当作上宾，军中的文书檄文，都交给祖君彦撰写。
越王杨侗派虎贲郎将刘长恭、光禄少卿房崱率领两万五千步兵骑兵讨伐李密。当时东都人都认为李密是饥饿的盗贼，只是乌合之众，容易打败，争相前来应募，国子学、太学、四门学的学士以及贵族皇亲都来参军，武器装备整齐，衣服鲜艳华丽，旌旗战鼓盛大。刘长恭等人率领军队在前面，派河南讨捕使裴仁基等人率领所部士兵从汜水向西进军，袭击李密后方，约定十一日在兴洛仓城南会师，李密、翟让完全知道他们的计划。东都军队先到达，士兵还没吃早饭，刘长恭等人就驱赶他们渡过洛水，在石子河西边摆阵，南北绵延十多里。李密、翟让挑选勇猛士兵，分为十队，命令四队埋伏在横岭下等待裴仁基，六队在石子河东边摆阵。刘长恭等人见李密兵力少，轻视他们。翟让先率军交战，失利，李密率领部下横向冲击隋军。隋军又饿又累，大败，刘长恭等人脱下铠甲偷偷逃跑，才得以幸免，逃回东都，士兵战死的占十分之五六。越王杨侗赦免刘长恭等人的罪，安抚他们。李密、翟让缴获了隋军所有的物资装备，威名大振。
翟让于是推举李密为王，给李密上尊号为“魏公”；庚子日，设置祭坛，李密即位，定年号为元年，大赦部众。他下发的文书，称“行军元帅府”；魏公府设置三司、六卫，元帅府设置长史及以下官员。任命翟让为上柱国、司徒、东郡公，也为他设置长史及以下官员，规模是元帅府的一半；任命单雄信为左武候大将军，徐世积为右武候大将军，各自统领本部兵马；房彦藻为元帅左长史，东郡人邴元真为右长史，杨德方为左司马，郑德韬为右司马，祖君彦为记室，其余人封官授职各有等级。于是赵、魏以南，江、淮以北的各路盗贼无不响应，孟让、郝孝德、王德仁以及济阴人房献伯、上谷人王君廓、长平人李士才、淮阳人魏六儿、李德谦、谯郡人张迁、魏郡人李文相、谯郡的黑社、白社、济北人张青特、上洛人周北洮、胡驴贼等，都归附李密。李密全部授予他们官爵，让他们各自统领部众，设置“百营簿”来管理。前来投降的人络绎不绝，李密的部众达到几十万。他命令护军田茂广修筑洛口城，方圆四十里，作为自己的驻地；又派房彦藻率军向东攻占土地，夺取安陆、汝南、淮安、济阳，河南各郡县大多被李密攻陷。
雁门郡丞河东人陈孝意与虎贲郎将王智辩一起讨伐刘武周，包围了刘武周占据的桑干镇。壬寅日，刘武周与突厥合兵进攻王智辩，将其杀死；陈孝意逃回雁门。三月丁卯日，刘武周袭击并攻破楼烦郡，进而夺取汾阳宫，俘获隋朝宫女，用来贿赂突厥始毕可汗；始毕可汗用马匹回赠，刘武周兵力更加壮大，又攻陷定襄。突厥立刘武周为“定杨可汗”，送给他狼头大旗。刘武周随即称帝，立妻子沮氏为皇后，改年号为天兴。任命卫士杨伏念为尚书左仆射，妹夫同县人苑君璋为内史令。刘武周率军包围雁门，陈孝意全力坚守，还趁机出击刘武周，多次击败他；但后来外部没有救援，陈孝意派密使前往江都求救，都没有回音。陈孝意发誓必死守城，每天早晚都到存放诏敕的仓库前俯身哭泣，悲痛感动身边的人。雁门被围一百多天后，粮食耗尽，校尉张伦杀死陈孝意，献城投降。
梁师都攻占雕阴、弘化、延安等郡后，随即称帝，国号为梁，改年号为永隆。始毕可汗送给他狼头大旗，称他为“大度毗伽可汗”。梁师都于是引诱突厥人居住在黄河以南地区，攻破盐川郡。左翊卫蒲城人郭子和因事获罪，被流放到榆林。恰逢榆林郡发生大饥荒，郭子和暗中勾结十八名敢死士兵，攻打郡城城门，抓获郡丞王才，列举他不体恤百姓的罪状，将其斩首，打开粮仓赈济百姓。郭子和自称永乐王，改年号为丑平。尊奉父亲为太公，任命弟弟郭子政为尚书令，郭子端、郭子升为左右仆射。他拥有两千多骑兵，向南联合梁师都，向北依附突厥，还各送一个儿子作为人质来巩固关系。始毕可汗封刘武周为定杨天子，梁师都为解事天子，郭子和为平杨天子；郭子和坚决推辞，不敢接受，始毕可汗就改封他为“屋利设”。
汾阴人薛举，侨居在金城，勇猛无比，家产万万，结交豪杰，在西部边境称雄，担任金城府校尉。当时陇右盗贼兴起，金城县令郝瑗招募到几千士兵，派薛举率领去讨伐盗贼。夏季四月癸未日，正要授给士兵铠甲时，郝瑗设酒款待士兵。薛举和他的儿子薛仁果以及同党十三人，在宴席上劫持郝瑗，发兵反叛，囚禁郡县官员，打开粮仓赈济百姓。薛举自称西秦霸王，改年号为秦兴。任命薛仁果为齐公，小儿子薛仁越为晋公，招集各路盗贼，抢掠官府的牧马。贼寇首领宗罗睺率领部众归附，薛举任命他为义兴公。将军皇甫绾率领一万士兵驻扎在枹罕，薛举挑选两千精锐袭击，攻克枹罕。岷山羌族首领钟利俗率领两万部众归附，薛举兵力大振。他又改封薛仁果为齐王，兼任东道行军元帅，薛仁越为晋王，兼任河州刺史，宗罗睺为兴王，辅佐薛仁果；分兵攻占土地，夺取西平、浇河二郡。不久，薛举就占据了全部陇西地区，部众达到十三万。
李密任命孟让为总管、齐郡公，己丑日夜里，孟让率领两千步兵骑兵攻入东都外城，焚烧抢掠丰都市，到天亮才离去。于是东都居民全部迁入宫城，台省府寺都住满了人。巩县县长柴孝和、监察御史郑飂献城投降李密，李密任命柴孝和为护军，郑飂为右长史。
裴仁基每次打败盗贼，缴获的军资都全部分赏给士兵，监军御史萧怀静不准许，士兵们都怨恨萧怀静；萧怀静还多次搜罗裴仁基的过失，上奏弹劾他。仓城之战时，裴仁基没能按时赶到，听说刘长恭等人战败，又害怕又不敢前进，驻扎在百花谷，加固营垒自卫，还担心被朝廷治罪。李密知道他处境窘迫，派人劝说他归降，用丰厚的利益引诱他。贾务本的儿子贾闰甫在裴仁基军中，劝裴仁基投降李密，裴仁基问：“那萧御史怎么办？”贾闰甫说：“萧怀静就像栖息在树枝上的鸡，要是不知变通，您一刀就能解决他。”裴仁基听从建议，派贾闰甫到李密那里请求投降。李密非常高兴，任命贾闰甫为元帅府司兵参军，兼管记室事务，让他回去复命，还写信给裴仁基，安抚接纳他，裴仁基于是回军驻扎在虎牢。萧怀静秘密上奏告发裴仁基投降的事，裴仁基得知后，就杀死萧怀静，率领部众献出虎牢，投降李密。李密任命裴仁基为上柱国、河东公；裴仁基的儿子裴行俨，勇猛善战，李密也任命他为上柱国、绛郡公。
李密得到秦叔宝和东阿人程咬金后，都任命为骠骑将军。他挑选军中特别勇猛的士兵八千人，分别隶属于四位骠骑将军，作为自己的护卫，号称“内军”，常说：“这八千人足以抵挡一百万人。”程咬金后来改名为程知节。罗士信、赵仁基也率领部众归附李密，李密任命他们为总管，让他们各自统领本部兵马。
癸巳日，李密派裴仁基、孟让率领两万多人袭击回洛东仓，攻克粮仓；随后焚烧天津桥，放纵士兵大肆抢掠。东都出兵反击，裴仁基等人战败逃走，李密亲自率领部众驻扎在回洛仓。东都还有二十多万兵力，士兵们登城守卫、敲击梆子警戒，昼夜不脱铠甲。李密进攻偃师、金墉，都没能攻克；乙未日，退回洛口。东都城内缺乏粮食，但布帛堆积如山，以至于用绢做汲水的绳子，烧布来煮饭。越王杨侗派人运回洛仓的粮食入城，派五千士兵驻扎在丰都市，五千人驻扎在上春门，五千人驻扎在北邙山，设立九个营垒，首尾呼应，防备李密。丁酉日，房献伯攻陷汝阴，淮阳太守赵陁献郡投降李密。
己亥日，李密率领三万部众再次占据回洛仓，大规模修筑营垒壕沟，进逼东都；段达等人率领七万兵力抵御。辛丑日，双方在回洛仓北边交战，隋军战败逃走。丁未日，李密让他的幕府向各郡县发布檄文，列举隋炀帝的十条罪状，还说：“用尽南山的竹子，也写不完他的罪行；放干东海的海水，也冲不尽他的恶行。”这篇檄文是祖君彦撰写的。
赵王杨侗派太常丞元善达从小路穿过贼寇控制区，前往江都上奏说：“李密拥有百万部众，包围东都，占据洛口仓，城内没有粮食。如果陛下尽快返回，李密的乌合之众必定溃散；不然的话，东都肯定会陷落。”元善达说着呜咽流泪，隋炀帝也为之动容。虞世基进言说：“越王年轻，这些话是被人欺骗了。如果真像他说的那样，元善达怎么能来到这里！”隋炀帝于是勃然大怒，说：“元善达这小人，竟敢在朝廷上侮辱我！”随即派元善达穿过贼寇控制区，去东阳催运粮草，元善达最终被盗贼杀死。此后，没人再敢向隋炀帝报告盗贼的情况。
虞世基容貌沉稳，说话大多符合隋炀帝的心意，特别受隋炀帝亲近喜爱，朝中大臣没人能比得上他；他的亲信党羽依靠他，卖官枉法，贿赂公开盛行，他家门庭若市。因此朝野上下都痛恨怨恨他。内史舍人封德彝依附虞世基，因虞世基不熟悉政务，就暗中为他出谋划策，传达皇帝诏令，迎合隋炀帝的心意。大臣们上奏的表疏有违背隋炀帝心意的，都被封德彝扣下不奏报。审理案件、执行法令时，他大多用严厉的条文苛责他人；论功行赏时，却极力削减，使赏赐微薄。所以虞世基的宠信日益加深，而隋朝的政治却越来越混乱，这都是封德彝造成的。
起初，唐公李渊娶神武肃公窦毅的女儿为妻，生下四个儿子，分别是李建成、李世民、李元霸、李元吉；还有一个女儿，嫁给太子千牛备身临汾人柴绍。
李世民聪明勇敢，有决断力，见识和气量超过常人，看到隋朝正处于混乱之中，暗中有安定天下的志向。他待人谦恭，礼贤下士，散发财物结交宾客，都得到宾客的欢心。李世民娶右骁卫将军长孙晟的女儿为妻；右勋卫长孙顺德，是长孙晟的族弟，与右勋侍池阳人刘弘基，都因躲避辽东之役，逃亡到晋阳，依附李渊，与李世民关系很好。左亲卫窦琮，是窦炽的孙子，也逃亡到太原，一向与李世民有矛盾，常常心怀疑虑；李世民特意善待他，让他出入自己的卧室，窦琮这才安心。
晋阳宫监猗氏人裴寂，晋阳令武功人刘文静，曾在一起住宿，看到城上的烽火，裴寂叹息说：“像这样贫贱，又遭遇乱世，怎么才能活下去！”刘文静笑着说：“时局是可以预知的，我们两人志同道合，还担心贫贱吗！”刘文静见到李世民后，觉得他与众不同，就深相交结，对裴寂说：“这不是普通人，豁达像汉高祖刘邦，神武如魏武帝曹操，年纪虽轻，却是平定天下的人才。”裴寂起初不认同。
刘文静因与李密有姻亲关系而获罪，被关押在太原监狱，李世民去探望他。刘文静说：“天下大乱，没有汉高祖、汉光武帝那样的才能，不能平定天下。”李世民说：“怎么知道没有这样的人，只是没人认识罢了。我来探望你，不是儿女情长，而是想和你商议大事。你有什么计策？”刘文静说：“现在皇上南巡江、淮，李密包围东都，盗贼数以万计。在这个时候，要是有真命天子率领并任用这些力量，夺取天下易如反掌。太原百姓都为躲避盗贼迁入城中，我担任晋阳令几年，认识当地的豪杰，一旦召集起来，能得到十万人，您父亲率领的军队又有几万，只要一句话出口，谁敢不听从！凭借这些兵力，趁虚入关，号令天下，不超过半年，就能成就帝业。”李世民笑着说：“你的话正合我意。”于是暗中部署宾客，李渊却不知道这件事。李世民担心李渊不同意，犹豫了很久，不敢说。
李渊与裴寂有旧交，常常一起宴饮交谈，有时甚至通宵达旦。刘文静想通过裴寂劝说李渊，就介绍裴寂与李世民交往。李世民拿出几百万私房钱，让龙山令高斌廉和裴寂赌博，逐渐把钱输给裴寂，裴寂非常高兴，从此每天都和李世民来往，感情日益亲密。李世民于是把自己的谋划告诉裴寂，裴寂答应帮忙劝说李渊。
恰逢突厥侵犯马邑，李渊派高君雅率领士兵与马邑太守王仁恭合力抵御；王仁恭、高君雅作战失利，李渊担心自己也会被牵连治罪，十分忧虑。李世民趁机屏退旁人，劝说李渊：“现在皇上无道，百姓穷困，晋阳城外都是战场。父亲您若固守小节，下有盗贼侵扰，上有严刑责罚，危亡之日不远了。不如顺应民心，发动义兵，转祸为福，这是上天赐予的时机啊。”李渊大惊，说：“你怎能说这种话！我现在就把你抓起来，报官治罪！”说着就要拿纸笔写奏表。李世民从容道：“我观察天时人事已是如此，才敢说这话；您若一定要抓我报官，我不敢逃避死罪！”李渊说：“我怎忍心告发你，你千万不要再多说！”第二天，李世民又劝李渊：“现在盗贼日益增多，遍布天下，父亲您受诏讨伐盗贼，可盗贼能杀得尽吗？说到底，终究免不了获罪。况且世人都传言李氏会应验谶语，所以李金才（李浑）无罪却满门抄斩。您就算能平定所有盗贼，也会因功高震主无法受赏，自身反而更危险！只有我昨天说的办法，才能化解灾祸，这是万全之策，希望您不要再犹豫！”李渊于是叹息道：“我一夜都在想你的话，确实很有道理。如今是家破人亡还是化家为国，都全靠你了！”
此前，裴寂私下让晋阳宫的宫女侍奉李渊，一次李渊与裴寂饮酒，酒意正浓时，裴寂从容说：“二郎（李世民）暗中招兵买马，想举大事，正是因为我让宫女侍奉您，担心事情败露后一起被处死，才出此应急之计。现在众人心意已合，您意下如何？”李渊说：“我儿确实有这个谋划，事已至此，又能怎么办，只能听从他了。”
隋炀帝因李渊和王仁恭不能抵御突厥，派使者要将两人押到江都。李渊极度恐惧。李世民与裴寂等人再次劝说：“现在皇上昏庸、国家混乱，尽忠没有好处。副将打仗失利，却要怪罪您。事情已迫在眉睫，应尽早定计。况且晋阳兵马精锐，宫监府中物资堆积如山，凭借这些举事，还怕不能成功！代王年幼，关中豪杰纷纷起兵，还不知归附谁，您若大张旗鼓向西进军，安抚并占据关中，就像伸手从口袋里取东西一样容易。怎能接受一个使者的逮捕，坐等被灭族呢！”李渊认同，暗中部署军队，准备起兵；恰逢隋炀帝又派使者快马赶来赦免李渊和王仁恭，让他们官复原职，李渊的起兵计划才暂缓。
李渊担任河东讨捕使时，曾请大理司直夏侯端担任副将。夏侯端是夏侯详的孙子，擅长占卜天象和相面，他对李渊说：“现在帝王星动摇，皇帝宝座不安稳，参星对应的区域（晋阳一带）运势正盛，必定有真命天子从这里崛起，不是您还能是谁呢！皇上猜忌残忍，尤其忌惮姓李的人，李金才已死，您若不知变通，必定是下一个受害者。”李渊内心认同他的话。后来李渊留守晋阳，鹰扬府司马太原人许世绪劝说：“您的姓氏在谶语中，名字应和歌谣预言；占据五郡兵力，身处四方交战的要地，举事就能成就帝业，静坐不动就会很快灭亡；请您好好谋划。”行军司铠文水人武士彟、前太子左勋卫唐宪、唐宪的弟弟唐俭，都劝李渊起兵。唐俭说：“您向北招抚突厥，向南收服豪杰，以此夺取天下，这是商汤、周武王那样的壮举。”李渊说：“我不敢与商汤、周武王相比，私下里是为求自保，公开是为平定乱世。你暂且自重，我会考虑的。”唐宪是唐邕的孙子。当时李建成、李元吉还在河东，所以李渊迟迟没有起兵。
刘文静对裴寂说：“先发制人，后发就会受制于人。为何不早点劝唐公起兵，却一直拖延！况且您是宫监，却让宫女侍奉宾客，您自己死了就算了，怎能耽误唐公！”裴寂十分害怕，多次催促李渊起兵。李渊于是让刘文静伪造敕书，下令征发太原、西河、雁门、马邑百姓中年龄在二十岁以上、五十岁以下的人全部当兵，约定年底在涿郡集合，讨伐高丽。由此民心惶惶，想叛乱的人更多了。
等到刘武周占据汾阳宫，李世民对李渊说：“您是太原留守，却让盗贼占据离宫，不早点定下大计，灾祸现在就要来了！”李渊于是召集将领僚属，说：“刘武周占据汾阳宫，我们却无法制服，按罪应当灭族，该怎么办？”王威等人都很害怕，叩拜请求李渊拿主意。李渊说：“朝廷用兵，一举一动都要听从调度。现在盗贼在几百里内，江都在三千里外，加上道路险要，还有其他盗贼占据；用困守城池、不知变通的兵力，对抗狡猾如野猪般突袭的盗贼，必定无法保全。进退两难，该怎么办才好？”王威等人都说：“您既是皇亲又有贤德，与国家休戚与共，若等上奏朝廷再定夺，必定错过时机；关键是平定盗贼，您可以自行决断。”李渊假装不得已才同意，说：“既然如此，首先要集结兵力。”于是命令李世民与刘文静、长孙顺德、刘弘基等人各自招募士兵，远近百姓纷纷前来投奔，十天内就招募了近万人。李渊还秘密派人去河东召回李建成、李元吉，去长安召回柴绍。
王威、高君雅见兵力大量集结，怀疑李渊有二心，对武士彟说：“长孙顺德、刘弘基都是逃避兵役的三侍（隋制，亲卫、勋卫、翊卫为三侍），按罪当死，怎能领兵！”想把两人抓起来审查。武士彟说：“这两人都是唐公的宾客，若抓了他们，必定会引发大乱。”王威等人只好作罢。留守司兵田德平想劝王威等人审查招募士兵的情况，武士彟说：“讨伐盗贼的兵力都归唐公统领，王威、高君雅只是挂名而已，他们能做什么！”田德平也不再提这件事。
晋阳乡长刘世龙秘密报告李渊说：“王威、高君雅打算借晋祠祈雨的机会，对您不利。”五月癸亥日夜，李渊让李世民在晋阳宫城外围埋伏士兵。甲子日清晨，李渊与王威、高君雅一起坐堂处理事务，让刘文静带开阳府司马胙城人刘政会进入厅堂，声称有密报要呈递。李渊示意王威等人取密报查看，刘政会却不给，说：“我告发的是留守官员的事，只有唐公能看。”李渊假装惊讶说：“难道有这种事！”接过密报一看，上面写着：“王威、高君雅暗中勾结突厥入侵。”高君雅捋起袖子大骂：“这是谋反的人想杀我们！”此时李世民已派兵封锁街道，刘文静趁机与刘弘基、长孙顺德等人一起抓住王威、高君雅，把他们关进监狱。丙寅日，几万突厥骑兵侵犯晋阳，轻骑兵攻入外城北门，又从东门穿出。李渊命令裴寂等人领兵防备，却把所有城门都打开，突厥人摸不清虚实，不敢进城。众人都认为王威、高君雅确实是勾结突厥的内奸，李渊于是斩杀二人示众。李渊的部将王康达率领一千多人出战，全部战死，城中人心惶惶。李渊夜里派兵悄悄出城，第二天清晨就让士兵举着旗帜、敲着战鼓，从其他道路返回，装作是援军赶到；突厥人始终怀疑有埋伏，在城外停留两天，大肆抢掠后撤离。
隋炀帝命令监门将军泾阳人庞玉、虎贲郎将霍世举率领关内士兵救援东都。柴孝和劝李密说：“秦地（关中）有山川险阻作为屏障，是秦汉两朝凭借它成就帝业的地方。现在不如让翟司徒（翟让）守卫洛口，裴柱国（裴仁基）守卫回洛仓，您亲自挑选精锐向西突袭长安。攻克京城后，根基稳固、兵力强盛，再向东平定黄河、洛水流域，发布檄文就能平定天下。如今隋朝失去天下掌控权，豪杰争相争夺，不早点行动，必定会有人比我们先入关，到时候后悔都来不及！”李密说：“这确实是上策，我也想了很久。但昏君还在，他手下的兵力仍不少，我部下都是山东（崤山以东）人，看到洛阳还没攻克，谁愿意跟我向西入关！众将领出身盗贼，要是留下他们，肯定会互相争斗，这样一来，大业就会崩塌。”柴孝和说：“既然大军暂时不能西进，我请求从小路去关中观察形势，寻找机会。”李密同意了。柴孝和带着几十名骑兵到陕县，当地山贼归附他的有一万多人。当时李密军队势头正猛，常常攻入东都禁苑，与隋军连续交战。恰逢李密被流箭射中，躺在营中养伤。丁丑日，越王杨侗派段达与庞玉等人连夜出兵，在回洛仓西北摆阵。李密与裴仁基出兵迎战，段达等人大败李密，李密军队死伤过半，只好放弃回洛仓，逃回洛口。庞玉、霍世举率军驻扎在偃师，柴孝和的部众听说李密撤退，纷纷溃散。柴孝和仅带几名骑兵返回李密军中，杨德方、郑德韬都在战斗中战死。李密任命郑飂为左司马，荥阳人郑乾象为右司马。
李建成、李元吉从河东离开时，把弟弟李智云留在了那里，地方官吏抓住李智云，把他押送到长安处死。李建成、李元吉在路上遇到柴绍，就和他一起前往晋阳。