晋阳宫是隋炀帝的行宫之一,宫中设有正、副宫监各一人。李渊留守太原时,兼任晋阳宫宫监,裴寂是副宫监。二人相会后不久,裴寂在晋阳宫设酒席请李渊赴宴,席间,两个人开怀畅饮,气氛十分融洽。李渊连喝几大杯酒,已经有了五六分醉意。这时,两个国色天香的美人走了进来,上前参见李渊,然后坐在李渊两边劝酒。李渊喝得大醉,由两位美人搀扶着去休息了。
李渊睡了好半天才清醒过来,发现身边竟然睡着两个美人,又听她们自称是宫女,不禁吓了一跳,连忙向外走,结果刚一出门就碰上了裴寂,于是一把扯住裴寂说:“玄真 啊玄真,你这不是要害死我吗?”
裴寂笑着说:“唐公 ,这不过是小事一桩,只要你愿意,大隋的江山也一样唾手可得!”
李渊听了这话,简直吓坏了,说:“你我都是杨氏臣子,怎能口出叛言?这可是灭门之罪啊!”
裴寂说:“识时务者为俊杰 。如今隋主无道,百姓穷困,四方已经群雄逐鹿。将军手握重兵,令郎广交英雄豪杰,何不趁机起义,以图帝业?”
李渊小声嘀咕:“我李家世代蒙受国恩,不敢谋反。”
就在这时,忽然有探马来报:“突厥大军已到马邑,请留守大人赶快回署发兵,截击外寇!”
李渊听了,连忙回府,派副将高君雅率领一万人马救援马邑。高君雅领命而去。
李渊回忆起晋阳宫的事情,一连好几天都寝食难安 。后来,马邑太守王仁恭出战不利,高君雅也打了败仗,李渊十分着急。李世民趁机劝李渊起兵。李渊生气地警告儿子不要胡言乱语,可是他内心却已经动摇了。
几天之后,截击外寇一事再次告急,李世民又来劝李渊:“如今起义势力日益高涨,父亲奉旨讨伐,可这起义军哪能完全消灭呢!不能除尽,您就难免会获罪。况且世人盛传李氏当兴,您已经遭皇上猜忌,就算真的将起义军灭尽,也会功高震主。儿子思前想后,觉得只有兴兵起义才能免祸,请父亲别再犹豫了!”
李渊说:“我仔细考虑了一番,觉得你的话很有道理。现在我们的身家性命都系在你身上,安邦定国的事也都看你了。只是我们的家人还在河东,起义之事还是从长计议比较妥当。”李世民听了,连忙安排得力的部下快马赶赴河东去接家人。
隋炀帝因为李渊剿寇不力,派使者来太原问罪。李渊连忙召集裴寂和李世民商量对策。裴寂说:“古人云:‘先发制人,后发制于人。’眼下形势紧急,您不能再犹豫了。”
李渊还是有些犹豫:“如果起义不成功怎么办呢?”
裴寂回答:“将军多虑!隋朝江山已摇摇欲坠 ,而晋阳兵强马壮,您又有几万精兵,占尽天时、地利、人和,还怕不成功吗?”
李渊仍旧犹豫不决。
裴寂又说:“前几天我让宫女陪侍您,已经是死罪了,如果朝廷两罪并罚,我死不足惜,您岂不是要被诛灭九族?”这一席话终于让李渊做出了起兵的决定。
不久之后,使者到来。李渊推说病重不能起床,让使者先到馆驿休息,打算杀了使者祭旗。就在这时,江都又传来了赦免的旨意,让李渊戴罪立功 。李渊接到赦书,稍微放松了一些,一并款待了两个使者,不再提起兵一事。
裴寂和李世民再三催促,李渊才蓄势起兵,并依李世民之言封刘文静为谋士。刘文静建议李渊假传圣旨,号令太原各地年龄在二十岁以上的青壮年都去东征高句丽,以加深百姓对隋炀帝的怨恨。
几天之后,又有消息传来,说是叛贼刘武周占据了汾阳宫。李世民又来说服李渊:“父亲身为留守,却让贼寇私占行宫,恐怕不等您起兵,大祸就要临头了。情势紧急,还请父亲赶紧布置!”
李渊听了,马上召集将领议事:“突厥还没退兵,刘武周又来侵袭,眼下我们兵力不足,首要的任务是立即招兵买马。刘文静当了多年县令,了解民情,我打算暂时放他出狱,让他完成这个任务,你们觉得怎么样?”众将领齐声说好。于是,李渊将刘文静放了出来,让他负责招兵买马,并派他送信给突厥,表示愿意与突厥讲和,免得腹背受敌。
刘文静出使归来之后对李渊说:“突厥之主始毕可汗说,除非唐公自称天子,否则突厥是不会出兵相助的。”
裴寂听了一跃而起,说:“突厥都想让唐公当皇帝,大事成了。”李渊也转悲为喜,可是表面上却再三推托。
刘文静说:“我们现在急需突厥的战马,如果迟迟不给突厥回信,一旦突厥反悔,我们就会失去一个强有力的援助。”
李渊听了,不好再推托,就与突厥相约一同攻打京师,然后分享得到的利益。始毕可汗很高兴,马上派人送了一千匹战马给李渊。
李渊与突厥交好之后,向各地宣布了起义的消息。西河郡丞高德儒拒不信服。李渊就派儿子李建成、李世民率兵攻打西河。二人合力攻克西河郡后,将高德儒斩首示众,号令百姓各安旧业,然后带兵返回了晋阳。
李渊非常高兴,说:“如果一直都这么顺利,想要夺取天下也不难。”于是决定带兵进关,并自称大将军,然后一边招兵买马一边开仓放粮。一时间,老弱领粮,壮丁入伍,场面蔚为壮观 。李渊按照才能高低给将领们封了官,派裴寂把晋阳宫里储藏的粮食、布帛、铠甲全都移送大将军府,把五百名宫女送到军中服役。
隋炀帝大业十三年(617年)初秋,天高云淡,李渊留小儿子李元吉把守晋阳宫,自己率领三万大军从太原出发,李建成、李世民等随军出征。