斩杀张须陀之后，瓦岗寨名声大振，天下英雄纷纷来投。而李密的个人声望，更是达到了一个顶点。
从此以后，翟让准许李密单独统率一支队伍。李密的队伍军容整齐严肃，凡是发出命令，即使是在夏天，士卒们都像是身裹霜雪一样冷峻地执行。他本人衣食节俭朴素，得到的金银财宝都分发给部下，因此人人都替他卖力。
不久之后，李密又向翟让建议道：“昏君蒙尘，每日只知道寻欢作乐，各地反汉义军竞相起事，全国百姓也正闹着饥荒。您凭着杰出的才干，统率着骁勇强大的军队，应该平定天下，消灭各处敌兵，怎能躲藏在民间苟且偷生，永远当小小的流寇就了事呢？”
李密见翟让并不答话，继续劝道：“现在京师洛阳的士民百姓，里里外外离心离德，京师以外的郡县，政令不能统一。您亲自统率强大的兵众，直接去袭击敖仓，散发粮食救济穷苦百姓，各地群众谁不归附？百万人马，一个早晨就能招集起来，抢先下手制服别人，这个时机不能错失！”
翟让思忖片刻，委婉地答道：“我出身于农民，声望还没到这一步，一定要实现您所讲的目标，就请您率先出兵，我带上各支队伍作为后续力量。夺取敖仓之后，再作商议。”
李密觉得翟让此人无胆无谋，不足以成事，便亲自带领七千名精兵从朝歌向西出发，跨过黄河，直抵敖仓。
此时，前任河南尹何苗刚刚升任车骑将军，而新任的河南尹又尚未到任，整个荥阳都处于较为混乱的状态。因此，李密并没有费多大的力气，就一举攻下敖仓，天下震动。
刚刚逃到荥阳养伤的秦叔宝和高思继立刻组织郡兵奋起反抗，但由于旧伤未愈，二人接连败在单雄信手中。不得已之下，二人只能领残兵退至虎牢关。
夺下敖仓后，李密立刻命人打开仓库，任凭百姓拿走粮食，连老人妇女也背着孩童赶来，路上络绎不绝，多达数十万人。
朝廷闻之，大惊，立刻命大将军何进全权负责此事。
何进派遣其弟车骑将军何苗，率领步兵骑兵二万五千人讨伐李密，却不想被李密一举击败，何苗仅以身免。
于是，翟让推举李密作为首领，称作魏公。
这一年二月，在荥阳县城南郊外设立祭坛，祭天登位，年号称作永平元年，下发的文书落款为行军元帅魏公府。
随后，李密任命房彦藻为左长史，邴元真为右长史，杨德方为左司马，郑德韬为右司马。授予翟让司徒官衔，封为东郡公。任命单雄信为左武侯大将军，徐世勣为右武侯大将军，祖君彦为记室，其余的人各按等级授予官职。
于是，李密以泺口为都城，在环绕泺口四十里的区域里驻扎下来。
不久之后，李密再度拔营，兵进虎牢关。
虎牢关守将裴仁基借助天险之利，以及裴行俨（裴元庆原型）、秦叔宝和高思继三人的勇猛，数次与李密交战，都能取得不菲的战果。
双方在虎牢关下鏖战一月有余，谁也未能取胜。
裴仁基见强敌在前，部队疲劳，便将所获得的军用物资，全部赏赐给士卒，但监军御史萧怀静却反对这样做。
因此，士卒们都十分怨恨萧怀静。