李密从邯郸脱险后,辗转平原(今山东陵县)、淮阳(今河南淮阳),隐名逃亡。这时翟让占据东郡(今河南滑县),聚集1万多人,李密前往投靠他。有人知道李密是杨玄感的旧将,暗地劝翟让杀害他,于是翟让把李密囚禁在营外。李密通过王伯当拿计策求翟让说:“当今隋主在上昏庸,人民在下怨恨,精兵都在辽东,与突厥断绝和亲,如今隋主巡游南方,抛弃京都,这确实是刘邦、项羽奋起的机会,凭着足下的雄才大略,兵马精良勇敢,席卷二京,诛灭暴虐,那么隋朝就不足灭亡了。”翟让非常敬慕,马上释放了李密,派遣使者劝说各路小贼,所到一处都归降了。李密又为翟让谋划说:“如今兵马已经很多了,但粮食没有出处,假如旷日持久,那么人马困乏,大敌一到,死亡就没有几天了! 不如直取荥阳(今河南郑州),休兵养息,等待兵勇马肥,然后再同别人争天下。”翟让听从,于是攻破金堤关(在今河南荥阳东北),扫荡荥阳各县,都攻下了。