唐武德元年(公元618年)九月,李密兵败,魏征随李密来归降高祖,到京师后很久没有被重用,自己请求安抚山东,于是授予秘书丞,乘着驿车到了黎阳(今河南浚县),当时李勣还在为李密守卫,魏征给李勣一封信说:“当初魏公起来造反,挥臂大声呼喊,四方响应,人数达几十万,威名覆盖有半个天下,在洛口攻破王世充,在黎山摧毁宇文化及,然而一次惨败就不再振兴,于是归顺唐朝,是因为知道天命而所以归顺啊,如今您处在必争之地,不早点为自己谋划,就大事完了!”李勣得到信,于是决定派使者表示归顺唐朝,并且开仓运粮,送给淮安王李神通的军队。