西魏文帝大统十二年(公元546年)二月,凉州(今甘肃张家川)刺史宇文仲和不听调遣,并且占据本州叛反西魏。于是,西魏丞相宇文泰马上派遣太子太保独孤信等前往征讨,把宇文仲和困在凉州。如此同时,瓜州(今甘肃敦煌西)州民张保也杀死刺史成庆,效法宇文仲和据州叛反。而晋昌郡(今甘肃安西东南锁阳城)一个名叫吕兴的人也害死郡守郭肆,带领一郡之民响应张保,共同反魏。
瓜州主簿令狐整,世代居住瓜州,是该州的名门望族。令狐整本人也有胆有识,名望很高,并且对西魏朝廷非常忠诚。对于令狐整,张保表面上十分尊敬,内心却很忌恨,特别是担心他对于朝廷的忠贞而坏他的大事。本来,杀了成庆之后,张保便想接着杀死令狐整,但因畏惧他的名望,怕杀了他惹出乱子,只得暂时放下念头而把忌恨压在心底。令狐整也在演出表里迥异的同一台戏,他心怀朝廷,虽然内心对张保痛恨至极,然而表面上却毫不表露,反倒积极拥护并关心他的事业和命运。到底还是令狐整智高一筹,终于渐渐地骗取了张保一定程度上的信任,而对他稍稍放松了戒意。这时,令狐整便指使亲信去诱骗张保,好让他分出一部分队伍交给自己指挥,以便最终征服张保。令狐整的亲信摆出热情关心州事,积极谋划对策的架式,对张保说:“您与凉州宇文仲和刺史互为唇齿,患难相存,如今西魏大举围攻凉州,凉州势力狐危,独本难支。如果一旦破陷,祸患将转临瓜州,后果不堪设想。为今之计,瓜州应该同凉州同心协力,结为一体,共同对敌。因此,我们应该马上指派一支军队,前往凉州救援。凉州确保无事,瓜州才有真正的安宁。”张保觉得说得有理,当即同意分兵增援凉州。但是,由谁带领这支援军,他却尚未确定人选。于是,令狐整顺势进攻,又派人对张保说:“增援的任务,关系两州命运,而援军主将人选,又至为重要。如果用人不当,则将徒劳兴兵,同样不免祸殃。”这人喧染一番之后,见张保好像也有同感,于是乘机进逼一步,点明他的主题。他说:“令狐整文武兼备,谋略超群,恐怕是堪当此任的最好人选。假若以他为援军主帅,定然能完成使命。”张保对于令狐整虽不无疑虑,但看到令狐整父母兄弟一家老小都在瓜州城中,以为自己实际上掌握着这些人质,令狐整将不敢放肆,于是抛弃疑虑,果真任命令狐整为援军主帅,并让他马上领兵出城。令狐整率军进至玉门郡(今甘肃玉门西北赤金堡稍东),停下了军队,开始实行反攻张保的计划。他召集郡中豪杰,诉斥了张保叛逆罪行,然后驱兵回返,袭击瓜州。回军途中,令狐整顺手牵羊,攻克晋昌,斩杀吕兴。随后全力进攻瓜州。瓜州军民向来敬服令狐整,见他回军瓜州,纷纷背弃张保,献城投降。张保见大势已去,只得暗暗出城,投奔了吐谷浑。这样,令狐整几乎不费气力地占据了瓜州,平息了这里的叛乱。
西魏丞相宇文泰得知瓜州平乱消息,命申徽为瓜州刺史,征召令狐整入朝,拜为寿昌郡太守,封爵襄武县男。