至元五年(公元1268年)九月,元世祖决意下令伐宋,刘整同都元帅阿术督促各路大军围攻襄阳(今湖北襄樊),襄阳凭借汉江水网及强大水军,长期坚守,元军强攻不下。刘整同阿术商议:“我们的步骑两个军种都强大无比,敌人无法抵挡,只有水战我们不如宋军。现在我们应该把他们的长处夺过来,自己练水军,造战舰,如果在水军和战舰方面超过宋人,则事情就可成功了。”世祖认为这意见很对,就同意了。等到使者向朝廷汇报回来时,刘整已造船5000艘,并且天天教士兵练习水战,即使天下雨,也在家画地为船,抓紧练习,不久,就拥有熟练水上技巧的士兵7万人。至元八年(公元1271年)五月,宋军元帅派张顺、张贵率水军支援襄阳,并运送军衣盔甲等,元兵以水军出击,杀掉了张顺,只有张贵和少数人带着物资进入襄阳。至元九年(1272年)三月,襄阳宋守将吕文焕派张贵率水军出城求援,刘整与阿术指挥战舰同张贵水军激战50多里,活捉张贵,破坏了襄阳守军的又一次求援。此后又利用水军割断襄阳和樊城的联系,使襄阳完全孤立,终于迫使吕之焕开城投降。