汉武帝元光元年(公元前134年),汉与匈奴刚于上年勉强缔结了和亲条约。这时,雁门郡(治今山西右玉南)马邑(今山西朔县)帅聂翁壹通过大行王恢对皇上说:“匈奴刚与汉和亲,贪汉财物,对边塞城邑很亲善友好。可以利引诱匈奴深入,然后围歼。”汉采纳了这一建议,暗派聂翁壹为间谍,潜入匈奴,对匈奴单于说:“我可以斩马邑县令、县丞和吏,率马邑城投降陛下,大王可以全部得到马邑的财物。”单于很高兴,以为聂翁壹的话真实可信,答应和聂翁壹里应外合,夺取马邑。
聂翁壹回到马邑,杀了个死刑犯,将人头悬挂在马邑城门上,好让单于的使者相信。说:“马邑的长吏已被我杀死,单于可急速发兵接应。”单于闻报,率10多万骑,越过边塞,南下进入武州(治今山西左云)要塞。当时,汉派韩安国为护军将军,率30多万大军,埋伏在马邑旁边的山谷中,准备在匈奴军到来时,突袭围歼。但因隐蔽工作露了马脚,引起了匈奴的警觉,使得聂翁壹这条好计成空,让快要进网的匈奴大鱼溜了。