公师藩被苟晞杀死后,他的部将汲桑逃回了以前的据点牧马场。汲桑是个猛将,有一定的号召力,不久就又聚拢了一批人,自称大将军,宣称要为老主人成都王司马颖报仇。他以羯人石勒为先锋攻打附近郡县,石勒所向披靡,因功被封为代讨虏将军,之后受命率兵进攻邺城。
邺城里的仓库已是空空如也,镇守邺城的司马腾虽在府中积累了巨额财富,为人却刻薄寡恩,部下因此对他多有抱怨。等到汲桑大军到来,司马腾慌了神,为了鼓舞士气,他赐给将士每人几升米兼一丈左右的布帛,但为时已晚,这时候大家已经对他离心,不愿意为他卖命了。
永嘉元年 (307) 五月,汲桑率兵重创魏郡太守冯嵩,长驱直入攻下邺城。司马腾顾不上收拾金银财宝了,单人匹马一路狂逃,但仍被汲桑部将李丰追上杀死。
汲桑起出成都王司马颖的棺材,趴到棺材上放声痛哭,然后命人把棺木装到车上,做事前都要向司马颖棺材祷告。为了报复,他命人一把火烧了邺城王宫,大火连续燃烧十天不灭。邺城王宫从袁绍时期开始经营,又经曹家精心建造,共历百余年,如今就这样毁于一旦。烧了宫城还不够,他又命令屠城,杀了一万多官员百姓,然后在城中抢掠满足才扬长而去。
汲桑命石勒为先锋,率部队攻打兖州。太傅司马越没想到汲桑的战斗力如此强大,内心十分焦虑,匆忙命兖州刺史苟晞和将军王赞剿灭汲桑。
苟晞,字道将,出生年月不详,河内郡山阳县 (今河南修武县) 人。他是晋朝数得着的猛将了,年轻的时候曾经在司隶部做事,深受司隶校尉石鉴的器重。东海王司马越为侍中的时候引荐他为通事令史 ,后又多次升官,直至目前的兖州刺史。
这次石勒和苟晞遭遇是针尖对麦芒,两人斗得旗鼓相当,大大小小的战役打了不下三十次,互有胜负,难分伯仲。永嘉元年 (307) 七月一日,太傅司马越亲自率兵驻屯官渡 (今河南中牟县) ,支援苟晞。苟晞的队伍得到鼓励,更加奋勇,一鼓作气打败了石勒。汲桑见势不妙率众撤退,苟晞乘胜追击,一连踏破汲桑八个营垒,杀死一万多人。汲桑与石勒等被逼得走投无路,准备去投奔汉赵,中途又被冀州刺史丁绍截住,一行人如丧家之犬,毫无斗志,再败,汲桑和石勒也被打散。汲桑又逃回牧马场,石勒则逃向了乐平 (今山西昔阳县) ,二人此生未能再相见。
司马越率得胜之师返回许昌,论功行赏,加封苟晞为抚军将军,兼都督青州、兖州诸军事;加封丁绍为宁北将军,并监冀州诸军事。二人都被授予符节。
除了善于用兵,苟晞还精力充沛,做事效率高,很多事到他手里都能化繁为简,但他为人严酷,执法严苛,在人们看来很不近人情。他的姨妈曾来投靠,苟晞很尊重她,且十分周道地侍奉赡养她。一日,姨妈向苟晞说情,想让自己的儿子在他手下做个将领,苟晞刚开始不同意,说:“我治军一视同仁,从不枉法,我是怕您日后后悔啊!”可姨妈坚持,不得已,苟晞让她儿子担任了督护。
姨妈的这个儿子不争气,作奸犯科,触犯了军法,苟晞手捧符节把他杀死,姨母叩头求情都不为所动。之后苟晞换上素服前去吊唁,哭道:“杀你的,是兖州刺史;来哭弟弟的,是你的表哥苟道将。”