荥阳之战以后,曹操的兵力已经所剩无几。曹洪与扬州刺史陈温是好朋友,便去找他募兵。他到庐江郡招募到二千精兵,又到丹阳郡招募到几千人,然后赶到龙亢与曹操会师。初平二年(191年),黑山军于毒、白绕等部攻打东郡,曹操带着新招募的部队急行北上,进行支援。东郡太守王肱(gōng),此时恰好不知所踪,袁绍便以盟主的身份,推荐曹操担任东郡太守。
初平四年(193年),曹操为父报仇,征讨徐州牧陶谦。曹仁担任先锋,带领骑兵部队,冲在前面。后来,曹仁负责攻打陶谦的部将吕由,胜利后与曹操合攻彭城。陶谦大败,退守郯城。曹仁跟随曹操乘胜进军,沿着费县、华县、开阳县一路扫荡,攻则必克,克则必屠。徐州大地,到处都是血雨腥风。陶谦派遣部将赶来营救,都被曹仁击退。之后,由于军粮短缺,曹操引军退兵。
兴平元年(194年),曹操再次征讨徐州,不料陈宫、张邈在濮阳联合吕布叛乱。曹操眼见后院起火,急忙回军。曹洪奉令在前方开路,先进驻东平县和范县,为大军征集粮草。曹操与吕布大战一百多天,遭遇饥荒,只得各自撤军,吕布去了山阳,曹操退守鄄城。次年,曹操再起大军,先后攻克济阴、山阳、中牟、阳武、京县、密县等十余座县城。众将无不努力向前,尤以曹洪立功最多,被任命为鹰扬校尉,又迁任为扬武中郎将。
建安元年(196年),曹操平定颍川郡,在那里屯田种粮。同年,曹操到洛阳迎接汉献帝。汉献帝迁都许县后,曹洪以武将的身份,担任谏议大夫。曹仁也被任用为广阳郡太守,但曹操不肯让他外任太守,又改任他为议郎,把他留在身边管理军队。
建安二年(197年),曹仁率领部队跟随曹操征讨张绣。曹操围攻宛城之时,曹仁分兵攻打附近的县城,俘虏、收编了三千多人。而后曹操撤退,张绣尾随追击。当时情况非常危急,全军都陷入恐慌之中。只见曹仁奋然而起,慷慨激昂地激励士兵,大振士气。受到鼓舞后,曹操抖擞精神,最终率军击退张绣。
张绣被打败后,曹操派曹洪率军攻打刘表。曹洪在舞阳、阴叶、堵阳、博望等县击败刘表的部将,因功被升任厉锋将军,封国明亭候。