经过一番积极的准备和活动,曹操在灵帝熹平三年(174),亦即他二十岁的那一年被乡里推举为孝廉。孝、廉本是汉代选举官吏的两种科目,孝指孝子,廉指廉洁之士,后来合称为孝廉。西汉武帝元光元年(前134)初,令郡、国人口满二十万的每年推荐一人,不满二十万的两年推荐一人,从此形成制度。士人被举为孝廉后,就可以入朝为郎,内转可以做卿大夫,外转可以补郡国守相,是一条做官的终南捷径。曹操被举为孝廉,表明他在仕途上迈出了坚实的第一步。
不久,曹操即被朝廷任命为郎。接着,经尚书右丞司马防(司马懿父亲)推荐,出任洛阳北部尉,开始走上仕途。尉是县令的副手,负责察禁盗贼,维持治安。汉制,尉大县二人,小县一人,洛阳是东汉的都城,属大县,依例设尉二人,称孝廉左尉、孝廉右尉,俸禄都是四百石。曹操以孝廉为郎,所以得被推荐为洛阳北部尉,负责洛阳北部地区的治安工作。但曹操开始的志向并不在此,而是想做洛阳令,但因尉的职务以孝廉为郎者充任已成定例,所以主管这件事情的选部尚书梁鹄还是根据司马防的推荐,让曹操去做了北部尉。尉的官职虽不算高,但因洛阳在皇帝脚下,权贵不少,很不好治理,所以也不是一份容易对付的差事。
曹操是憋足了劲踏上他这仕途的第一站的。他先将官署的四门修缮一新,做了不少五色大棒,在大门左右各悬挂了十多根,申明禁令,凡是违反治安条例的,不管是平民百姓还是豪强权贵,一律用五色棒打死。几个月后,曹操碰到了一件棘手事。宦官蹇硕的叔父依仗侄子的权势,不把曹操放在眼里,违禁夜行。蹇硕其人壮健而有武略,这时虽不过是一个六百石的小黄门,职位不算高,但因随侍皇帝左右,负责沟通内外和上下之间的联系,手中握有一定权力。其人又深得灵帝宠信,是一个前途未可限量的人物(十余年后,蹇硕被灵帝任命为上军校尉,居统领禁军的西园八校尉之首)。整个宦官集团这时正处于炙手可热的时期。熹平四年(175),宦者得以为令,列于内署,从此诸署都以宦官为丞、令。次年,永昌太守曹鸾上书请求赦宥党人,不仅本人被杀,散在各州郡的党人门生、故吏、父子兄弟也都受到牵连,其在位者都被免官禁锢。气候险恶如此,曹操却全然不顾,依照禁令毫不留情地立即将蹇硕的叔父棒杀。这一招起了杀一儆百的作用,从此“京师敛迹,莫敢犯者”,治安情况大为好转。
曹操这一举动,鲜明地体现了他反对宦官专政的立场,同硬直派官僚敢于不避艰险、果断打击那些横行不法的宦官及其宗亲爪牙的行动是完全一致的。看来曹操虽然出身于宦官家庭,他的顺利出仕除乡里推举外,同这个家庭的影响也不无关系,但他同当时的宦官集团实在并无什么直接的牵连,所以一开始就站在这个集团的对立面去了。
曹操在洛阳北部尉任上所表现出来的才干、勇气和秉公执法、不避权贵、雷厉风行的作风,在政治上掀起了一股冲击波,对他后来所走的人生道路也产生了深刻的影响。曹操对这一段不平凡的生活一直没有忘怀,后来,在他当了魏王后,还特地把推荐他做北部尉的司马防请到邺城来,设宴款待,开玩笑说:“我现在还可以再去做尉吗?”
司马防回答得很巧妙:“过去我推举大王时,大王正适合做尉。”
曹操听了,哈哈大笑。
曹操为维护洛阳北部的社会治安做了一件好事,但却招来了灵帝身边那帮近侍的忌恨。不过他们抓不到什么中伤曹操的把柄,只得采取以退为进的策略,反过来称赞曹操的才干,怂恿有关部门把曹操提升为顿丘令,在熹平六年(177)将曹操调离了洛阳。
曹操任顿丘令的时间不长,但看来也有不俗的表现。建安十九年(214)七月,曹操已经六十岁,带兵南征孙权,派他的儿子曹植留守邺城,行前勉励曹植说:“吾昔为顿丘令,年二十三。思此时所行,无悔于今。”说明曹操对自己在顿丘令任上的表现,是非常满意并引以为自豪的。