1927年3月,中共北方区委领导北平南苑农民暴动,彭雪枫被指派参加南苑暴动。暴动失败后,张作霖在北平实行白色恐怖,疯狂屠杀共产党人和革命群众,北平党组织遭到破坏。彭雪枫遂于4月底离开北平来到天津,寄住在伯父彭延庆家里,这样也便于开展党的秘密工作,往返于北平和天津之间。
为了摆脱经济和生活上的困境,他开始埋头“整理”和“改削”在绥远时所作的塞外游记旧稿,并投诸报刊,过了近半年的“卖文章”的日子。他写的长篇散文《塞上琐记》,连续发表于《国闻周报》,生动地描写了塞外风光、风俗人情,抒发了他热爱祖国的壮志豪情。
他这样整天东奔西走,冒着风险来去无常,又无固定的工作,因此,引起了伯父彭延庆的误解。一天,彭雪枫刚从外面回来,伯父见到他就说:“修道,你整天不着家,在外面跑去跑来的,现在世道这么乱,多危险啊!你还是找个安定的工作,挣一点钱来接济一下家庭。”彭雪枫听后感到很愧疚,自住到伯父家里以来,很少给家里钱,全靠着伯父养活自己。但一想到那么多党的同志连自己的生命都不顾,不都是为了更多的家庭吗?他耐心地对伯父说,“革命为的就是顾千家万家”,“既要革命,就不怕危险”。
1928年仲秋,彭雪枫和赵子众、牛连文、张维瀚等一起,考入开封训政学院政治专修班学习。该院院长是原育德中学的校长余心清,学员多为政界旧人员,像彭雪枫等革命青年只占少数。
1929年5月,原西北军将领、河南省主席韩复榘投靠了蒋介石,一时间风云突变,河南处在反动统治之下,训政学院停办,彭雪枫等革命青年随时有被捕的可能。6月,彭雪枫怀着惆怅的心情回到北平。9月,彭雪枫考入了北平民国大学文学系。但因经济困难,他未能入学。9月中旬的一天,中共组织鉴于彭雪枫目前的生活困难情境,决定让他仍然回天津。于是,彭雪枫再次到伯父的家中住下。没过几天,由于地下工作的需要,彭雪枫搬到天津的法租界里住下,与五六个革命青年同住一起。
一天,彭雪枫有事外出,其他几名青年突然遭到逮捕。为了彭雪枫和天津中共地下组织的安全,中共顺直省委决定让彭雪枫立即启程,离开天津前往烟台,到山东军阀刘珍年部做兵运工作。
9月底,彭雪枫抵达烟台,与中共烟台军事特别支部接上关系后,被委任为刘珍年部政训处宣传股股长。彭雪枫在烟台期间,一方面以政训处为阵地,利用各种机会向青年军人宣传革命思想,发动士兵与侵吞薪饷、胡作非为的军官作斗争;另一方面还担任烟台平民夜校女校教员,按党组织的要求开展社会宣传工作、发展党的组织。
彭雪枫是个注重教学方法的人,他的开场白一下子就引发了女工们的兴趣。
“我叫彭修道,和诸葛亮是老乡,南阳卧龙岗人是也。今后我将和大家共同学习文化知识。大家都知道诸葛亮战曹操、斗孙权、平西川、战司马,终助刘备三分天下有其一。他的‘诸葛草庐’就和我家邻近。只是我的智慧和这位大智大勇的先贤相差很远,我们以后学习中有讲得不到之处,你们尽管批评……”
彭雪枫等共产党人在烟台刘珍年部的活动,引起了国民党特务的注意。蒋介石接连密电刘珍年,指责其“包庇共产党”,令其“必须即时严加禁绝”。彭雪枫等人遂被迫离开刘珍年部,被中共烟台特支派往烟台近郊的福山古现一带,以教小学做掩护进行农运工作。他以小学教员的身份经常深入农村,了解农民情况,创办农民夜校并以此为阵地,组织农民学习,教育农民提高觉悟,发动农民进行斗争。他编写的一首民歌便在这一带广为流传:
新军阀,瞎胡闹;
贴标语,喊口号;
救国救民做不到,
伸着巴掌把钱要。
此外,彭雪枫还利用地主向农民催交地租之机,秘密建立农会,号召农民起来反抗地主的剥削,抗租抗税。
尽管彭雪枫在古现开展地下工作时小心翼翼,但也引起了当地土豪劣绅的警觉,他们借助手中的权力,迫使学校“辞退”了彭雪枫。
1930年2月间,彭雪枫离开烟台,乘船抵达上海,由中央军委另行分配工作。彭雪枫到达上海后,从2月至4月,受命以中央军委巡视员的身份到江苏省丹阳、镇江一带巡视,也做争取土匪武装的工作。