1928年

1月与俞章法等商量越狱。因不久移送陆军监狱，未参加此次越狱。

1月15日在特别法庭受审约五到十分钟。法官根据账簿上到上海出差的旅费记录，问到上海所为何事，答与铁路局长同去，组织上海段的工会。再问还做了什么，答没有了。法官即无话可问。此后未再受审。此次审讯是从被捕入狱到1930年底交保释放的三年多牢狱生活中唯一的一次受审。因无证据（被捕前已清理），同案六人中的王汝高、许仲平经审讯后亦被释放。

晚，转押至杭州的浙江陆军监狱甲监五号，与中共浙江省委书记、原黄埔军校教官张秋人、中共浙江省委常委、共青团浙江省委书记徐玮（化名胡公达）、工人同事钟鼎祥、中共杭州地委交通员项志成等关在一间牢房。张秋人当时30岁，“高大个子，右眼有点残疾，戴了一副眼镜，有时穿了一身西装，形象很魁伟” 。

与项志成在狱中见面不到半小时，项被提审，随即听到一阵枪声，项志成被杀。当晚狱中共计8人遇难。当晚为小年夜，即“灶王爷上天”的日子，爆竹之声不绝，在狱中一夜未眠。薛暮桥回忆：

就是我被移押陆军监狱的那天晚上，枪毙了八个人，包括铁路工会的沈乐山、省委军人部长贝介夫等。在法院看守所，我们几个同志可以同俞章法自由来往，在心情上比较轻松愉快。可是到了监狱，第一天晚上就枪毙了八个人。

1月22日腊月三十。一批政治犯被枪杀。牢房气氛压抑、悲痛、紧张。后以世界语写《我在狱中生活的一夜》，记述当晚的经历和悲愤心情（参见1929年1—2月条）。

同一牢房的张秋人依旧埋头读书，读完一本后自言：“他们怎么还不枪毙我呢？”狱友安慰他：“大概敌人证据不足，还不好判决吧？”张笑说：“黄埔军校谁不知道我是大名鼎鼎的共产党员，还要什么证据？早就应该枪毙了。”薛雨霖坐在他旁边，问：“为什么快要死了，每天还认真读书？”张秋人回答：“我们共产党人，活一天就要为革命工作一天，在监牢里不能为革命工作，就要认真学习，岂能坐以待毙！” 这对薛的一生产生深刻影响。他晚年回忆：

在狱中刚巧同黄埔军校政治教官、浙江省委书记张秋人同志同关在一间牢房，从生叙到死别只有短短一个月时间；但他天天为我们讲述革命历史，特别指示共产党员在坐牢时要勤奋学习，为将来继续革命打好基础的言传身教，深深感动了我，使我没有虚度这三年半牢狱生活，至今仍能以毕业于“牢监大学”而自豪，并且把这种埋头学习、埋头工作的习惯留传至今。

2月7日晚，与同一牢房难友听张秋人讲京汉铁路工人“二七”罢工历史。

2月8日下午，与张秋人下棋时，看守传张开庭。张摘下眼镜送给同情革命者的看守，随后大声向难友说：“同志们，今天要同你们分别了，你们继续努力吧！”当日张秋人被枪杀，时年30岁。

3月徐梅君（后名徐雪寒）入狱，与薛雨霖同在甲监五笼。

5月3日同一牢房难友徐玮被枪杀。徐玮等四人临刑时一路高呼：“共产党万岁！”狱中三百余政治犯齐声高唱《国际歌》回应。

夏特别法庭宣判，入浙江反省院特别院，俗称“特别反省院”，不再面临枪杀危险。经钟鼎祥托人打听，得知所判属第三类，即三到五年，到三年即可交保释放。表现不好，再延长半年。再表现不好，延长到五年。

下半年与徐梅君、李政（后名骆耕漠）、杨晟、庄启东等组成世界语学习小组，并任组长。小组成员参加上海世界语函授学校，学校定期寄讲义和练习题。每人做练习后，集中到薛雨霖那里。他选择并修改成标准答案寄回学校。据骆耕漠回忆：

我记得雨霖辅导梅君世界语时一幅老大哥、小弟弟的情景，这个我的印象是很深的。因为自愿学习的难友渐渐多了（我也在内），有时就在饭堂里集体教课。还在饭堂的墙壁上出墙报，后来还把比较有内容、有趣味的短文贴在墙壁上供大家欣赏，有些世界语短文还在文后附上中文的意思。短文的内容大多数是一些民间故事、诗集，其中还略微带一点反帝、反封建的短文。这样国民党当局也只好同意我们这样的自学。而且有些看守员还前来观看墙报。这样就为我们把陆军监狱东监特别反省院改造成为铁窗下的自修大学奠定了基础。

薛雨霖曾将墙报上好的文章合订为一册，出狱后保存了很长时间。

在特别反省院期间认真读书。所读书籍包括：孙中山著《中山全集》、波格达诺夫著《经济科学大纲》、河上肇著《资本主义经济学之史的发展》、韦尔斯著《世界史纲》、王世杰著《比较宪法》、法国《人权宣言》、美国《独立宣言》、摩尔根著《古代社会》、达尔文著《物种原始》等。其中所读最多的是政治经济学，波格达诺夫《经济科学大纲》“反复细读”。 1979年访问美国期间，在回答从什么大学毕业时，称从“牢监大学”毕业。