就在蒋英炬回到济南的第二天，建筑队的“驴”等几位工人在墓坑的周边清理时，偶然发现另有一个墓葬坑的痕迹，于是几人开始挖掘起来。当挖到地下两米多深时，果然证明是一座古墓。

根据“驴”等上报的情况，毕宝启、吴九龙、刘心健等再次前往银雀山察看，并证实这确是一座古代墓葬。由于银雀山只有一层薄薄的植被，植被下面就是巨石，墓坑是凿石而成，上面的覆土就显得格外松软，正是这种特殊情况，才让“驴”等工人轻而易举地发现了这座匿藏千年的古墓。考古人员根据此墓墓坑与已发掘的墓葬只有几十厘米之隔的现像推断，二者可能有一定的关系。尽管在发掘前不能确定为夫妻合葬墓，但就这种葬式论，发掘人员把此前的墓坑编为一号，未发掘的编为二号。

当银雀山发现二号墓的消息传出后，新闻界吸取了在一号墓的发掘中未能及时报道的被动教训，闻风而动，以新华社山东分社岳国芳为首的记者采访团，快速赶赴临沂欲进行采访报道。临沂军分区在总结上次教训与经验的基础上，增派一个排的兵力，对发掘现场和出土文物进行严密封锁与守护。刹时，整个临沂古城再度被发现古墓和珍宝的神秘气氛所笼罩，小小山冈又一次涌动起观望的人潮。

对于这座墓如何发掘清理的问题，按照毕宝启、吴九龙的想法，临沂文物组没有发掘的资格，像这样重要的墓葬必须上报，由上一级也就是省博物馆派人主持发掘。而临沂文物组几个人的发掘水平也实在是低了些，即使弄到了发掘权，也不能让他们单独发掘，必须与省博物馆合作。也说是说毕、吴二人不但要参加发掘，还要当这个墓葬发掘的主持人。临沂方面的人员可作为喽啰跟着一起参加，但只能做些零敲碎打的杂活，绝不可主持大政方针。当毕宝启把这个想法跟临沂的尹松若局长说了之后，尹先是板着脸没有表态，后又说和地区的曹副政委商量一下再定。而此时的曹副政委已接到了省博物馆馆长张学和省革委会文化组负责人老金的电话，电话中明言省、地、县三方合作，发掘工作由毕、吴二人主持。曹副政委表示同意这一意见。尹松若局长尽管心中不痛快，但既然曹副政委已同意，自己就很难推翻，又考虑到方方面面的关系，只好忍气吞声，表示臣服。而刘心健、张鸣雪等人一听这百年不遇的好事，正需要自己奋进之时，却被省博来的二人硬硬地斜插了一杠子，顿时火起，表示坚决不当喽啰而要当主持，并像许多年后央视“焦点访谈”栏目主持人郑一丹一样，义正词严地说道：“我们这里有庙有和尚，无需这两个外来的和尚再念经，即是他们跟唐僧一样佛术高深，我们也不去做跟着他傻跑乱蹦的孙猴子，更不当傻里咕咚的猪八戒，我们要做如来佛。即使不把他们攥在掌心中，临沂的事也应让临沂人民自己做主，我们要做这块地盘上的主人，不做他们的仆人，更不做奴隶。如果非要请外来的和尚念经，也要问问人民群众拥护不拥护、赞成不赞成、高兴不高兴、答应不答应。既然我们不答应，趁早让这两个和尚收拾行李回他的济南千佛山千佛洞去蹲着吧。”这种显然不友好的话语传到了曹副政委的耳朵，这位操控当地文化系统局势的军人，当场给予了迎头痛击，并特地传下命令，让临沂文物组有意见的人员立即闭上嘴巴，以大局为重，老老实实做分内的工作，不能乱说乱动，否则严惩不贷，并以军法论处。在这种声威下，刘心健等人只好表示听从命令，暂时将满肚子的怨气憋在心底，默默等待适当的时机再来个总体爆发，给毕、吴二人一点颜色瞧瞧。

就在这样一种暗流涌动、人心纷乱的境况中，经省、地、县三方协调和努力，最终达成共识，发掘工作由吴九龙、毕宝启二人主持，县文物组人员全力配合。由于有了一号墓发掘的经历与教训，在二号墓的发掘中，各个方面都小心谨慎起来。

4月18日下午，在吴九龙、毕宝启的具体指导下，刘心健等文物工作者会同“驴”等几位雇用工人，开始清理墓坑中的乱石和泥土。经过两天的努力，到20日上午，墓室中的棺椁全部显露出来。经测量，二号墓具体地点位于一号墓西侧50厘米，比一号墓低下50厘米，向南伸出50厘米，其他的情况基本相同。整个墓室南北长2.91米、东西宽1.96米，地表至墓底深度为3.5～4米。从墓室的形制上看，二号墓跟一号墓相同，都是在岩石上开凿而成的长方形竖穴，二者均没有发现墓道。墓坑与木椁之间填入了质地细腻的灰白色黏土，也即俗称的白膏泥。墓内椁室完整，其结构与一号墓基本相同，南北长2.41米、东西宽1.56米、通高0.88米，椁框四角以榫相接，椁顶横铺盖板，板分上下两层，上层为六块，东西横铺，每块长156厘米、宽27～55厘米、厚17厘米；下层七块，南北顺铺，每块长218厘米、宽9～37厘米、厚4厘米。与一号墓相同的是，椁内中间置一隔板；不同的是，西侧置棺，东侧为边箱（见图）。有点特别的是，二号墓椁内隔板中部还设有两扇小门，门高23厘米、宽28厘米，上下有框，可以来回启闭。

当例行的测量、画图、照相等一系列工作完成之后，接下来就是起运椁板。就当时的情形而言，整个中国物质极端匮乏，而作为革命老区的沂蒙山区，更是贫穷到了极致。多少年后，据吴九龙回忆，在这次后来震惊中外的考古发掘中，发掘人员竟连一双薄薄的手套都无条件配备，更遑论其他诸如排水、起吊等机械设备。而重达三四百斤的椁板，只有依靠人力抬出3米深的坑外。此时的吴九龙、毕宝启等发掘人员，正弯腰伸臂抓住椁板，瞪眼咬牙向外腾挪。由于墓坑深邃、狭小，抬椁板人员又必须站在椁箱之外，脚下几无立足之地，加之白膏泥粘足，弄得大家寸步难挪。在这样一种糟糕的境况中，云集山冈观看新奇与热闹的各色人等又乱上加乱。一群又一群先后赶来的人们，开始时尚能遵守秩序，但随着人群不断增多，便开始蚂蚁造窝、老鼠争食样在坑口争吵、撕打、嗷嚎起来。先是飞石、土块冰雹一样纷纷坠落墓坑，接着是人称“饭桶”和“酒鬼”的两条在临沂城颇有些声响的著名莽汉，为了争抢最佳的观看点，在呈狗状打斗、撕咬一阵后，随着短暂的惨叫，双双带着满脸血污，稀里哗啦地栽入墓坑。肥胖的“饭桶”头下脚上栽入椁箱一角，身子圆桶样地滚入污泥浊水之中当场昏死过去。啤酒瓶样的“酒鬼”在剧烈地摇晃了三下之后，一个猛子扎于发掘人员抬起的椁板之上，顿时血流如注。发掘人员见状，于惊愕、愤懑之中，被迫扔下死人的椁板，将这尚存一口生气的一“桶”一“鬼”强行拖出坑外。短暂的混乱之后，解放军警卫部队重新控制了局势，并借机加强了警卫，秩序开始有些好转。

墓坑内，十几名发掘人员费了九牛二虎之力，总算将庞大笨重的椁板弄出了坑外，而后一个个喘着粗气，又将注意力移向椁内。这椁内同样布有边箱，其中的器物同一号墓的情况基本相同。由于泥水的浸泡，已显得零乱不堪，但经过小心谨慎地将污水排出，各器物的轮廓基本显示出来。出于对一号墓发现竹简这一事实的考虑，吴九龙、毕宝启等发掘人员初步判断二号墓中也可能有类似的竹简出土，只是数量多少而已。正是基于这样的推断，当椁板揭开，污水排掉后，吴、毕二人首先观察是否真的有竹简随葬。在环视了几圈之后，发现边箱的东南角有些异样，很有可能匿藏着大家梦寐以求的无价珍宝——竹简书。但由于坑内污泥较厚，根本见不到器物的真颜，无法在短时间内作出结论。尽管如此，发掘人员还是在心中暗暗祈祷梦想成真。为了最大限度地保证东南角这批想像中珍宝的安全，吴九龙、毕宝启决定采取涸竭而渔的方法，先从边箱的最北端开始清理，渐次向南推进，最后对想像中的竹简进行合围。

清理工作开始后，吴九龙、毕宝启密切配合，按照严格的考古程序，先后于污泥中提取了若干件陶鼎、陶盆、陶壶、陶俑等陶制器物。在两件形态各异的夹砂灰陶罐中，有一件肩部刻有“召氏十斗”四字。这四个字立即引起了发掘人员的注意，并成为后来研究该墓墓主的重要材料。

在清理过程中，吴、毕等考古人员发现了一个不同于一号墓的特殊现像，这就是出土的陶器几乎分散于整个边箱，由于通高都不超过30厘米，体积相对较小，并未占多大的空间，边箱的大部分空间都被漆木器所占。由于泥水的浸蚀，漆木器有部分脱皮、变形现像，但总体完好，尚称珍品。当清理工作推进到南半部时，接连发现了38枚“半两钱”，钱币的出土，为墓葬的时间断代再次提供了珍贵佐证。

“半两钱”清理过后，面对的就是那堆想像中的竹简。为了一次性提取成功，并做到万无一失，动手前，吴九龙、毕宝启又详细研究了一套清理方案，并按方案做了各种准备。当一切就绪后，具有决定意义的发掘开始了。

只见吴、毕二人身子趴伏在椁室中，手里各拿一把小铁铲轻轻地刮着淤泥。一刻钟之后，第一枚竹简露了出来，紧接着，第二枚、第三枚相继映入二人的视线，约一个时辰，大家期待已久的秘密——32枚竹简全部凸现出来了。这批竹简外观完整，排列有序，静静地躺在椁箱中，似在等待有缘者的相会。想不到有缘者真的穿越千年时光隧道，就在此时此刻与其相会、相识、相知了。趴在椁室中的吴九龙见时机成熟，从刘心健手中接过早就准备好的一块长方形薄木板，慢慢平插于竹简的底部，见各个部位都已妥当，两膀一用力，嘴里喊声：起来吧！”随着“哗”地一声响动，整批竹简被完整地托举起来。此时，所有发掘人员以及围观的人群，早已按捺不住心中的激动，以各种不同的表情和动作抒发着内心的情感。早已守候在墓坑边多时的记者岳国芳等人，抓住这千载难逢的时机，纷纷按动照相机的快门。刹那间，整个墓坑内外灯光闪烁，掌声雷动，一个永恒的瞬间定格于中国考古的辉煌史册中。

边箱清理完毕后，吴九龙、毕宝启又同其他发掘人员一起打开了棺盖。一切都在意料之中，墓主的尸骨早已腐烂，性别难以确定，但从棺内残留的木枕、漆奁和一面铜镜均在棺的南头来推断，可知墓主是以头向正南的方式入葬的。至此，银雀山一、二号古墓全部发掘完毕。接下来要做的，就是对出土器物的整理、保护与研究，并尽快弄清两座古墓的年代、性质、墓主是谁、具有何等身份，以及神秘的竹简都记载了什么内容等等。但就在这些问题尚未来得及动手解决之前，却又枝节横生，突发事变，围绕着竹简何去何从的问题，省、地、县三方展开了一场斗智斗勇的激烈交锋。