下载掌阅APP，畅读海量书库
立即打开
回到莫斯科后，佐尔格本想休整一下，利用空闲时间，根据自己搜集采访到的一手材料，写一部有关中国农业方面的书。不料，三天后总部找他谈话，将他派往日本建立秘密情报小组。当时苏联当局觉得，日本和德国的合作严重威胁到苏联远东的安全。佐尔格前往日本的主要任务是，摸清日本对德国的政策以及日本是否进攻苏联等问题。总部给他指派了两名助手：无线电技术专家克劳森和日本人大崎。按事先计划，佐尔格先行到达日本后，这两人会相继与他联系。
接受了任务的佐尔格，像上次去中国一样，先到柏林寻找合适的掩护身份。自然最合适的身份还是记者，他在中国做记者时在《社会学》杂志和《农业报》上发表的文章产生很大影响，已赢得“熟悉远东事务”记者的声誉。他这次回到柏林，好几家报纸和杂志慕名而来，主动聘请佐尔格担任特约记者。最后，他选定影响颇大的《柏林交易所报》《每日展望》《地理政治》和荷兰的《商业评论》。
1933年7月，一切准备就绪。佐尔格怀揣德国护照踏上了旅途，他先到法国港口瑟堡，从那里乘船经纽约到横滨，于1933年秋天抵达东京。
当时的东京政治气氛十分沉闷，暴力事件时有发生，人人自危。一年前，首相犬养毅在官邸遭一伙年轻军官枪击。就在佐尔格到达东京前两个月，发生了一起企图刺杀全体内阁成员的阴谋事件。日本名义上是由一位神化的天皇统治，但天皇并不能直接行使权力。因此，这个国家实际上由军人和官僚机构控制着。由于日本陆海空三军存在嫌隙，尤其是陆军内部存在着尖锐的矛盾，因而日本的政策和目标往往摇摆不定，在急功近利的浮躁心理驱动下，日本政府甚至会采取轻举妄动的路线。日本人表面上守规矩重礼节，表现得笑容可掬、彬彬有礼，往往叫人看不清他们的本来面目。刚到东京的佐尔格，对日本人保持着高度警惕，但他很快熟悉了环境，对付日本人繁复的礼节也感到游刃有余了。
到达东京的当天佐尔格就拜访了德国大使馆。新任大使还没上任，佐尔格受到使馆人员的热情接待，他们一见如故，谈得非常投机。此时，希特勒刚当上德国总理，大家都急切地想了解国内的情况，得知他刚从德国来，立刻围上来向他提出种种问题。举止高雅、气度雍容的佐尔格博士从容不迫地回答他们的提问，显示出他是个有地位的消息灵通人士。初次见面，佐尔格便给使馆官员们留下深刻印象。通过特殊关系，佐尔格搞到了日本驻华盛顿使馆给日本外务省情报司司长天羽荣二的介绍信。
第二天，佐尔格登门拜访天羽，此人也是日本外务省重要的新闻发言人，红极一时。他每周主持一次记者招待会，只有各国驻东京的大牌记者才有资格被邀请参加。经天羽荣二介绍，佐尔格结识了许多知名的日本记者和驻东京的外国记者。
不久，佐尔格东京间谍小组的核心成员克劳森和大崎陆续来到。他们开始了有组织的情报搜集活动，不定期地交换和分析情报。大崎当时已是日本的名人，而他的一位老同学是近卫的私人秘书，近卫在日本内阁中属强力派，他后来出任首相，两次组阁。
不久，佐尔格东京间谍小组发展了第四名成员宫木佑德，宫木十分善于搜集各种有价值的情报，佐尔格称赞他为搜集情报的“艺术家”。
到东京后，佐尔格开始申请加入德国纳粹党，一年后得到批准。之后，他又提出申请，要求加入德国记者协会。在佐尔格看来，要获取有价值的情报，必须从德国大使馆入手，而要获得大使馆保险柜里的绝密材料，必须博得大使的绝对信任。他有一句话成为著名的间谍名言，流传很广，那就是：不要把手伸向保险柜，而要让保险柜自动打开，让机密材料自动来到自己的办公桌上。
1933年底，德国新任助理武官奥特到东京上任。佐尔格拿着奥特在《每日展望》做编辑的一位密友的信拜访奥特。这位朋友在信上不仅对佐尔格的能力大加赞赏，而且说他在人品和政治上完全可信，作为朋友佐尔格是个不可多得的人。奥特武官在柏林曾阅读过佐尔格给《每日展望》撰写的有关日本的文章，对博学多才的佐尔格印象深刻。当年奥特上校40岁刚出头，佐尔格刚满39岁，年龄相仿的人也容易沟通，加之在一战中，他们都曾经是德国军人，打过仗负过伤，共同的经历使他俩一见如故。
奥特一心想着好好表现自己的才能，有朝一日飞黄腾达。当时，他正因为自己送给柏林的报告由于内容空洞、言之无物，没受到柏林的重视而发愁。佐尔格的光临自然受到奥特的欢迎。从此，奥特在起草致柏林的报告前，总是先同深知日本国情的佐尔格交换意见。佐尔格给奥特提供关于日本军事方面的情报，或者提出关于日本形势的精辟见解，充实了奥特所写报告的内容和分量。报告送上去后，奥特经常受到柏林的表扬。由于佐尔格的帮助，奥特由助理武官升为武官。佐尔格更成了奥特家里的常客。
佐尔格与使馆人员的关系本来就搞得不错，大家看到奥特武官与佐尔格称兄道弟，关系密切，对佐尔格越发另眼看待，因此他在使馆的地位非同一般。
1936年初，佐尔格发现日本的政局正面临严重的危机：日本军部中的青年军官势力越来越大，他们要求有权控制财政收支和干预政治事务，并要求把日本的人力和资源用于战争。他们提出口号：“让那些无能的政客们滚下台去。”这是一群狂热的军国主义分子，法西斯式的好战狂。为达到目的，他们可以不惜一切，甚至采取恐怖手段。佐尔格一直密切注视着这一集团的行动，根据对大崎和宫木搜集到的情报的分析，他得出结论：日本青年军官团正准备发动武力政变。
事发前，佐尔格写了一份相关的分析报告。报告送往莫斯科之前，他决定向德国大使、武官和助理武官通报此事。但他们三人谁都不相信这件事，对佐尔格提供的情报未予重视。
1936年2月26日清晨，东京1400多名士兵在青年军官的指挥下迅速占领了日本政府所属的几幢大楼，包括陆军省城市警察局和国会。同时还袭击了首相官邸和几位显贵的公馆。首相死里逃生，而两名前首相则死于非命。
武装叛乱事件果真爆发，德国大使馆这才想起佐尔格提供的情报，佐尔格的威望陡然大增。
苏联情报机构对佐尔格下达了新的任务：调查德日两国关系的发展状况以及日本对苏联的真实意图。
佐尔格从奥特和德国大使那里获悉：迄今为止，德日之间的秘密谈判尚未取得任何结果，而且谈判一度终止。一天，喝得酩酊大醉的奥特无意中露出了这样一句话：德日之间的谈判又重新开始了。佐尔格警觉地等着他说下去，奥特武官却不再提这件事。同一天晚上，大崎报告佐尔格：英国和法国大使馆里也流传着同样的消息。1936年4月，日本驻德国大使同德国外交部就签订同盟条约一事举行过多次谈判，因日方不愿意立即同德国签订军事同盟，所以谈判难以深入。此外，宫木从日方那里也了解到同样的情报。
佐尔格要求大崎找朋友摸清这些传闻的真实性，自己则从德国使馆方面入手，尽力搜集更多的情报。但是无论从奥特武官还是从大使那里，佐尔格都捕捉不到一点有关谈判的消息。由此推测，很可能谈判对大使馆也是保密的。
正当佐尔格心急如焚的时候，机会来了。一天，奥特把佐尔格叫到自己的办公室，告诉他从日本陆军总参谋部获知，德日谈判正在柏林进行。德国外交部根本没有参加谈判，负责谈判的人，日方是日本驻柏林使馆武官小岛，德方是德国情报局局长卡纳里斯海军上将。奥特让佐尔格帮忙拟一份密码电报给柏林德军司令部，要求提供有关谈判的情况。他还让佐尔格发誓，决不把这件事告诉任何人。佐尔格当然立刻答应保密，很快一封用军用密码写成的电报发往柏林。柏林一时没有答复，奥特又让佐尔格再发一封电报给柏林。德军司令部终于复电了。回电中说，谈判仍在进行当中，结果还没出来。此外佐尔格还了解到许多谈判细节。
柏林派来一位特别信使哈克，他是代表德国外交部和卡纳里斯秘密访问东京的。佐尔格在奥特的办公室里遇到哈克。一看到佐尔格，哈克顿时容光焕发、异常兴奋，张开双臂奔向佐尔格，亲热地说：“你好，佐尔格，还记得吗？当年我和你是同坐一架飞机飞抵日本的。”佐尔格也喜出望外，紧紧握住哈克的手：“当然！见到你很高兴。”他们3人去东京一家著名的大饭店，要了一个单间喝酒叙旧，为哈克来到东京接风。几杯酒下肚，彼此的话就越来越多了，哈克告诉佐尔格，他深受卡纳里斯的信任，曾参与德日谈判，并告诉佐尔格这次东京之行的使命是给大使带来一个秘密指令，要他们在日本制造气氛，以利于达成德日同盟。哈克说，德日谈判的障碍来自日本方面，因为日本人不想过早地同苏联人打仗。但德国希望与日本签订军事同盟条约，造成苏联腹背受敌，减轻德军的压力。为了早日签订军事同盟条约，希特勒甚至同意不再提及原来属于德国，现在被日本人占领的太平洋中一些岛屿的归属问题。为了达成协议，希特勒给军事同盟披上“防共协定”的外衣，即所谓的“同世界共产主义作斗争”，说到底就是为了对付苏联。哈克还说，德国方面相信谈判不会半途而废，他们还会给协定加上一些秘密条文。
这次偶然的相遇帮了佐尔格的大忙。这些重要情报，佐尔格都迅速地报告给莫斯科，经苏联国家安全总局汇报给苏联政府。因此，德日两国签订“防共协定”之前，苏联政府早已掌握情况。
1937年近卫出任日本首相，这对佐尔格的情报小组极为有利。大崎利用同学的关系早已结识近卫。大崎是一位具有敏锐观察力和分析能力的中国问题专家，正是新首相需要的人才。近卫上台后组织了一个“科学协会”作为他的智囊团，他不仅邀请大崎参加，还要他担任中国部的负责人。这样，大崎得以直接参与日本国家政治事务，并很快成了近卫首相的密友和谋士，可对首相直接施加影响。而佐尔格也因此能获得更多的重要机密情报。佐尔格从大崎那里获得了诸如日本内阁同军部政策的统一问题，军需物资生产计划和对华行动计划等。根据对所获情报的分析，佐尔格得出结论：近期内日本不会对苏作战，但它正准备全面进攻中国。
1937年7月7日，卢沟桥事件爆发，中国全面抗战开始。7月10日，日本首相近卫、陆相杉山和外相一起举行记者招待会，佐尔格作为外国记者参加了招待会。
佐尔格想知道德国人对这场战争的态度，他问大使：“我们德国记者是否应该支持近卫？”大使把刚从柏林发来的电报给他看。电文中提到，由于日本对中国的战争牵制了日本的大部分力量，因而日军进攻苏联的可能性就小了。由于日本下不了决心进攻苏联，德国人非常恼怒，对德日签订同盟条约也冷淡了。德国外交部宣称，他们不打算没有报偿而白白奉送礼品（太平洋中一些岛屿）。由于两国各有各的打算，一时无法结成同盟。
第二天，佐尔格从大使那里知道，日本外相要求德国政府停止向蒋介石政府提供武器，并坚持要求德国从南京召回他们的军事参谋人员。
综合上述种种情况，佐尔格向莫斯科汇报：日本人企图在其他一些大国中制造假象，似乎他们打算对苏作战。但实际上近期内日本不可能大规模进攻苏联。
当时在欧洲战争一触即发，斯大林十分担心苏联陷入两线作战的境地，他指示苏联情报部门千方百计弄到日本近期会不会对苏开战的情报。佐尔格的这份情报很快传到斯大林那里，令他一颗悬着的心暂时放松下来。
1938年3月柏林来电，授予奥特武官少将军衔，并任命他为德国驻东京大使。奥特终于如愿以偿。得知这个消息后，他紧紧握住佐尔格的手，表示能有今天的荣誉，与这些年来佐尔格无私的帮助分不开，为此他表示深深的感谢。
1939年，第二次世界大战爆发后，佐尔格已经在德国大使馆有了自己单独的办公室。他负责把柏林发来的官方电讯稿分门别类地加以整理，编成新闻简报，挑选较重要的新闻给使馆高级人员阅读。然后着手编新闻摘要，发给侨居日本的德国人。此外，他还编辑新闻通报，分发给日本的报刊。他的办公室设在使馆的二楼，紧挨着德国新闻社的监听室。佐尔格干这份工作定期从使馆获取报酬，但他不愿进入使馆的正式编制内，这样可以免掉许多不必要的审查。此时，因与奥特大使的特殊关系，德国驻东京大使的保险箱终于向佐尔格敞开了，他可以一连几小时地研究德国第三帝国的绝密材料，有时干脆把材料带回办公室拍照，然后收藏在自己的保险箱里。
1940年，佐尔格以著名作家和记者的身份加入了纳粹党记者协会。之前，德国《法兰克福日报》正式聘请他担任该报驻东京的特派记者。接着，他还被任命为纳粹党日本地区的负责人。佐尔格成了纳粹党的大红人。