第一个中国驻日外交使团由驻日公使何如璋、副使张斯桂率领。39岁的何如璋在翰林院任侍讲,他由在中国外交界有着举足轻重影响的李鸿章推荐出任此职,但并无外交经历。李鸿章认为何如璋是一位不寻常的翰林。据说,何如璋无论是去上海或天津,总要拜访传教士,以便了解西方国家 。
张斯桂来自宁波一个富庶的士绅家庭,曾做过生意,是最早将轮船用于商务活动的人。在太平天国起义期间他家的船多次被清军征用,由此与政府内的高层官员建立了联系。1863年他纳赀捐官,入曾国藩幕府,时曾国藩正在安庆指挥对太平军作战。张斯桂曾为丁韪良翻译的惠顿的《万国公法》作序,该书1864年在中国出版,次年在日本出版。因而,对日本人来说张斯桂的名字并不陌生,他抵日时已是61岁高龄 。
黄遵宪的职务是参赞,仅次于副使 ,其职责近似于地方政府中的文牍。他以何如璋的名义给总理衙门和李鸿章写了大量的信函。廖锡恩是通讯秘书,负责抄写黄遵宪起草的文稿,沈文荧负责处理书籍和文牍。使团的大多数成员与驻日公使和副使一样,来自广东和浙江。除东京使馆的雇员外,还有驻横滨和神户的领事。有些外交官的家属也随他们来到日本。黄遵宪带着弟弟遵楷、亲戚梁居实和黄锡铨;何如璋带着弟弟和13岁的儿子;张斯桂带着孙子,但无一人带妻子、女儿或家庭中的任何女性 。
在这批外交官中,还有一位叫麦嘉缔(Dr.Divie Bethune McCartee, 1820—1900)的美国人,他在中国已生活了二十余年,他原本是美国北长老会的传教医师,后来历任美国驻宁波、芝罘(烟台)的领事以及驻上海的副领事。1872—1877年,麦嘉缔在东京开成学校教书,这是一所由政府创办的外国语学校,至1880年5月他在中国驻日使馆任英文翻译 。
1877年11月27日,中国使团乘“海安”号兵轮驶出上海港,30日抵达长崎。日本鸣放21响礼炮欢迎他们,并按西方的礼仪来迎接他们,何如璋特地在日记里记下这件事。他们在长崎停留了三天,受到当地华侨的热烈欢迎。长崎有一千多名华侨,有些人声称是明王朝效忠者的后代,清初满人入关时一些效忠明朝的人来此避难。但大部分华侨是来自1859年中国对西方商人开放的通商口岸。华侨社区的领导人在他们豪华的寓所设宴款待来自故土的外交官,席间他们向宾客通报了中日贸易的现状、日本人的社会习俗及近来西乡隆盛发起的叛乱 。
“海安”号在去横滨途中经平户、下关、松山,乘客们欣赏着沿海地区的风情。此时,何如璋注意到这个地区是著名历史学家赖襄的故乡,他的著作在中国被视为杰作。当中国使团在神户登岸时,他们及一大群围观者在此观赏了当地华人为他们举行的古典欢迎仪式。神户城内张灯结彩,彩旗飘扬,欢迎来自中国的宾客。中国使团离开神户,到大阪、橿原、凑川作短暂旅行,参观历史遗迹。他们对当地的神社特别感兴趣,其中有一个是供奉丰臣秀吉(1536—1598)的,中国人认为丰臣秀吉是一个恶魔,因为他试图征服朝鲜和中国。另一个神社供奉的是菅原道真(845—903),他是一个笃信儒学的“学者型政治家”,被人视为天才。最后一个神社供奉的是楠正成(?—1336),他是忠臣的象征。楠正成的故事给黄遵宪留下了极深的印象,黄遵宪将他比作宋代的岳飞。12月16日使团抵达横滨,受到当地华侨的热烈欢迎 。
尽管黄遵宪等驻日使馆成员在北京时从李鸿章和日本驻华公使那里分别得到了详细和扼要的介绍,但是他们还是为日本在外交礼仪方面全盘西化感到震惊。12月28日,何如璋、张斯桂、黄遵宪觐见日本天皇并递交国书。他们发现天皇身着西服,仅有三名官员出席作陪。他们注意到,这个在赤坂临时皇宫内的觐见厅很小,几乎没有什么家具,更无装饰。仪式短暂且不正规,使馆成员向天皇鞠躬并递交国书,天皇将国书递给一旁的官员,然后从口袋取出一份事先准备好的文稿,致欢迎词。中国人觉得他的嗓音铿锵而洪亮,但一句也听不懂。下午,他们被介绍给三条实美、岩仓具视、大久保利通及其他政府官员。1878年元旦,何、张、黄与西方外交官一道再次被邀请到皇宫。新年的欢聚也非常简朴,只是互相恭贺和朗读贺电。在外务大臣举行的宴会上吃的是西餐,演奏的也是西方音乐 。在这种正式的场合,中国外交官身着绸缎制成的鲜艳官服,与西方外交官身穿以黑白色为背景的西服形成了巨大的反差 。
中国使团租借了位于东京芝附近的一座佛寺作为办公地点及雇员的住房。约在一年后他们迁到了麹町区(现永田町)的一座大型建筑中 。使馆成为中日文化交流的中心,并吸引了许多日本文人。由于他们是首批来自中国的“学者型官员”,日本文人对他们格外热情。黄遵宪及同事们将他们与日本文人之间的文化交流视为使馆工作的重要组成部分,他们乐意与日本人交际,并花费大量的时间用古汉语与这些来访者切磋。