1925年10月,经蒋介石批准,16岁的蒋经国和其他90个年轻人一起赴苏。当年10月1日,蒋介石日记云:“复谕经儿,准其赴俄留学。”蒋经国到达苏联后,进入莫斯科中山大学。12月,加入中国共产主义青年团。
1926年2月,蒋经国写信给父亲,批评来信“不脱离宗法社会的语意”。蒋介石不以为忤,回信表示:“你的进步我以为很大,你的思想、语意统统是对的。”信中还说:“中国革命如能成为世界革命之一部分,这样革命才有意义,否则不能说是革命。”这以后,蒋介石得悉儿子已经加入共青团,写信勉励他以共产主义为事业,函称:“我虽然未加入共产党,而为纯粹的国民党员,但我自认我一生的事业是在革命。所以我们父子两人始终是立在革命战线奋斗的。我对于你,名称虽为父亲,在革命上说起来是一个同志,我实在是满足的。”6月,蒋经国写信向父亲报告学习情况,蒋介石觉得信写得不错,“文理甚有进步”,高兴之余,特别将信递给张静江(国民党中央执行委员会常务委员会主席)阅读。不久,北伐开始,蒋经国以《中国北伐的目的及其最后的成功》为题,在莫斯科群众大会上演讲,受到热烈欢迎。此后,他被中山大学的联共支部书记视为“有训练的马克思主义者”。
转眼就到了1927年。这年2月1日,蒋介石致函蒋经国,鼓励他毕业后“仍在苏联继续学习”。但是进入4月,蒋介石却通过白崇禧在上海解除工人纠察队武装,发动反共政变。这对于蒋经国宛如晴天霹雳,他马上带头鼓动学生到莫斯科共产国际大厦前游行,并在报纸上公开发表文章谴责:“蒋介石是我的父亲和革命友人,现在却是我的敌人。几天前,他已经不再是革命党,成了反革命分子。他对革命说尽好话,时机一到却背叛了革命。”
自然,蒋经国的这一表态得到了苏共和在莫斯科的中共党人的充分肯定,一度被他的同学们称为“敬爱的人”。不过,几个月之后,他又在秘密鉴定中被认为“政治上不坚定,犹豫不决,需要长期特别的政治监视”。
据蒋经国自述,他从中山大学毕业后,曾申请归国,但未被批准,他便申请加入红军。1928年,蒋经国以“最优秀的五名学员之一”的优异表现,被保送进入列宁格勒苏联红军军政大学。在演习中,他曾担任过连长、团长及师参谋长等职。1930年3月28日,被批准成为联共候补党员。同年7月,蒋经国从军政大学毕业,被派到工厂实习。1931年,因在公开会议上批评中共驻共产国际代表王明,被送至莫斯科郊外的石可夫农场劳动。次年,苏共又应王明要求,将蒋经国送到西伯利亚的一座金矿做工。1932年11月,蒋经国到乌拉尔山附近的一座重型机械厂当技师,后升任助理厂长和当地《重工业报》的主编。1935年3月,他和同厂的女工芬娜·伊巴提娃·瓦哈瑞娃结婚。同年12月,长子蒋孝文出生。
蒋经国有过回国的念头。1934年12月,苏联内务部乌拉尔分部主任李希托夫找蒋经国谈话,告诉他:“中国政府要我把你送回去。”当蒋经国为之精神一振时,李希托夫又告诉他:“最后决定权当然在我们。我现在要你写份声明给外交部,告诉他们说你不愿意回国。”后来,蒋经国奉命和中国大使馆的一位书记谈话,蒋经国不敢透露想回国的愿望。
1935年1月,共产国际将蒋经国召到莫斯科,王明告诉他,中国最近谣传他在苏联被捕,要他写信回国,告诉母亲,自己在苏联完全自由。王明拿出了一份代拟的信件,蒋经国觉得并非己意,拒绝签名。后来苏联内务部长和王明商量,同意蒋经国另写一信,蒋经国仍然不敢透露自己想回国,只含蓄地写了一句:“我没有一天不想吃点儿久未尝到的家乡小菜。”从莫斯科回到乌拉尔后,蒋经国曾经通过一个名叫陈甫玉的华侨帮他带一封信给蒋介石。一个月后,陈甫玉的妻子告诉蒋经国,陈甫玉在距离中苏边境只有几里的赤塔被捕。此后,蒋经国曾一度被取消候补党员资格。苏联有关方面的结论是:“我们不要忘记,蒋经国是蒋介石的儿子。”
1936年12月,蒋经国申请成为联共正式党员。他在自传中表示,如果将来有机会碰到蒋介石,要“给他和他的党羽严酷的惩罚”。同月15日,蒋经国被接受为第四类布尔什维克党员。所谓第四类,指的是“人民敌人”的子女。这说明,他是被作为特殊情况处理的。