1920年年初,李大钊和陈独秀开始酝酿建党工作。此时,北洋军阀政府准备再次逮捕陈独秀,陈决定离开北京前往上海,以避开敌人的迫害。李大钊挺身而出,自愿护送陈独秀从公路出走。李大钊先护送陈独秀到自己的家乡——河北乐亭大黑坨村住了几天,再一同转道天津前往上海。
时值农历年底,正是北京一带生意人前往各地收账的时候。李大钊雇了一辆骡车,从朝阳门出走南下。陈独秀头戴毡帽,身穿一件厨师的背心,油渍满衣地坐在车子里。李大钊跨在车把上,携带几本账簿,印成店家红纸片子。沿途住店一切交涉都由李大钊出面办理,不要陈独秀开口,恐怕露了他的南方人口音。因此一路顺利到了天津,购买外国船票,让陈独秀坐船前往上海。
一路上,他们互相交换了如何改变中国贫穷落后面貌和建立中国共产党的意见,并相约在北京和上海分别活动,筹建党的组织。
1920年3月,李大钊在北京大学组织中国第一个马克思学说研究会,聚集了邓中夏、高君宇、张国焘、黄日葵、何孟雄、罗章龙等一批具有共产主义思想的青年知识分子,为建党做准备。仅过了两个月,会员就发展到60多人,后来还发展到北京以外的地区,最多时达二三百人。他们一面学习马克思主义理论,一面参加社会政治活动,探讨中国革命问题。
1920年8月,陈独秀、李达、陈望道、李汉俊等在上海建立了中国第一个共产主义组织,陈独秀任书记。这个组织的名称,经陈独秀、李大钊商议,决定叫共产党。
10月,李大钊、张国焘、张申府在北京成立共产党早期组织,李大钊为书记。李大钊特地从他每月140元的工资中拿出80元作为党的经费。
1921年7月中旬,共产国际派马林等人为代表来到北京。李大钊同他们进行了交谈,就建党原则、加入共产国际等重大问题交换了意见。
李大钊与在上海的陈独秀遥相呼应,积极活动,扩大宣传,发展组织,推动建立全国范围的共产党组织。“南陈北李,相约建党”成为中国革命史上的一段佳话。
1921年7月,中国共产党第一次全国代表大会召开,宣告中国共产党正式成立。从此中国革命的面貌为之一新。李大钊和陈独秀成为中国共产党的主要创始人。