加洛林家族的起源可以上溯至墨洛温王朝中叶的两位奥斯特拉西亚政治人物:梅斯的阿努尔夫(Arnoul de Metz)与兰登丕平(Pépin de Landen)。根据7世纪中期的圣徒传记,阿努尔夫出身于一个法兰克贵族家庭,成长于奥斯特拉西亚的王室宫廷,后服务于国王提奥德贝尔特二世(Théodebert Ⅱ),“战功卓著”,受命统辖六省。
丕平的家族基业在默兹河下游。提奥德贝尔特死后,613年,阿努尔夫与丕平作为奥斯特拉西亚贵族的代表,支持纽斯特里亚国王克洛泰尔二世(Clotaire Ⅱ),对抗摄政的太王太后布隆希尔德(Brunehilde)。克洛泰尔统一法兰克后任命阿努尔夫出任梅斯城(奥斯特拉西亚王国的首府)的主教,并让他担任王子达戈贝尔(Dagobert)的老师,同时监理王国和宫廷事务。丕平则受命担任王国宫相。宫相(maior domus)一职原本是法兰克内廷的统领,7世纪时逐渐发展为国王与地方贵族之间进行沟通协商的关键人物。623年,达戈贝尔成为奥斯特拉西亚国王。根据7世纪中后期的《弗莱德加编年史》(Fredegarii Chronica),“[达戈贝尔]一直倾听两个人的建议,一位是担任梅斯主教职务的神圣的阿努尔夫,另一位是宫相丕平。正因如此,在他统治下的奥斯特拉西亚呈现出欣欣向荣的气象,各族人等也都对他称颂备至。”
阿努尔夫之子昂赛吉赛尔(Ansegisel)与丕平之女贝加(Begge)联姻,形成了奥斯特拉西亚最具实力的贵族集团。
640年,丕平去世。其子格里莫阿尔德在政治斗争中胜出。达戈贝尔之子、奥斯特拉西亚国王“西吉贝尔特(Sigebert)[三世]宫廷中的宫相职位以及整个奥斯特拉西亚王国的控制权都切切实实地成了格里莫阿尔德的囊中之物”
。格里莫阿尔德说服一直膝下无子的西吉贝尔特过继了自己的儿子,后者得名希尔德贝尔特(Childebert)。西吉贝尔特后来却得子达戈贝尔。西吉贝尔特于656年去世后,格里莫阿尔德扶持希尔德贝尔特登上王位,将达戈贝尔削发为僧并流放至爱尔兰。此举在法兰克贵族中引发了公愤。格里莫阿尔德在一次伏击中被生擒,被押往纽斯特里亚接受审判后被处死。王位回归墨洛温血脉。加洛林时代的史书对此事讳莫如深。唯一的记载来自8世纪上半叶的史书《法兰克人史纪》(Liber historiae Francorum)。书中称格里莫阿尔德伤害了自己的主公,罪有应得。
这次失败的篡位表明,墨洛温王朝的统治合法性在当时仍然难以挑战。
反对阿努尔夫-丕平集团的法兰克政治势力在此后数年占据了上风。格里莫阿尔德之女伍尔夫特鲁德(Vulfetrude)与她担任院长的尼维尔(Nivelles)修院受到迫害。丕平的女婿昂赛吉赛尔亦遭到暗杀。但昂赛吉赛尔之子赫斯塔尔的丕平(Pépin de Herstal)不久之后就成功使家族重返法兰克政治舞台的中心。纽斯特里亚与奥斯特拉西亚当时正在交战。纽斯特里亚宫相埃布罗安(Ébroïn)设计刺杀了从爱尔兰回归后出任国王的达戈贝尔,奥斯特拉西亚宫相伍尔夫阿尔德(Wulfoald)也在不久后被杀。丕平在这种情况下成为奥斯特拉西亚的领袖。丕平的军队虽然在680年的法伊森林(Bois-du-Fays)会战中败北,但埃布罗安在同年遭到暗杀,他的接替者瓦拉托(Waratto)与奥斯特拉西亚修好。瓦拉托的继任者贝尔卡尔与丕平再度开战。687年,丕平在特尔特里战役中决定性地战胜了纽斯特里亚的军队,一举成为整个法兰克王国的实际统治者。
丕平先后在提奥德里克三世(Theuderic Ⅲ)、克洛维四世(Clovis Ⅳ)、希尔德贝尔特三世(Childebert Ⅲ)与达戈贝尔三世(Dagobert Ⅲ)四位墨洛温国王的名义下统治法兰克,共27年。国王作为名义上的政治首脑被安排在贡比涅(Compiègne)、瓦朗谢讷(Valenciennes)等纽斯特里亚王庄中居住。丕平担任奥斯特拉西亚宫相,以“法兰克人的公爵与君主”(dux et princeps Francorum)为号,主要居住于赫斯塔尔和瑞皮耶(Jupille)等默兹河谷的祖产领地。纽斯特里亚宫相的职位被保留,先后由丕平的亲信、巴黎伯爵诺伯特(Nobert)与丕平之子格里莫阿尔德担任。丕平有意识地团结法兰克境内的各种政治势力。与出身科隆地区大家族的普莱克特鲁德(Plectrude)的联姻巩固了丕平在莱茵兰地区的统治。安排其子德罗戈(Drogon)与之前的敌人贝尔卡尔的遗孀成婚,也起到了安抚纽斯特里亚政治势力的作用。丕平的两个儿子德罗戈与格里莫阿尔德还先后被授予“勃艮第公爵”的头衔。先前一直与阿努尔夫-丕平家族敌对、以阿尔萨斯地区为根基的埃提科家族(les Étichonides),此时也服膺于丕平的权威,助其在东部边疆抵御阿拉曼尼人。每年3月的全国大集会是凝聚全国政治认同的重要场合。集会由丕平召开和主持,原则上全体法兰克贵族都会出席,墨洛温国王在会上接受礼物、主持教会与司法事务。当年度的军事行动也在集会上讨论和安排。
根据《梅斯年代记》(第一部分编订于806年前后),丕平所面对的挑战并非来自国内,而是“曾经臣服于法兰克人的各民族,包括萨克森人、弗里西亚人、阿拉曼尼人、巴伐利亚人、阿奎丹人、加斯科尼人和布列吞人。由于之前的法兰克统治者的疏失,他们傲慢地脱离了法兰克人的统治。”
实际的情况可能是,原本臣服于墨洛温家族的周边民族在王权旁落后拒绝服从于宫相丕平。除了曾在西南线对阿奎丹人短暂用兵外,丕平攘外的努力主要针对弗里西亚人。弗里西亚人在当时以莱茵河三角洲地区为根据地,沿斯凯尔特河(Scheldt)向南扩张。丕平的策略是军事震慑与“和平演变”——传播基督教——相结合。他赞助来自英格兰的修士威利布罗德(Willibrord)在弗里西亚人中传教。罗马教宗授予了威利布罗德“弗里西亚大主教”头衔。弗里西亚公爵拉德伯德(Radbod)的女儿在接受洗礼后,嫁给了丕平之子格里莫阿尔德。丕平还帮助威利布罗德在自己的地产埃希特纳赫(Echternach)建立修院,作为向德意志传播基督教信仰的基地。