查理在即位之初，首先出兵高卢西南部的阿奎丹，巩固了法兰克王国在那里的统治：随后应罗马教皇阿德里安的求援，率军翻越阿尔卑斯山，进攻意大利北部的伦巴德王国，经过一年多的征战，于774年攻占伦巴德全境，查理便自兼伦巴德国王，并进军罗马，接受教皇赠予的“罗马人长老”的称号。查理对教皇重申其父矮子丕平献土的诺言，实际上却把意大利大部分地区置于法兰克王国的控制中。
从772年起，查理就越过莱茵河东进，深入欧洲中部腹地，进攻日耳曼人萨克森部落所在地区。萨克森人尚未脱离原始部落状态，也从未被罗马帝国马罗马基督教会所统治，他们对法兰克人的侵略奴役进行了顽强持久的抵抗。战争旷日持久，查理多次发动大规模战役，对萨克森人采取大批屠杀、强行迁徙等镇压手段，但是查理更重视以确立西欧的封建制度和罗马基督教会的统治来巩固征服成果。查理曾发布敕令，在萨克森地区普遍建立教堂，要求所有的萨克森人要向教堂交什一税，贡献土地与仆役，参加宗教活动。不尊重教会，不守教规者，均处死刑。不忠于国王，侵犯领主者处死刑，信奉原始宗教习俗者，也罪至处死。经过33年和18次重大战役，查理最终征服萨克森地区，普遍建立了伯爵辖区与教区以实行统治：征服萨克森是西欧封建制度向中欧、东欧地区推进的开端，是欧洲经济、政治、文化重心从地中海沿岸向大陆腹地转移的开端。