Fiel a su afición a ser de papa, Carlomagno organizó la iglesia en los territorios que le estaban sujetos, por cierto de manera acertada. A él se debe la creación de las diócesis de Tréveris, colonia, Maguncia, Salzburgo, Paderborn, Munster, etc. Instituyó el mandato de pagar el diezmo a la iglesia para su sostenimiento. El convocaba los concilios y los presidía y hasta indicaba a los teólogos de la corte los temas a estudiar y a redactar; así lo hizo por lo menos con los ya citados Libros Carolingios, con lo que, como queda dicho, quizo enseñar teología al papa Adriano I, que le había enviado las conclusiones del segundo concilio de Nisea celebrado en el 787, en el cual fueron condenados los iconoclastas, a los que Carlomagno, por conveniencias políticas, defendía.
Carlomagno pasó a ser el arquetipo de emperador que primaría durante toda la edad media: Una autoridad temporal revestida de un halo sagrado.La iglesia misma instituyó un ritual especial en su liturgia para la consagración de los reyes. El cesar y Dios venían a estar tan unidos que hasta se confundían. En este connubio tan íntimo el emperador tenía que ser el protector de la iglesia, personificada en el papa. Los fieles de la iglesia pasaban a ser, a la vez, fieles del emperador. ¿Quién era superior a quien? Carlomagno y muchos de sus sucesores fueron superiores, al menos prácticamente, al papa; pero pronto llegaría el tiempo en que los papeles se invertirían. El papa sintiéndose fuerte como soberano que era de unos estados temporales, se vio luego capaz de sobreponerse al emperador.
Aún cuando muerto Carlomagno la idea del imperio no desapareció, en realidad ya no volvería a darse. Repartido entre sus nietos, esta fragmentación trajo el debilitamiento del poder real y, como consecuencia, el auge del poder de los nobles, los antiguos funcionarios reales.