La excomunión de Enrique IV fue decretada en 1076.
Enrique comprendió la amenaza que ese entredicho representaba para su futura carrera y acompañado por dos obispos alemanes cruzó los Alpes en lo más crudo del invierno con la esperanza de llegar a algún arreglo con Gregorio.
Pero Gregorio había partido para Alemania, pues los nobles le habían pedido que fuera para que se preparara la elección de un nuevo emperador.
Gregorio había viajado hasta el castillo toscano de Canossa, y allí llegó Enrique para pedirle una audiencia.
El papa no estaba seguro de lo que debía hacer o decir. Sabía que Enrique era incapaz como gobernante y que ahora tenía la oportunidad de desplazarlo; pero, por otro lado, si Enrique estaba sinceramente arrepentido, su deber como papa era absolverlo.
Esta vacilación hizo que Gregorio mantuviera a Enrique esperando tres días fuera de los portones del castillo en el frío de enero, el mes más crudo del invierno europeo. Finalmente le concedió audiencia al arrepentido Enrique, y cuando el monarca se arrodilló delante de él, lo absolvió.
Gregorio regresó a Roma porque comprendió que era inútil continuar su viaje a Alemania en ese momento debido al giro que habían tomado los acontecimientos. Enrique regresó a Alemania, llevó a feliz término su conflicto con los nobles y se restableció como monarca; sin embargo, su gobierno siempre fue perturbado y nunca logró una verdadera paz con Gregorio.
Enrique expulsó a Gregorio de Roma antes de que éste muriera, y en su lugar colocó a un antipapa, el cual, a su vez, coronó a Enrique como emperador. Gregorio murió en el exilio. Se afirma que dijo: "He amado la justicia y he odiado la iniquidad; por eso muero en el exilio".
Enrique V, hijo de Enrique IV, continuó con la disputa sobre las investiduras, pero finalmente en el año 1122, se llegó a un arreglo conocido como el concordato de Worms.
Según los términos de ese convenio, el papa de Roma, o su representante, debía nombrar obispos para que ocuparan las vacantes, pero con la aprobación del monarca correspondiente.
Un legado papal debía investir al obispo con su autoridad eclesiástica y su insignia, y un representante del emperador le concedía la investidura con sus poderes seculares.
Esto fue sólo una componenda, ya que tuvo eficacia como un recurso transitorio que sólo logró una paz intranquila, pues, en realidad, se produjeron graves luchas entre la iglesia y el Estado.
La cuestión significaba más que determinar si la iglesia debía verse libre de la dominación del Estado. Como aquélla representaba el factor espiritual, pretendía tener una autoridad superior, pues hablaba en nombre de Dios.
Debía, pues, decidirse si la iglesia dominaría al Estado, o si ambos debían proseguir juntos mientras la iglesia continuaba poseyendo grandes recursos materiales, lo cual le permitía una inmensa influencia política.
Sucedió lógicamente lo que era de prever: cuando los gobernantes eran débiles y el papa fuerte, dominaba la iglesia; y cuando sucedía lo opuesto, el brazo secular podía ejercer el poder mayor.
Como resultado sufrieron tanto la iglesia como el Estado, y también se perjudicaron la paz y el progreso de la Europa occidental. Aunque el Santo Imperio Romano Germánico incluyó diversas zonas de la Europa occidental durante diversos períodos de su historia, su centro de gravedad siempre estuvo al norte de los Alpes, en los Estados germánicos.
La rivalidad política entre el papa y el emperador debido a la disputa sobre las investiduras, fue un factor importante en el éxito de la Reforma, pues muchos de los príncipes alemanes, por motivos ya políticos, ya religiosos, demostraron ser ardientes y eficaces paladines de la gran revolución contra Roma.