到达之前躲到了远离罗马的卡诺莎行宫。亨利没有办法，只好又前往卡诺莎去拜见教皇。

到了卡诺莎后，教皇紧闭城堡大门，不让亨利进来。为了保住皇帝宝座，亨利忍辱跪在城堡门前求饶。

当时大雪纷纷，天寒地冻，身为帝王之尊的亨利屈膝脱帽一直在雪地上跪了三天三夜，教皇才开门相迎，饶恕了他。

这就是历史上著名的“卡诺莎之行”。

亨利恢复了教籍，保住旁位返回德国后，集中精力整治内部，然后派兵把一个个封建主各个击破，并剥夺了他们的爵位和封邑，曾一度危及他王位的内部反抗势力逐一告灭。在阵脚稳固之后，他立即发兵进攻罗马，以报跪求之辱。在亨利的强兵面前，格里高利弃城逃跑，最后客死他乡。

显然，亨利的“卡诺莎之行”是别有用心的。在他与教皇对峙，国内外反对声一片，特别是内部群雄并起，王位岌岌可危的情况下，他想利用苦肉计取得和解，赢得喘息时间，以便重整旗鼓，东山再起，再和教皇较量。结果，他成功了。

。