耶律德光率兵从邢、相二州南下，杜威率降兵跟随。耶律德光派张彦泽率二千骑兵先去攻取大梁，并且安抚那里的官吏百姓，派通事傅住儿为都监。

皇甫遇当初没参与谋划杜威投降的事，当耶律德光要派皇甫遇先率兵进入大梁，他推辞了；退下后对亲信说：“我身为将相，兵败后不能去死，怎能忍心再谋取君主呢！”兵至平棘，对身边跟随人的说：“我已好几天不吃饭了，还有什么面目再往南走啊！”于是掐住喉咙而死。