派人冒险出城求援，又被马超截杀，当时的凉州刺史韦康与天水太守考虑向马超投降。

杨阜痛苦劝谏，情愿与翼城共存亡，然而最后上官仍旧决定开城乞降。

结果马超入城之后直接将那刺史韦康与太守杀了，杨阜与同僚十余人假意称降，实则暗自寻求机会报仇。

后借埋葬亡妻的机会方才离开马超，当时杨阜有个外兄名叫姜叙。

他自小在姜叙家长大，说了事情后，与姜叙和一众同乡相约起兵。