因他整日克扣营中弟兄粮饷，即有陕西的老兵油子率部将其父劫去，责令黄羊发清欠饷。黄羊罄其所有，才把老父赎回，只是这时候帐下的弟兄散个精光，只余下二三十个得力心腹，黄羊干脆带这帮心腹落草为寇，辗转来到了河南洛阳府，火并了个小山寨，又收拢了十几号弟兄。

他经陕西一变，为人变得大方起来，他本来就是官军出身，对官军剿匪的手法熟得很，又知道干什么买卖既大有油水又不会触动官府，落草之后真是如鱼得水，再