然事实上马腾不会这么做，但是韩遂以己度人，对马腾很不信任。
考虑再三后，韩遂决定联合羌人，在刘玉立足未稳的情况下，把刘玉给干掉。
韩遂活动了起来，不断在各羌人部落游说。羌人们也是对富饶的关中流口水，无奈汉人强势，只能把这个野心藏在心里。如今韩遂前来游说，准备联合起来进攻富饶的关中。羌人虽然不是很相信韩遂，但欲望最终战胜了理智，羌人首领召集了部落的勇士，总数达到十万人。
韩遂带领本部兵马一万当任主帅，诈称五十万大军，向关中入侵。
与凉州交界的关中城池，无法抵挡，被韩遂攻破。羌人异常凶残，几乎把城池里的汉人给屠光了。