六月十一日，李軌命令安修仁召集各部落的胡人，李軌與結交民間的豪傑之士，共同起兵，抓住虎賁郎將謝統師，郡丞韋士政。
李軌隨後自稱河西大涼王，設置官府僚屬全都模仿隋文帝開皇年間的成例。
曹珍等人要將隋官殺盡，分掉他們的家產，李軌道：“各位既然推舉我爲主，就應當聽我的號令。如今興義兵是爲了拯救百姓，殺人越貨，這就成了羣盜了！我們將靠什麼取得成功呢？”
於是他任命原虎賁郎將謝統師爲太僕卿，任命原隋朝郡丞韋士政爲太府卿。西突厥的闕度設佔據會寧川，自稱闕可汗，也在不久後向李軌請求投降，大大的增加了李軌的聲勢。
薛舉既聞後院起火，自是不能安心的向長安進軍了，於是他打算滅掉李軌佔據河西地區，鞏固後方後再攻長安。
在進攻李軌前，薛舉自稱秦帝，立妻子鞠氏爲皇后，兒子薛仁杲爲皇太子。然後派遣薛仁杲率兵包圍並攻克了天水，之後，薛舉從金城遷都於天水。
薛仁杲很有力氣，善於騎射，軍中號稱萬人敵。但是他生性貪婪、殘忍、嗜殺成性，曾經抓住大詩人庾信的兒子庾立，庾立卻不肯投降薛仁杲，薛仁杲於是發怒，將庾立架在火上燒死，然後一點點地割下肉來讓軍士們啖食，殘忍嗜殺。
待他攻下了天水，把天水的富人都召來，倒吊起來，用醋灌鼻子，向他們索取金寶。薛舉常常訓誡他道：“你的才能謀略足以辦事，但是生性嚴苛酷虐，對人不能施恩，這終歸要傾覆國家的！”
薛舉派晉王薛仁越率兵奔赴劍口，走到河池郡時，受到了河池太守蕭瑀的頑強抵禦。蕭瑀因在楊廣雁門被圍後，極力主要張信守承諾封賞雁門關之戰的有功將士，故而被楊廣貶到了河池郡當太守，由於蕭瑀指揮得當，兵糧充足，薛仁越一時不能將河池攻克。
薛舉又派部將常仲興渡黃河去河西進擊佔據武威郡的李軌，與李軌的部將李贇在昌鬆交戰，常仲興因輕敵冒進而全軍覆沒。
李軌要將此戰的俘虜全都放走，李贇道：“這些俘虜是將士奮力作戰才俘獲的，卻將他們放走去幫助敵軍，爲什麼這樣做？不如全部坑殺了。”
李軌道：“上天若是賜福於我，就應當抓住他們的首領，到時這些人終歸還是爲我所有。要是我事業無成，留下他們又有什麼好處呢？”
於是李軌下令將俘虜放走，李軌因此被人稱讚是仁義之君。
不久，李軌趁着剛剛大勝薛舉軍的兵勢，進攻張掖、敦煌、西平、枹罕，並將之全部攻克，河西五郡全部爲李軌據有。
李軌將河西五郡全部佔領後，也打起了西京長安的主意，但他若想去長安，就必須經過薛舉的地盤隴右，而薛舉要想進攻長安，也必須保證後方的安寧。
於是，薛舉、李軌至此互相交戰，戰火不停。
薛舉、李軌兩人也是後來才知道，就在他們兩個互相交戰廝殺之際，已有人已開始往長安迅速進發，那時的他們都是感到後悔不已……
六月十一日，李淵率大軍經過霍邑，進入臨汾郡，臨汾郡的軍隊，由於大部分都跟隨宋老生在霍邑戰敗，所以根本無法再組織軍隊抵抗，各城各縣，紛紛聞風而降，李淵軍於是不費一兵一卒，全佔了臨汾郡，李淵對臨汾吏民的慰勞安撫如同霍邑、西河郡一樣。
十六日，李淵軍隊在鼓山過夜，過了鼓山之後，便是絳郡了。
絳郡已屬汾水下游地區，爲西南方河東郡的要鎮，當年北周與北齊曾在此地連年交戰。
翌日，李淵大軍過鼓山，正式進入絳郡，絳郡通守陳叔達率兵八千拒守郡治正平城。
李淵先派李建成、李隱和李世民三人分兵攻佔絳郡其餘諸縣，最後才合圍正平城。
由於防守正平城的士兵有許多都來自絳郡各地區，這時聽聞老家失陷後，都是人心不安，李淵又派人在正平城四周大聲宣傳自己是仁義之人，並未虧待絳郡百姓，只要戰爭結束，正平城的士兵一定能與家人團聚的。
正平城的士兵於是都無心抵抗。
六月二十二日，李淵軍進攻並攻克了正平，全佔了絳郡。絳郡通守陳叔達是陳高宗陳頊的兒子，有才學。李淵待之以禮，並繼續任用他。
六月二十五日，李淵軍到達河東郡最北邊的龍門縣，李淵初爲山西、河東撫慰使的時候，曾到此斬殺叛軍首領毋端兒，使其在河東道站穩了腳跟，此時相隔只兩年左右，再來此地，感慨頗多。
河東郡據山陝之咽喉，自北周北齊以來，爲兩方必爭之地，隋在此有一重要津渡，設有橋樑，謂之蒲津樑，地位的重要性一如潼關。
河東郡爲長安外圍重要的屏障，其地的得失關係到長安的安危，是以代王楊侑纔會派能征善戰的左武侯大將軍屈突通於此地駐軍。
屈突通並非宋老生之流可比，其戎馬一生，戰功赫赫，是能征善戰之輩，有他鎮守在河東郡，李淵軍要想將河東的話攻克可不是什麼容易的事情。
李淵正爲如何攻打河東郡而發愁的時候，汾陽人薛大鼎勸說李淵道：“請不要進攻河東，從龍門直接西渡黃河，佔據永豐倉，向各地傳佈檄文，關中地區便坐等可取了。”
李淵打算聽從他的意見，任命薛大鼎爲大將軍府察非掾，但唐儉等諸將都請求先攻取河東，因爲如果在河東未攻下而直接渡河入關中的話，太過於冒險了。
而且黃河水流湍急，李淵軍中也沒有舟船可用，所以唐儉等人才會出言反對。
李淵對此感到爲難了，於是向李隱問計，李淵總喜歡在遇到兩難決定的時候問李隱的想法。
李隱道：“可以先屯軍龍門與屈突通對峙，然後派人渡河入關中打探情報，聯絡關中義軍，之後再做打算不遲。”
李淵大以爲善，於是同意了李隱的建議。