公元 963年，宋將李繼勳進攻北漢，楊業與他的同僚在榆次一帶戰敗後退守汾河橋，宋軍奪橋後進逼到晉陽西城外，被楊業等北漢將領擊退，這是史書中記載的楊業與宋軍的第一次交鋒。第二年，趙匡胤御駕親征，楊業在爭奪汾河橋的戰鬥中失利，損傷千餘人後退回晉陽，正是這次戰鬥之後，楊業一度被解除兵權。一個月之後，楊業率領數百士卒出擊圍城的宋軍，被宋將党進擊退，楊業縋城回到晉陽。這一年五月，宋軍在久攻不克、北漢的契丹援軍趕到的情況下撤退，楊業與北漢諸將率兵追擊，獲得大量的軍糧及戰利品。此後，楊業在洪洞兩度敗於宋軍，所部死傷千人。
其實事實未必如此，在與敵軍的爭戰記錄中，誇勝諱敗是十分常見的，所以也就不難解釋爲什麼交戰雙方常常在戰後都宣稱自己取得了勝利。楊業在一次次力量懸殊、寡不敵衆的交鋒中，所受的損失不過是死傷千人，這甚至沒有超出一次戰鬥的正常消耗。北漢之所以能與北宋抗衡二十餘年，以弱小的國勢成爲最後一個被消滅的割據勢力，除了契丹遠水難解近渴的軍援、太原險固的地理優勢之外，楊業等北漢將領功不可沒，須知北漢王朝在最後傾覆的時候控制的民戶只有三萬五千二百餘戶，否則素聞楊業威名的宋太宗怎麼會那樣渴望收歸楊業。遺憾的是，建國二十九的北漢王朝竟然沒有設立史官，楊業忠心保衛北漢的戰績就這樣在宋朝史官的筆下佚散無蹤了。
事實上，抗拒北宋統一戰爭的楊業更是一位洞悉歷史進程、順應時代潮流的智者，正因爲如此，他才建議北漢皇帝劉繼元突襲契丹援軍歸降宋朝以實現民族的統一而共禦外侮。楊業的建議被拒絕，但沒有想到的是，堅守晉陽戰鬥到最後一刻的，不是據說素懷英氣的劉繼元，而是忠於職守的楊業，而且楊業是在接到已經投降的劉繼元的命令之後，纔在一腔悲憤之中解甲棄守的。前面說過，收復幽雲十六州以及淪陷的其它三州始終是每一箇中原王朝夢寐以求的理想，石敬瑭之後，中原王朝爲收復幽雲十六州而組織的北伐主要有四次。公元 946年，後晉皇帝石重貴北伐，這次北伐的結果是全軍投降後晉滅亡。公元 959年，周世宗柴榮率領水陸兩軍北伐，一個多月的時間裏收復了寧、莫、瀛、易四州，但卻因爲柴榮病重以及部分將領的異議而收兵，一個月後，柴榮病逝。二十年後，挾平滅北漢之餘威，宋太宗趙光義想一鼓作氣收復幽州，然而，這支剛剛攻佔太原的勝利之師同時也是一支不堪再戰的疲憊之師，最終慘敗於高梁河戰役，趙光義身中兩箭，乘坐驢車倉惶南逃，收復幽雲十六州的第三次北伐遂告失敗。
