趙光義繼位後首先改年號爲“太平興國”，表示要成就一番新的事業。任命其弟趙廷美爲開封府尹兼中書令，封齊王，侄趙德昭爲節度使和郡王，趙德芳也封爲節度使。宋太祖和趙廷美的子女均稱爲皇子皇女，宋太祖的三個女兒爲國公主。宋太祖的舊部薛居正、沈倫、盧多遜、曹彬和楚昭輔等人都加官晉爵，他們的兒孫也因此獲得官位。而一些宋太祖在世時曾加以處罰或想要處罰的人，趙光義都予以赦免。
不過，趙光義注重培養和提拔自己的親信。其幕府成員如程羽、賈琰、陳從信、張平等人都陸續進入朝廷擔任要職，慢慢替換宋太祖朝的大臣。此外，趙光義還罷黜了一批元老宿將如趙普、向拱、高懷德、馮繼業和張美等，將他們調到京師附近做官，便於控制。趙光義擴大科舉的取士人數，他在位時期，第一次科舉就比宋太祖時代最多的數字猛增了兩倍多。科舉使不少有才華之人都有機會入仕。
趙光義穩固帝位後，繼續統一事業。太平興國三年（978年），在宋朝的政治壓力下，割據福建漳泉兩府的陳洪進，割據兩浙的吳越錢氏相繼向宋廷納土歸降。
太平興國四年（979年）正月，趙光義先派大將潘美等揮師北上，圍攻北漢都城太原，趙光義於二月率軍親征，宋軍擊退遼國援兵，滅亡北漢，終於結束了自唐末黃巢之亂以來近九十年藩鎮割據混戰的局面，再次形式上一統全國。
同年五月，趙光義不顧衆臣反對，趁伐取北漢之勢，從太原出發展開北伐。北伐初期一度收復河北易州和涿州。趙光義下令圍攻燕京，宋軍與遼人在高粱河畔展開激戰。趙光義親臨戰場，結果受傷中箭，乘驢車倉惶撤離，北伐失敗。
太平興國五年（980年），宋朝知邕州太常博士侯仁寶上奏趙光義，請求趁交趾（越南）丁朝內亂之機南下討伐，恢復漢唐故疆，統一交趾（越南）。於是，趙光義任命侯仁寶爲交州陸路水路轉運使；任命蘭陵團練使孫全興、漆作使郝守俊、鞍轡庫使陳欽祚、左監門將軍崔亮爲兵馬都部署；寧州刺史劉澄、軍器庫副使賈湜、供奉官閣門祗候王僎爲兵馬都部署，伺機進攻丁朝。但在太平興國六年（981年），白藤江之戰中先勝後敗，統一交趾（越南）的計劃最終成爲泡影，交趾（越南）得以保持獨立地位。
雍熙三年（986年），趙光義派遣潘美、楊業、田重、曹彬、崔彥進五位大將分東中西三路，以東路爲主再行北伐。西路、中路軍進軍順利，而主力東路軍屢遭遼軍挫敗，糧道被切斷，終未能與中西二路匯合，於岐溝關大敗而潰。中、西二路亦只得南撤。西路主將楊業因掩護軍民南撤被遼軍俘虜，在獄中絕食三日而死。之後，北宋在對西夏党項族的三川口、好水川、定川寨等戰役中屢次失敗，但因其厭戰，與宋廷議和。趙光義以親信傅潛、王超、柴禹錫、趙鎔、張遜、楊守一及弭德超等爲禁軍統帥，多庸碌之徒，臨陣懼戰。
淳化四年（993年）農曆二月，宋太宗趙光義爲展現京城開封的祥和氣氛和自己的仁君形象，故下詔賜給京城年事已高者禦寒衣物，百歲老人則另外加賜塗金帶。恰好這一天，京城大雪紛飛，天氣異常寒冷，因此，宋太宗立即又派遺中使賜給孤老貧窮者每人千錢及若干米、炭。作爲北宋最高統治者的宋太宗，能夠在寒冷的冬季，心繫天下蒼生，於是，從宋太宗開始，“雪中送炭”的典故就流傳開來。四川爆發王小波和李順發動的農民起義。起義軍所到之處調發富家大姓除生活品外一切財產於衆，得到蜀地農民呼應。次年正月，起義軍佔據成都，建立大蜀政權，趙光義得知後派遣兩路大軍討之，起義軍終於至道二年（996年）徹底失敗。
趙光義的長子趙元佐自幼聰明機警，長得又像趙光義。趙元佐有武藝，善騎射，還曾經隨趙光義出征過太原、幽薊。本是最合適的皇儲。不料趙元佐卻因叔父趙廷美冤死而發瘋。
雍熙二年（985年）重陽節，趙光義召集幾個兒子在宮苑中設宴飲酒作樂，因趙元佐病未痊癒，就沒有派人請他。散宴後，陳王趙元佑去看望趙元佐。趙元佐得知設宴一事，怒氣難平，一個勁喝酒。到了半夜，索性放了一把火焚燒宮院。一時間，殿閣亭臺，煙霧滾滾，火光沖天。趙光義得知後，猜想可能是趙元佐所爲，便命人查問，趙元佐予以承認。趙元佐被廢爲庶人。其後以次陳王元佑成爲衆意所囑的皇儲人選，而趙光義也有此意。
雍熙三年（986年）農曆七月，趙元佑改名趙元僖，並封開封府尹兼侍中，成了準皇儲。同年，雍熙北伐失利。趙普上《諫雍熙北伐》奏疏，得到趙光義嘉賞。後來，趙元僖也上疏論及伐遼之事，爲趙光義採納。
端拱元年（988年），趙普第三次爲相，威權一時又振。竭力支持和拉攏趙普的陳王元僖也晉封許王，更加鞏固了皇儲地位。趙普罷相後，趙元僖又與另一位宰相呂蒙正關係密切。立儲之事正在按部就班地進行。不想在淳化三年（992年）農曆十一月，趙元僖早朝回府，覺得身體不適，不久便去世了。趙光義極爲悲傷，罷朝五日，並寫下《思亡子詩》。
趙元佐被廢，趙元僖暴死，儲位儲空缺，於是馮拯等人上疏請早立太子，趙光義便將馮拯等人貶到嶺南。自此以後沒有人敢議論繼承問題。
後來，趙光義被箭傷所擾，自知將不久於人世。便就此私下詢問寇凖。在寇準的支持下，終於在至道元年（995年），趙光義三子壽王趙元侃被立爲皇太子，改名趙恆。趙光義冊立太子，大赦天下，京師之人見到太子都歡呼，趙光義卻聞而不悅。後在寇凖的勸解下心情纔好轉。
至道三年（997年）農曆三月，趙光義崩於東京宮中之萬歲殿，年五十九歲，在位二十二年。皇太子趙恆登基爲帝，是爲宋真宗。羣臣上尊諡曰神功聖德文武皇帝，廟號太宗。同年農曆十月，葬在永熙陵。