这年的闰五月，宋兵正式从太原撤兵。北汉军队又一次乘势追击，宋军丢失了大批粮草，损失比上一次还要严重。

北宋自建隆三年（公元962年）九月首次对外用兵起，至乾德三年（公元965年）正月，不足3年的时间，就平定了南平高氏、湖南周氏、后蜀孟氏3个割据政权，统一了63州1监的大片领土。但可惜的是，自平蜀后，几乎完全是由于宋太祖个人的举措失当，导致了一系列意外的变故，先是蜀中动荡不已，紧接着又是两次北征太原，损失惨重，“先南后北”的统一大业因此而停滞逆转。

自太原班师后，经过一年多的休整，开宝三年九月，宋太祖决定攻取南汉，继续实施“先南后北”的统一方略。

南汉以广州为中心，割据岭南两广地区达60年之久。北宋平定后蜀后，潘美等宋将就曾攻取了南汉的郴州，形成了良好的进攻态势。现在，潘美等接到宋太祖灭亡南汉的指示后，马上就攻陷了贺州，随之连克昭、杜、连、韶4州，大败南汉军10余万于莲花峰下。至次年二月，即攻克广州，南汉灭亡。宋王朝又得了60州214县的领土。

南汉灭亡之后，南方剩下的最后3个割据政权个个自危，震恐异常。势力最强大的南唐这时也不得不主动要求取消国号，放弃皇帝的称号，改称“江南国主”（另外两个割据政权吴越和漳泉早就上表称臣，接受宋朝的官职）。

经过3年的准备，开宝七年（公元974年）十月，宋太祖令曹彬为统帅，潘美为都监，率水、步、骑兵在采石一线强行渡江，进围金陵；同时令吴越国主钱俶统率吴越军五万，由宋将丁德裕监军，从东面攻取常州，然后会师金陵。令王明为西路军，向武昌方向进击，牵制屯驻在江西的南唐军队，使其无法东下援救金陵。

十一月中旬，宋军依照南唐进士樊若冰的图示，在采石用预先造好的战舰架设浮桥获得成功，其主力部队通过浮桥，顺利跨过了长江天险，大败南唐水陆兵10余万于秦淮，直逼金陵城下。与此同时，钱俶率兵攻克了常州、江阴、润州，形成了对金陵的外线包围，金陵成了一座孤城。十一月二十七日，在李煜仍不投降的情况下，宋军发起总攻，金陵城破，李煜做了俘虏。

灭南唐