坚守了一个多月，契丹的外援又来不了，粮饷道路又被宋军切断，太原城中已是弹尽粮绝。
宋军将太原城包围得如同铁桶似的，就是攻不下来。赵光义每天命令弓弩手往城中射招降书，与其损兵折将，出力不讨好地攻城，不如劝刘继元早一点投降来得实惠，北汉宣徽使范超就拾到一封这样的招降书。
五月初，赵光义又亲自督促诸将急攻城太原城西南隅，经过激烈奋战，终于打下太原城西南的护围羊马城。
北汉宣徽使范超偷偷逾城投降，被宋军抓住，不知道哪个糊涂蛋，竟然一根筋地怀疑他是奸细，不问青红皂白，一刀下去就把范超给咔嚓了。
刘继元听闻范超出城降宋，就将范超的妻儿和一家老小，尽行杀死，并将首级扔出城外。
赵光义听说范超枉死，妻儿受戮，立即传旨，命人置办棺椁收殓尸首，自己亲自到棺前致哀。城上的北汉兵将看见了，都十分感动。
赵光义至城西北隅，再次招降，北汉马步军都指挥郭万超密令心腹缒城，到宋营商谈投降密约，赵光义折箭为誓，绝不加害。郭万超等人潜出太原城，向宋军投降。赵光义格外优待这些出降的北汉将士，城内的兵将得知，纷纷潜出城投降大宋。
五月初四，赵光义至城南，再次命令弓弩手往城中射招降书，同时指挥大军猛烈攻城。北汉国主刘继元却一直没有被杀怂，大宋皇帝赵光义也是个肯动脑子的主儿，开宝二年（969），赵匡胤亲征北汉，曾经筑长堤、水淹太原城。攻城之战打了四个月的时间，宋军死伤不少，有一样学一样，赵光义这回想让刘继元再尝尝被水淹的滋味。
宋军引水灌城，太原城立即变成一片汪洋。大水冲垮太原城东南角，涌入夹城。被太原城的铜墙铁壁阻挡了几个月时间，大宋将士早就怒不可遏，见水灌得手，个个争先恐后，都要冲进去与北汉将士来个你死我活。
这个时候，赵光义反而变得优柔寡断了，他担心引发屠城事件，于是马上制止宋军冲锋。刘继元亲自指挥士卒运土堵水，他要做最后的抵抗。
孤立无援，军心动摇，北汉大势已去，眼看太原城即将沦陷，在家养病的北汉老臣马峰出来拜见刘继元，劝他投降，这样可以保障太原百姓免遭被屠城的厄运。
北汉主刘继元已经众叛亲离，城中危急。赵光义又写了一道诏书，派人进城，劝刘继元投降，许诺刘继元只要投降，就能继续安享富贵，诏云：
越王吴主，献地归朝，或授以大藩，或列于上将，臣僚子弟，皆享官封；继元但速降，必保终始，富贵安危两途，尔宜自择。
刘继元见将士纷纷出城投降，孤城难守、契丹不救，自己已经是计穷力竭，走投无路，为了百姓免遭涂炭，只得答应向大宋投降。
刘继元对宋使道：“宋主果能优待，我当即日迎降。”当即派人带着降表出城，送达大宋皇帝赵光义。
五月初六，赵光义率领诸将领，在太原北门外连城台上举行受降仪式，刘继元缟衣纱帽，率领众文武，出城投降，俯伏请罪。
赵光义召刘继元登台，传旨特赦，封刘继元为特进、检校太师、右卫上将军、彭城郡公，赐给京师甲第一区，赏赐甚厚。