可以说，他和石水高祖石敬瑭之间的交情，是生死之交。
而为了报答神辽帝国的帮助，石敬瑭不惜将燕云十六州割让蛮族，并称比他小11岁的耶律德光为父，刘知远对石敬瑭的做法不以为然，他认为：“对蛮族称臣即可，当儿子则太过分，多送些金帛使神辽帝国大军援助，而不必以割地相许，割地会造成将来后患无穷啊！”
称臣可矣，以父事之太过，厚以金帛赂之，自足致兵，不必许其土田，恐异日大为中国之患，悔之无及。
不得不说，刘知远在战略眼光上远超石敬瑭，果然，石敬瑭割让幽云十六州给蛮族，从此中原门户大开，无险可守。
石重贵和耶律德光翻脸后，刘知远似乎从中看到了机会，暗中养精蓄锐，只要时机一到，就从乱世中杀出，自立于天下。
石敬瑭当了七年儿皇帝，于石水皇朝天福七年死去。养子石重贵即位，是为石水皇朝出帝，刘知远也迁检校太师，进位中书令。
石水皇朝开运元年（944年），神辽帝国可汗耶律德光率军南下，大军直抵澶州，派蕃将伟王领兵进入雁门关，刘知远作为幽州道行营招讨使，在忻口大破伟王，累迁太原王兼任北面行营都统，北平郡王、太尉，之后诛杀吐谷浑白承福等五支部族共四百人，以另一部族的王义宗统领五族中其余的人，又在朔州阳武关再破蛮族。
刘知远在这段时期的主要意图，是称霸河东，成就王业，因此对朝廷的诏命半推半就，一方面不服调遣，作战中逗留不进，另一方面也主动出击一下。
石水皇朝开运四年正月一日，神辽帝国进犯京师，俘虏了石水皇朝少帝石重贵北去，石水皇朝灭亡。
二月一日，耶律德光具办汉族的礼制衣服，登上崇元殿接受朝拜，诏令改石水皇朝为神辽帝国，大赦天下，称年号为会同十年。
刘知远遣牙将王峻向蛮族奉表投降，耶律德光诏令褒扬嘉奖，称刘知远为儿子，并赐给一根木拐。
按蛮族的礼法，贵重的大臣才能得到这种赏赐，就像按汉族礼仪赐给假节一样。
王峻拿着木拐，蛮族人望见他都纷纷到路边避让，王峻回来后，对刘知远说蛮族政治混乱，一定不能攻占中原，于是便商议建国。
刘知远表面上对辽国称臣，同时又多次对部下扬言，要劫回已经动身北上的前石水皇帝石重贵，说是要迎还“圣主“，在晋阳继承石水的香火。
为了假戏真做，刘知远果真派兵去“救“石重贵，但这时石重贵早就到了阴曹地府，刘知远自然是“救“不回来的。
对刘知远来说，石重贵的生死无关紧要，他能不能在乱世中得势才是要紧的，手下跟他混饭吃的那帮人也都不是饭桶，他们知道皇帝已经玩完了，接下来刘知远最有可能成为皇帝，当然也最希望自己的老大当皇帝。
于是，有脸皮厚的时不时会站出来恭维几句：“国不能一日无主，您就顺应天意，赶快登基吧。”
刘知远当然假意说不妥，这就像喝酒：不能别人一让就喝，那显得没面子，你让一次我不喝，让两次三次，我再喝，就不会显得我贪杯。