温又把左右义胜两军配属给他,任命为左开道指挥使,当时人谓之"刘开道".
以后,跟随朱温讨伐秦宗权,攻打徐州,都有功劳,补为徐州马步军都指挥使.天复初年,参与消灭平卢节度使王师范,以功授同州匡国节度使.
当时城中弹尽粮绝,但为了迷惑梁军,李嗣昭与部将登城宴饮,并斩杀招降来使,以示拒降.朱温见状,命刘知俊率军攻城,偶获肖.
刘知侩求留在潞州,朱温却以为潞州已为自己囊中之物,拿下它是早晚之事,但现在关中空虚,万一李茂贞率军入侵同华一带就不好了,于是命令刘知俊在长子休息十天,然后撤军到晋州驻扎,朱温也随后返回京师,留在夹城的军队也认为胜利在望,便不再设防.
就在梁军自以为胜利在望之际,李存勖率精兵急行军6天,悄然从太原南下奔袭潞州.908年五月初一,李存勖所部潜行至潞州城外三垂岗.
二十年前,李克用破孟方立于邢州之时,还军上党,置酒三垂冈,伶人奏百年歌,至于衰老之际,声甚悲,坐上皆凄怆.时李存勖在侧,方五岁,克用慨然捋须,指而笑曰:"吾行老矣,此奇儿也,后二十年,其能代我战于此乎"
这里的百年歌是一首写于魏晋时期的乐府诗.全诗分为十段,以每十年为一段,讲述人生百年.全文为:
一十时:颜如蕣华晔有晖.体如飘风行如飞.娈彼孺子相追随.终朝出游薄暮归.六情逸豫心无违.清酒将炙奈乐何.清酒将炙奈乐何.
二十时:肤体彩泽人理成.美目淑貌灼有荣.被服冠带丽且清.光车骏马游都城.高谈雅步何盈盈.清酒将炙奈乐何.清酒将炙奈乐何.
三十时:行成名立有令闻.力可扛鼎志干云.食如漏巵气如熏.辞家观国综典文.高冠素带焕翩纷.清酒将炙奈乐何.清酒将炙奈乐何.
四十时:体力克壮志方刚.跨州越郡还帝乡.出入承明拥大珰.清酒将炙奈乐何.清酒将炙奈乐何.
五十时:荷旄仗节镇邦家.鼓钟嘈囋赵女歌.罗衣爵咏鸫浠?言笑雅舞相经过.清酒将炙奈乐何.清酒将炙奈乐何.
六十时:年亦耆艾业亦隆.骖驾四牡入紫宫.轩冕婀那翠云中.子孙昌盛家道丰.清酒将炙奈乐何.清酒将炙奈乐何.
七十时:精爽颇损膂力愆.清水明镜不欲观.临乐对酒转无欢.揽形修发独长叹.
八十时:明已损目聪耳.前言往行不复纪.辞官致禄归桑梓.安车驷马入旧里.乐事告终忧事始.