就在杨元庆剿灭李密，安抚江南之时，隋军扫平青州之战也到了最关键的时刻，罗士信率领一万隋军和两万窦建德的军队南下进攻盘踞在琅琊郡的刘黑闼军。
在东安县、新泰县和费县，隋军三战三捷，歼灭刘黑闼军一万余人，刘黑闼只得率领数千残兵退守临沂县。
临沂县虽然是琅琊郡的郡治所在地，但并不是刘黑闼老巢，刘黑闼在哦东安县，临沂县只是一座中县，人口不足两万人，城池周长不过十余里，城高仅两丈，多年未曾修缮，已显得十分破败。
刘黑闼此时已到兵穷粮尽之际，他手中只剩下三千军，军粮已尽，眼看军心不稳，刘黑闼索性撕下了伪善待民的面具，纵军抢掠，从费县溃败至临沂，一路奸淫烧杀，掠夺民财粮食。
占据临沂县后，他又逼迫青壮从军，凡十四岁以上，六十岁以下，无论男女，全部上城参与防御，城中所有粮食，全部由军队来分配，士兵们又趁机敲诈勒索，凌辱妇女，使临沂县内俨如沦入地狱一般。
天刚刚亮，刘黑闼骑马上城巡视，经过一夜的混乱无眠后，无论士兵还是普通民夫，都已经疲惫不堪，纷纷躺在墙角睡觉。
一群群女人们则蹲在一起，不少女人抱头痛哭，昨天晚上，不少女人被士兵们趁夜拉走凌辱，此时她们内心充满了恐惧，不知自己能否活过此劫。
刘黑闼对这一幕幕乱相熟视无睹，他是过来人，乱世小民如草，他心中早没有半点怜悯同情心，如果女人能安抚他的军心，他会毫不犹豫把所有女人脱光衣服，扔进他的士兵群中去，如果抢掠钱财可以提升士气。哪怕是玉皇大帝儿子的府邸，他也会放纵士兵杀进府中去，目的只有一个，士兵必须要替他刘黑闼卖命。
刘黑闼的战马哒哒地从一群女人身边走过。他正眼也不看一眼，但他身后的亲兵却狠狠抡鞭向几名挡路的女人抽去，一片哀叫，女人纷纷躲到墙角去。
城头上士兵和民夫的懒散，让刘黑闼眉头紧锁，眼中十分恼火，他当然知道士兵们都折腾了一夜。需要休息，可是隋军若此时到来，这种军容怎么迎战。
他怒喝一声，“命令所有人都给我起来，不准睡觉！”
命令下达，亲兵们纷纷冲上去，用皮鞭猛抽睡觉的士兵和民夫，吓得士兵们纷纷站起。没人敢再睡觉，就在这时，远处忽然传来呜咽的号角声。“呜——”
刘黑闼霍地扭头，这是他最不愿意听到的号角声，但它还是出现了，远方一支黑压压的军队正向这边疾速奔来，刘黑闼急得大吼：“敲钟！所有人上城防御！”
‘当！当！当！当！’
刺耳的钟声在城头上响起，一群群士兵从沿着甬道飞奔上城，民夫们茫然地站在一旁，不知自己该干什么，女人们则惊慌失措，惊叫着向城下家里跑去。大战来临，只有家中的孩子最为重要，城下城上，一片混乱。
这个时候，刘黑闼也顾不上逃跑的女人了，他紧张地盯着越来越近的隋军士兵。正如他的担心，隋军骑兵精神饱满，步兵奔跑有力，他们其实早就来了，在附近休息了一夜。
而他的士兵昨晚折腾了一夜，不知道体力能否坚持得住，心中焦急，刘黑闼大吼起来，“给老子打起精神来，女人干过了就得拼命，弓箭准备，让民夫把滚木礌石搬上来！”
城头上万余人来回奔跑，民夫们被迫搬运上来一段段巨木和礌石，数千士兵张弓搭箭，紧张而不安地注视着越来越近的隋军，三万隋军铺天盖地杀来，长矛如林，盔甲闪亮，黑压压的一眼望不见边际，令城上守军双腿战栗。
隋军奔至距离城池一里外，渐渐停了下来，三万大军中，一万骑兵是罗士信率领的南下隋军，而另外两万步兵则是窦建德的降军，已经被整编为隋军，只是盔甲武器都略逊隋军一筹。
在骑兵最前面，罗士信手执大铁枪，横枪立马，冷冷地注视着这座低矮破旧的城池，他早已身经百战，参与了无数攻城战，对攻打城池有着丰富的经验，他只是大致看了一眼，便至少有三种方案攻下这座破城。
但为将者首要之事便是爱惜士兵，尽量不做无谓的牺牲，尽管城头上人头密布，但罗士信很清楚刘黑闼实际上只有三千能战之兵，其余估计都是他临时抓夫。
这种草根民夫见不得惨烈和血腥，只要稍稍施加点压力，这些民夫就会全线崩溃，更重要是这座城池太破旧，经受不住打击。
“右军三千刀盾兵，靠近城池一百步！”
罗士信一声令下，右军列队走出了三千刀盾兵，百人一队，排列成三十队，队列整齐，高举巨盾，一步步向城墙走去。
城上守军做梦也想不到隋军会立即发动进攻顿时惊慌失措起来，城头上大呼小叫，弓箭高举，滚木礌石堆砌，不到百步时，城上便乱箭齐发，箭如雨点般射向列队而来的刀盾军。
但刀盾军在靠近城墙还有百步时便停止了前进，罗士信注视着城头，和他想的一样，守军没有床弩和重型石砲，他随即又下达了命令，“刀盾军撤回，全军后退三里扎营。”
隋军后撤了，在三里地外扎下了大营，近千座营帐延绵近十里，城上的守军也松了口气，不管隋军是什么目的，至少他们可以休息了。
刘黑闼心中也疑惑不解，不知道隋军葫芦里卖的什么药，不过他的士兵确实需要休息，刘黑闼立刻下令，“全军就地休息！”
整整一天，双方都没有动静，仿佛互相有默契一般，都在养精蓄锐，尽可能多地抓紧时间休息。