黄巢率领残存的十五万兵马，按预定计划，有序地撤到了河南境内。不过这次，他不是南下去富庶的淮南，而是北上，想回他的老家做山东王。
五月，黄巢命孟楷率一万多人急攻蔡州。节度使秦宗权打了几次没打赢，干脆向孟楷投降。秦宗权本是忠武军的一名牙将，黄巢刚起兵时，就为镇压大齐兵作过贡献。长安陷落后，他与监军杨复光一起，积极勤王，也曾打败过大齐兵数次。也不知秦宗权是怎么想的，这个时候还去投降黄巢。按后面的表现来看，他应该不是贪生怕死之徒。
大齐兵的下一站，便是陈州。陈州位于河南的中心，是忠武镇的一部分。黄巢很不喜欢忠武军，因为在政府军围剿他的许多次战役中，忠武军一般充当骨干。现在有机会消灭，他当然不会放过。
刺使赵犨，在黄巢攻陷长安时接管陈州。他一上任，就告诫陈州的将士：“黄巢如果不死在长安，就一定会向东逃跑，而陈州首当其冲。黄巢向来仇视忠武军，我们不可不预先防备。”于是赵犨组织军民加固城墙，深挖战壕，囤积粮食，打造兵器。凡四门之外，两舍之间，只要有余粮的，统统征收到城里。特别是守城用的弓箭、石头、檑木等，他组织军民准备了无数。
为充实部队，他向四方发出文告，招兵买马。为坚壁清野，最大限度地给巢军造成不利，赵犨把陈州城方圆六十里内的老百姓都强制迁到城里。为加强领导，他命二弟赵昶为防遏都指挥使，以三弟赵珝为亲从都知兵马使，长子赵麓、次子赵霖，都在军中担任职务。
到大齐兵来攻打陈州时，赵犨已准备了二年多的时间。可以说，该想的他都想到了，该准备的他都准备了。
果然，孟楷逼降蔡州后，马上带着他的万余人马攻取项县（今河南沈丘），挥师直指蔡州。
赵犨率兵出城阻击，为麻痹孟楷，他故意装孙子，显出势单力薄的样子，打不赢而仓皇逃窜。蔡州都被自己逼降了，小小的陈州更不在话下。孟楷果然上当，轻敌大意，带着他的队伍浩浩荡荡开往目的地。赵犨和他的弟弟们、儿子们率领精锐，突然袭击，差不多全歼孟楷部万多人，并活捉孟楷，在阵中斩之。
黄巢得知孟楷被赵犨活捉并杀害，他又惊又愤。惊的是赵犨居然这么厉害，一万多大齐兵就这样被他杀了；愤的是赵犨居然敢杀他爱将，杀他大齐将领。
与赵犨不共戴天，与忠武军不共戴天。没有考虑，黄巢作出了一个很正常但又致命的决定：攻取陈州，活捉赵犨，为孟楷报仇，为死去的大齐将士报仇，扬我大齐军威。
六月，黄巢带着他的全部人马，向东面扑去，先占据溵水，然后与蔡州的秦宗权部合兵，攻取宛丘，构成了对陈州的合围。见黄巢的兵马来得如此之快，陈州军民陷入了恐慌。
“怕，是死路一条；降，更是死路一条。惟有奋战，才能活命。”赵犨聚集队伍，骑着高头大马，在军中来回奔跑，大声鼓舞士气。
赵犨很会做思想工作，经他一番激励，陈州军民情绪有所稳定。见时机到了，赵犨命令打开城门，随着一声呐喊“看我如何杀敌”，他亲自率领数千精锐，与大齐兵接战。赵犨和他的两个儿子率部从正面向大齐兵冲杀过去，他的两个弟弟率部分别从两侧向大齐兵掩杀过去。打虎亲兄弟，打仗父子兵。这两者赵犨都齐了，其势当然锐不可挡。大齐兵促不及防，受到重创，慌忙后退扎营。
稍微休整一下，黄巢仗着兵多将广，又挥师攻打陈州。如蚂蚁般的大齐兵蜂拥至城下，还没靠近城墙，城上一阵乱箭射下，齐刷刷大齐兵倒下一片。没死的冲到城墙下，又被从天而降的檑木、石块打死压死不少。
大齐兵只得再次后退，此时，黄巢若能冷静下来，好好想一下，看有没有必要再次攻打陈州，或许历史又得改写。
历史没有假如，这个时候的黄巢已经失去理智，就如关羽被陆逊杀了，刘备举全蜀之兵讨伐东吴一样，他铁下心来，不惜一切代价，把陈州攻下，把赵犨杀了。
黄巢依然摆出在长安当皇帝时的那副派头，把陈州城外三四里的地方当作行在，建筑如宫阙状的八仙营，依山设置各种衙门，蔡州作为行宫的后勤保障处。（巢于郡北三四里起八仙营，如宫阙之状，又修百司廨署，储蓄山峙。蔡人济以甲胄，军无所阙焉。）
很显然，黄巢在准备打持久战。