不久，李勣病逝。

徐敬业先任眉州（治今四川眉山）刺史，后因贪赃枉法被贬为柳州（治今广西柳州）司马。他赴任时途经扬州（治今江苏扬州），与同被贬官南方的唐之奇、骆宾王、杜求仁、自己的弟弟徐敬猷以及前盩厔（今陕西周至）尉魏思温、奉使到扬州的监察御史薛璋等官员相遇，大家同病相怜，集体吐槽，对惨遭贬黜的待遇深感不满。看见武则天废帝唐中宗为庐陵王，虽立李旦为帝，但不过拿李旦当作囚徒看待，决定借机起事，以改变自己的命运。

这帮人说干就干，他们于光宅元年（公元684年）九月起兵于扬州，徐敬业以匡扶卢陵王李显复位为名，自称为匡复府大将军，领扬州大都督，传檄州县，声讨武则天。

说徐敬业的动静整得大，主要是因为史称“初唐四杰”之一的骆宾王亲自捉刀写了一篇震烁古今的《讨武曌檄》。

该檄文以震耳发聩之语、发人深省之句，刺武氏之痛、壮义军之威，所谓“南连百越，北尽三河；铁骑成群，玉轴相接”，“气愤风云，志安社稷，因天下之望，顺宇内之心，爰举义旗，以清妖孽”。

在这篇檄文的激励下，徐敬业的士卒迅速爆增至十余万人。

武则天剥夺了唐太宗所赐徐家李姓，发兵三十万征讨。

徐敬业表面是在匡复庐陵王李显的帝业，实际上却是想攻占金陵（今江苏南京）割江南而自立。显而易见，这种分裂主义是逆历史潮流而动，根本不可能得到成功。其于九月起兵，十一月兵败高邮，残部逃往润州，徐敬业本人下落不明，或说是被乱军所杀，或说是投水自尽，或说是遁入了空门。

之所以这样说，是因为世间传言，说徐敬业早在起兵之初，就养有相貌与己相似者于军中，以作替身。故官军虽然寻得疑似徐敬业的尸首，终究无法确认。

武则天为了清洗徐敬业残部，并查访徐敬业的确切下落，决定派一名得力干将巡抚江南。

这员得力干将的人选，她早已定好了：即在宁州有上佳表现的冬官侍郎狄仁杰。