ولما خرجت الخوارج من الكوفة عاد أصحاب علي وشيعته إليه فقالوا : نحن أولياء من واليت ، وأعداء من عاديت ، فشرط لهم سنة رسول الله صلى الله تعالى عليه وسلم ، فجاء ربيعة بن أبي شداد الخثعمي فقال : أبايع على سنة أبي بكر وعمر. قال علي : ويلك لو أن أبا بكر وعمر عملا بغير كتاب الله وسنة رسوله لم يكونا على بيّنة من الحق. فبايعه ونظر إليه علي فقال : ما والله لكأنى بك وقد نفرت مع هذه الخوارج فقتلت ، وكأنى بك وقد وطأتك الخيل بحوافرها. فكان ذلك وقتل يوم النهروان مع الخوارج.

وأما خوارج البصرة فإنهم اجتمعوا في خمسمائة رجل ، وجعلوا عليهم مسعر ابن فدكي التميمي وعلم بهم ابن عباس فأتبعهم أبا الأسود الدؤلي ولحقهم بالجسر الأكبر فتوافقوا حتى حجز دونهم ، وأدلج مسعر بأصحابه وسار حتى لحق بابن وهب ، فلما انقضى أمر التحكيم وخدع عمرو بن العاص أبا موسى الأشعري ، وصرح عمرو بولاية معاوية بعد أن عزل أبو موسى عليا ، خدعه عمرو بذلك فهرب أبو موسى إلى مكة ، قام علي في الكوفة فخطبهم وقال في خطبته :

الحمد لله وإن أتى الدهر بالخطب الفادح ، والحدثان الجليل. وأشهد أن لا إله إلا الله وأن محمدا رسول الله. أما بعد : فإن المعصية تورث الحسرة ، وتعقب الندم ، وقد كنت أمرتكم في هذين الرجلين ، يعني أبا موسى وعمرو بن العاص وفي هذه الحكومة أمري ، ونحلتكم رأيي لو كان لقصير رأي ولكن أبيتم إلا ما أردتم فكنت أنا وأنتم كما قال أخو هوازن :

إلا أن هذين الرجلين اللذين اخترتموهما حكمين قد نبذا حكم القرآن وراء ظهورهما ، وأحييا ما أمات القرآن ، واتبع كل واحد منهما هواه ، بغير هدى من الله ، فحكما بغير حجة بينة ، ولا سنة قاضية ، واختلفا في حكمهما ، وكلاهما لم يرشد ، فبرئ الله منهما ورسوله وصالح المؤمنين ، فاستعدوا وتأهبوا للمسير إلى الشام.