ولما غربت النبوة ، ولحق رسول الله صلّى الله عليه وسلّم بالرفيق الأعلى ، طمع في خلافته كثيرون من المهاجرين والأنصار ، وبدا للناس يومذاك أن بني هاشم كانوا يريدون الخلافة فيهم ، ويرون عليا أحق الصحابة بها ، لمكانته العظمى من الرسول الكريم ، وسعة علمه ، ومواقفه الخالدة في نصرة الإسلام ، فلا غرو إذا أقبل العباس عم النبي على ابن أخيه علي يقول له : «ابسط يدك ولنبايعك» ، لكن عليا كرم الله وجهه تباطأ في قبول هذه البيعة ، وظل متشاغلا بدفن الرسول العظيم. وانطفأت الفتنة ، وبويع أبو بكر رضي الله عنه بما يشبه الإجماع ، وإذا بعلي كرم الله وجهه يبايعه أيضا بعد فترة يسيرة كان عاتبا فيها عليه ، إذ كان يرى لنفسه من الحق بالخلافة أكثر مما كان لأبي بكر.

ولم يكن شيء أبغض إلى قلب علي من الخلاف يدب بين المسلمين ، فها هو ذا غم ما كان يرى من حقه بالخلافة يبايع أيضا عمر رضي الله عنه ، ويزوجه ابنته أم كلثوم ، ويبادله عمر من معاني التكريم والإجلال أسماها ، فيستخلفه على المدينة إذا غاب عنها ، ويستشيره في الخطوب ، ويستفتيه في قضايا التشريع قائلا فيه : «لولا على لهلك عمر»!

ولقد رفض عمر أن يعهد بالخلافة إلى ابنه عبد الله من بعده ، وظل في مشكلة الخلافة غير مستقر على رأي ، حتى إذا طعنه أبو لؤلؤة المجوسي في أواخر سنة 23 ه آثر أن يحصر الأمر في ستة من كبار أصحاب النبي ليتشاوروا ويختاروا واحدا منهم فيبايعه المسلمون. وأولئك الستة هم : علي بن أبي طالب سيد بني هاشم ، وعثمان بن عفان شيخ بني أمية ، وطلحة بن عبيد الله كبيرا بني تميم ، والزبير بن العوام زعيم بين أسد ، وسعد بن أبي وقاص وعبد الرحمن ابن عوف رأسا بنى زهرة.

وربما مال أكثرهم منذ بدء الشورى إلى تولية عثمان ، لأن عبد الرحمن بن عوف كان صهره ، وسعدا من أقربائه ، فضلا على سابقته في الإسلام ، وإصهار للنبي صلّى الله عليه وسلّم مرتين في ابنتيه رقية وأم كلثوم. وبدا على رجال الشورى أن كلا منهم ود لو يتخفف من تلك المسؤولية الضخمة ، إذ خلع كل نفسه وعهد إلى الآخر باختيار الخليفة ، حتى إذا انتهى الأمر إلى عبد الرحمن أعلن في الحرم سنة 24 ه تولية عثمان. وامتعض بنو هاشم لتحامل القوم عليهم ورغبتهم في إقصائهم ، ولكن عليا الذي يكره الخلاف بين المسلمين آثر هذه المرة أيضا أن يطفئ الفتنة ، ويحقن الدماء ، فبايع عثمان كما بايع من قبل أبا بكر وعمر ، وإن في العين قذى ، وفي الحلق شجا.