لما طُعِن عمر بن الخطاب ودنت وفاته، أوصى بأن يكون الأمر شورى بعده في ستة ممن توفي النبي محمد وهو عنهم راضٍ وهم: عثمان بن عفان، علي بن أبي طالب، طلحة بن عبيد الله، الزبير بن العوام، عبد الرحمن بن عوف، وسعد بن أبي وقاص. ورفض تسمية أحدهم بنفسه، وأمرهم أن يجتمعوا في بيت أحدهم ويتشاوروا، كما أمر بحضور ابنه عبد الله بن عمر مع أهل الشورى ليشير بالنصح دون أن يكون له من الأمر شيئًا، ثم أوصى صهيب بن سنان أن يصلي بالمسلمين ثلاثة أيام حتى تنقضي الشورى. ومات عمر بن الخطاب بعد ثلاثة أيام من طعنه، ودُفن يوم الأحد أول محرم سنة 24 هـ، الموافقة لسنة 644 م، بالحجرة النبوية إلى جانب أبي بكر الصديق والنبي محمد، وكان عمره خمسًا وستين سنة. وكانت خلافته عشر سنين وستة أشهر وأربعة أيام وقيل عشر سنين وخمسة أشهر وإحدى وعشرين ليلة،
بعد الانتهاء من دفن عمر بن الخطاب ذهب أهل الشورى إلى الاجتماع في بيت عائشة بنت أبي بكر، وقيل إنهم اجتمعوا في بيت فاطمة بنت قيس الفهرية أخت الضحاك بن قيس، وعندما اجتمع أهل الشورى قال لهم عبد الرحمن بن عوف: «اجعلوا أمركم إلى ثلاثة منكم»، فقال الزبير: «جعلت أمري إلى علي»، وقال طلحة: «جعلت أمري إلى عثمان»، وقال سعد: «جعلت أمري إلى عبد الرحمن بن عوف»، وأصبح المرشحون الثلاثة علي بن أبي طالب، وعثمان بن عفان، وعبد الرحمن بن عوف، فقال عبد الرحمن: «أيكما تبرأ من هذا الأمر فنجعله إليه والله عليه والإسلام لينظرن أفضلهم في نفسه» فأسكت الشيخين، فقال عبد الرحمن بن عوف: «أفتجعلونه إليَّ والله على أن لا آلو عن أفضلكما»، قالا: «نعم».
وأخذ عبد الرحمن بن عوف يستشير المسلمين، وبعد صلاة صبح يوم البيعة (اليوم الأخير من شهر ذي الحجة 23 هـ/ 6 نوفمبر 644م) أعلن عبد الرحمن البيعة لعثمان بن عفان وقال: «أما بعد، يا علي إني قد نظرت في أمر الناس فلم أراهم يعدلون بعثمان، فلا تجعلن على نفسك سبيلاً»، فقال عبد الرحمن مخاطباً عثمان: «أبايعك على سنة الله ورسوله والخليفتين من بعده»، فبايعه عبد الرحمن وبايعه الناس المهاجرون والأنصار وأمراء الأجناد والمسلمون.