وقد وصل كتاب عمر بن الخطاب إلى المسلمين في الشام في أثناء اجتماعهم في معركة، وكانوا إذا اجتمعوا ولَّوا عليهم أميراً عاماً، ولكنَّ المؤرخين لم يتّفقوا على زمن وصول كتاب عمر بتولية أبي عبيدة، فقال قوم: أثناء حصار دمشق، وقال آخرون: أثناء معركة اليرموك، فقد روى الإمام أحمد عن عبد الملك بن عمير قال: استعمل عمر بن الخطاب أبا عبيدة بن الجراح على الشام، وعزل خالد بن الوليد، فقال خالد بن الوليد: «بُعث عليكم أمين هذه الأمة، سمعت رسول الله ﷺ يقول: أمين هذه الأمة أبو عبيدة بن الجراح»، قال أبو عبيدة: «سمعت رسول الله ﷺ يقول: خالد سيف من سيوف الله ونِعْمَ فتى العشيرة».

بعد وفاة أبي بكر الصديق في 21 جمادى الآخرة سنة 13هـ الموافق 23 أغسطس (آب) سنة 634م، أمَرَ عمر بن الخطاب بتولية أبي عبيدة أميراً على الجيوش وعلى الشام، فكتب إلى أبي عبيدة: «قد ولّيتك جماعة المسلمين، فبثَّ سراياك... وانظر في ذلك برأيك ومَن حضرك من المسلمين... ومَن احتجتَ إليه في حصارك فاحتبسه، وليكن فيمن يُحتبس خالدٌ بنُ الوليد فإنه لا غنى بك عنه».

وفي قصة يوم السقيفة شاهدان لهما مدلولات على شخصية أبي عبيدة بن الجراح: الأول: ذهاب أبي عبيدة بصحبة أبي بكر وعمر إلى سقيفة بني ساعدة عندما عَلِم بخبر اجتماع الأنصار لتأمير أحدهم. الثاني: قول أبي بكر «بايعوا عمر أو أبا عبيدة»، وهذا يدل على أنه كان أهلاً للخلافة، في منزلة أبي بكر وعمر، مع العلم أن أبا عبيدة لم يكن من علياء قريش، ولكنه حصل على الكفاءة بخدمته الجليلة في الإسلام، وبتفرّده وتفوّقه في مناقب القيادة، حتى وصفه النبي محمد بأنه «أمين هذه الأمة». وقد أخرج مسلم عن أبي مليكة قال: سألتُ عائشة: «مَن كان رسول الله ﷺ مستخلفاً لو استخلفه؟»، قالت: «أبو بكر»، فقيل لها: «ثم مَن بعد أبي بكر؟»، قالت: «عمر»، ثم قيل لها: «مَن بعد عمر؟»، قالت: «أبو عبيدة بن الجراح» ثم انتهت إلى هذا. ورُوي أن عمر بن الخطاب قال: «لو كان أبو عبيدة بن الجراح حياً لاستخلفته، فإن سألني ربي عنه قلت: استخلفت أمين الله وأمين رسوله».

«إن رسول الله ﷺ مات وأبو بكر بالسُّنح، فقام عمر يقول: «والله ما مات رسول الله ﷺ وليبعثنه الله فليقطعن أيدي رجال وأرجلهم»، فجاء أبو بكر فكشف عن رسول الله ﷺ فقبَّله، قال: «بأبي أنت وأمي، طبتَ حياً وميتاً، والذي نفسي بيده لا يذيقك الله الموتتين أبداً»، ثم خرج... واجتمعت الأنصار إلى سعد بن عبادة في سقيفة بني ساعدة فقالوا: «منا أمير ومنكم أمير»، فذهب إليهم أبو بكر وعمر بن الخطاب وأبو عبيدة بن الجراح، فذهب عمر يتكلم فأسكته أبو بكر، وكان عمر يقول: والله ما أردت بذلك إلا أني قد هيأت كلاماً قد أعجبني خشيت أن لا يبلغه أبو بكر، ثم تكلم أبو بكر فتكلم أبلغ الناس، فقال في كلامه: «نحن الأمراء وأنتم الوزراء»، فقال حباب بن المنذر: «لا والله لا نفعل، منا أمير ومنكم أمير»، فقال أبو بكر: «لا ولكنا الأمراء وأنتم الوزراء، هم (يعني قريش) أوسط العرب داراً وأعربهم أحساباً، فبايعوا عمر أو أبا عبيدة بن الجراح»، فقال عمر: «بل نبايعك أنت فأنت سيدنا وخيرنا وأحبنا إلى رسول الله ﷺ»، فأخذ عمر بيده فبايعه وبايعه الناس.»

أرسل النبيُّ محمدٌ سريةَ الخبط في شهر رجب سنة 8 هـ الموافق لشهر أكتوبر 629م، وجعل أميرَها أبا عبيدة بن الجراح. فعن جابر بن عبد الله: بعث رسول الله ﷺ بعثاً نحو الساحل، وأمّر عليهم أبا عبيدة بن الجراح، وهم ثلثمائة، فلما كانوا ببعض الطريق فَنِيَ الزاد، فأمر أبو عُبيدة بأزواد الجيش فجمعها، قال جابر: فكان يقوتنا كلَّ يوم قليلاً قليلاً حتى فني، فلم يكن يصيبنا إلا تمرةٌ تمرة. قال الذي سمع من جابر: «ما تغني عنكم تمرة؟»، قال جابر: «كنا نمصُّها كما يمصُّ الصبيُّ الثدي ثم نشرب عليها الماء، فتكفينا يومنا إلى الليل»... قال جابر: لقد وجدنا فقدها حين فَنِيَت، فأصابنا جوع شديد حتى أكلنا الخَبَط، فسمي ذلك الجيش جيش الخبط. قال: ثم انتهينا إلى البحر، فإذا حُوت مثل الظَّرب (الجبل الصغير) فأكلنا منه نصف شهر وادَّهنا من ودكه حتى ثابت إلينا أجسامنا، فأخذ أبو عبيدة ثلاثة عشر رجلاً فأقعدهم في وقب عينه (يريد بيان كبر حجم هذا الحوت)، فلمّا قدمنا المدينة ذكرنا ذلك للنبي ﷺ فقال: «كلوا رزقاً أخرجه الله، أطعمونا إن كان معكم»، فأتاه بعضهم بعضوٍ فأكله، وكانوا قد صنعوا منه قديداً وحملوه معهم.

يُستفاد من هذه القصة أن أبا عبيدة كان يُؤمَّر على السرايا في العهد النبوي، وهذا يدل على ظهور نبوغه العسكري والإداري في عهد النبي محمد.

ورواية ابن سعد تعطي تفسيراً آخر للغزوة، قال: بلغ رسول الله ﷺ أن جمعاً من قضاعة تجمّعوا يُريدون أن يَدنوا إلى أطراف المدينة النبوية، فدعا عمرو بن العاص فعقد له لواءً، وبعث معه ثلاثمئة من سراة المهاجرين والأنصار، وأمره أن يستعين بمن يمرُّ به من بلي وعذرة وبلقين، فلما قرب من القوم بلغه أن لهم جمعاً كثيراً، فبعث إلى رسول الله ﷺ يستمدّه، فبعث إليه أبا عبيدة بن الجراح في مئتين، وبعث معه سراة المهاجرين والأنصار فيهم أبو بكر وعمر، وأمره أن يلحق بعمرو وأن يكونا جميعاً ولا يختلفا، فلحق بعمرو، فأراد أبو عبيدة أن يؤم الناس فقال عمرو: «إنما قدمت عليَّ مدداً وأنا الأمير»، فأطاع له بذلك أبو عبيدة وكان عمرو يصلي بالناس.

وقعت سرية عمرو بن العاص أو ذات السلاسل في شهر جمادى الآخرة سنة 8هـ الموافق لشهر سبتمبر (أيلول) 629م. روى الإمام أحمد في المسند عن عامر الشعبي: بعث رسول الله ﷺ جيش ذات السلاسل، فاستعمل أبا عبيدة على المهاجرين، واستعمل عمرو بن العاص على الأعراب، فقال لهما: «تطاوعا». قال: وكانوا يؤمرون أن يغيروا على بكر، فانطلق عمرو فأغار على قضاعة، لأن بكراً أخواله، فانطلق المغيرة بن شعبة إلى أبي عبيدة فقال: «إن رسول الله استعملك علينا وإن ابن فلان قد ارتبع أمر القوم، وليس لك معه أمر»، فقال أبو عبيدة: «إن رسول الله أمرنا أن نتطاوع، فأنا أطيع رسول الله وإن عصاه عمرو».

بعث النبي محمد أبا عبيدة بن الجراح في أربعين رجلا إلى ذي القصة في شهر ربيع الآخر سنة 6هـ الموافق لشهر أغسطس (آب) 627م. وسبب السرية هو أنه قد بلغه أن بعض القبائل يريدون أن يُغيروا على سرح المدينة وهو يرعى يومئذ بمحل بينه وبين المدينة سبعة أميال، فصلَّوا المغرب، ومشوا ليلتهم حتى وافوا ذا القصة مع عماية الصبح، فأغاروا عليهم، فأعجزوهم هرباً في الجبال، وأسروا رجلاً واحداً، وأخذوا نعماً من نعمهم ورثة، أي ثياباً خَلِقةً من متاعهم، وقدموا بذلك إلى المدينة، فخمسه النبي محمد، وأسلم الرجل، فتركه.

وقصة وقوع ثنيتي أبي عبيدة روتها السيدة عائشة: سمعتُ أبا بكر يقول: «لما كان يومُ أحد، ورُمِيَ رسولُ الله ﷺ في وجهه حتى دخلت في أجنتيه (وجنتيه) حلقتان من المغفر، فأقبلتُ أسعى إلى رسول الله ﷺ وإنسان قد أقبل من قِبَلِ المشرق يطير طيراناً، فقلت: اللهم اجعله طاعة أو "طلحة" حتى توافينا إلى رسول الله، فإذا أبو عبيدة بن الجراح قد بدرني فقال: أسألك بالله يا أبا بكر إلا تركتني فأنزعه من وجنة رسول الله ﷺ، قال أبو بكر: فتركتُه، فأخذ أبو عبيدة بثنيةٍ إحدى حلقتي المغفر فنزعها، وسقط على ظهره، وسقطت ثنية أبي عبيدة، ثم أخذ الحلقة الأخرى بثنيته الأخرى، فسقطت، فكان أبو عبيدة في الناس أثرم (أهتم: وهو الذي انكسرت ثناياه من أصولها)».

ثبت تاريخياً أن أبا عبيدة حضر غزوة أحد التي وقعت في 7 شوال 3 هـ الموافق 23 مارس 625م، وأنه كان من الذين ثبتوا في ميدان المعركة عندما بُوغت المسلمون بهجوم المشركين، وأنه كان من المدافعين عن النبي محمد. ويُذكر أنه نزع يوم أحد الحلقتين اللتين دخلتا من المغفر في وجنة النبي بثنيتيه، فانقلعت ثنيتاه، فحسن ثغره بذهابهما.