هو: عامر بن عبد الله بن الجراح بن هلال بن أُهَيْب بن ضبَّة بن الحارث بن فهر بن مالك بن النضر بن كنانة بن خُزيمة بن مُدركة بن إلياس بن مُضر بن نزار بن مَعَدّ بن عدنان. ويقفون في نسبته عند فهر فيقولون «الفهري»، وقيل: إن فهر هو قريش، وأول مَن تلقَّب بقريش. وقد اشتُهر بكنيته والنسبة إلى جده، فيقال: أبو عُبيدة بن الجرَّاح. وهو يجتمع مع النبي محمد عند فهر بن مالك، فالنبي من أولاد غالب بن فهر، وأبو عبيدة من أولاد الحارث بن فهر.
أبوه: عبد الله بن الجراح، لا يُعرف، ولم يُذكر إلا في قصته مع ابنه أبي عبيدة يوم بدر، وفي كتب الأنساب اضطراب في سَوق نسب أبي عبيدة، قال ابن حجر في الإصابة: أبو عبيدة بن الجراح، مشهور بكنيته وبالنسبة إلى جده، ومنهم من لم يذكر بين عامر والجراح «عبد الله» وبذلك جزم مصعب الزبيري في «نسب قريش»، والأكثر على إثباته.
أمه: أُميمة بنت غَنْم بن جابر، وفي «جمهرة أنساب العرب» لابن حزم الأندلسي: أميمة بنت عثمان بن جابر بن عبد العزى بن عامرة بن عميرة بن وديعة بن الحارث بن فهر، ونقل ابن حجر عن خليفة أن أم أبي عبيدة أدركت الإسلام وأسلمت.
ولم تذكر المصادر التاريخية شيئاً عن نشاط أبي عبيدة في الجاهلية، فبدأ تأريخ حياته يوم إسلامه. ونقل ابن هشام وغيره أنه «أسلم قبل أن يدخل رسول الله ﷺ دار الأرقم ابن أبي الأرقم».
