فقد ابن حنبل أباه وهو طفل صغير، فقد قال: «لم أرَ جدي ولا أبي»، والمعروف أن أباه مات بعد ولادته، ولا بد أن ذلك كان وهو صغير لا يعي ولا يدرك شيئاً، بدليل أنه نفى رؤيته لأبيه وجده، وقد ذُكر أن أباه مات شاباً في الثلاثين من عمره، ولقد قامت أمه بتربيته في ظل مَن بقي من أسرة أبيه، وكان أبوه قد ترك له ببغداد عقاراً يسكنه، وآخر يغل له غلة قليلة تعطيه الكفاف من العيش، فاجتمع له بتلك الغلة الضئيلة أسباب الاستغناء عما في أيدي الناس.