ولأن أصل أسرة أحمد بن حنبل من البصرة فقد عُرف بأنه «البصري»، وُيروى أن أحمد بن حنبل كان إذا جاء البصرة صلى في مسجد مازن، وهم من بني شيبان، فقيل له في ذلك فقال: «إنه مسجد آبائي». ولكن مقام أسرة أحمد بن حنبل لم يستمر بالبصرة، بل إن جده حنبل بن هلال انتقل إلى خراسان، وكان والياً على سرخس في العهد الأموي، ولما لاحت الدعوة العباسية في الأفق عاون دعاتها وانضم إلى صفوفهم حتى أوذي في هذا السبيل. أما أبو أحمد فهو محمد بن حنبل، وقد كان جندياً، وقيل إنه كان قائداً، فقد روي عن الأصمعي أنه قال: «أبو عبد الله أحمد بن حنبل من ذهل، وكان أبوه قائداً»، وذهل هو ذهل بن ثعلبة بن عكابة، وقال ابن الجزري: «كان أبوه في زي الغزاة».