أما موطن ميلاده فقد اختلف فيه المؤرخون، فقيل إنه وُلد بمرو في خراسان، «تقع في تركمانستان حاليا» حيث كان يعمل أبوه وجده من قبل، وقيل إنه وُلد ببغداد بعد أن جاءت أمه حاملاً به من مدينة مرو التي كان بها أبوه، وهذا الأخير هو القول الراجح عند جمهرة المؤرخين، فقد روي عن عبد الله بن أحمد بن حنبل أنه قال: سمعت أبي يقول: «قدمت بي أمي حاملاً من خراسان، وولدت سنة أربع وستين ومئة».