والده هو ثالث خُلفاء بني العبَّاس، مُحمَّد المهدي، والذي تولى ولاية العهد في عهد أبيه أبُو جعفر المنصُور، المُؤسس الحقيقي للخلافة العبَّاسيَّة، ليخلفه في الحكم من بعده لاحقًا.
والدتهُ أُمُّ ولدٍ يمانيَّة جرشيَّة، تُدعى الخيزُران بنت عطاء. اشتراها جدُّ هارُون، الخليفة أبُو جعفر المنصُور في مكَّة من أجل ابنه المهدي بهدف الإنجاب قائلًا: «خذوها إلى ابني المهدي، وقولوا لهُ إنها ستكون ولَّادة». كانت الخيزُران جاريةً هيفاء جميلة، مُثقَّفة وذات طُموحٍ كبير، وقد أحبَّها المهدي حُبًا كبيرًا. ولها الكثير من الرِّوايات والقصص التي تتحدث عن نُفوذها في الأحداث اللَّاحقة.