يشير المؤرخين إلى أن رغبة الهادي في خلع أخيه هارون الرشيد من ولاية العهد، وجعلها لابنه جعفر كانت سبب الاغتيال، وفي ذلك قال السيوطي: «سمته أمه الخيزران لما عزم على قتل الرشيد ليعهد إلى ولده». وقال ابن خلدون:«لما جدّ في خلع الرشيد خافت عليه منه، فلما ثقل مرضه وصت بعض الجواري فجلست على وجهه فمات». وتوفي الهادي ربيع أول سنة 170 هـ، ودفن في بستانه بعيسى آباذ.