ينحدر علي من عائلة فارسية أو سريانية في طبرستان. ذكر حسين نصر أنه تحول إلى الإسلام من الزردشتية ولكن سامي ك. هامارنة وفرانز روزنتال قالا إنه تحول من المسيحية. كان والده سهل بن بشر مسؤولًا رسميًا وعضوًا عالي المستوى ويحظى باحترام كبير في المجتمع السرياني.