اختلف المؤرخون في ولادته، فمثلا في كتاب الفهرست لابن النديم قال بأن أصله من الفارياب من أرض خرسان، وفي كتاب المخطوط في تاريخ الحكماء للبيهقي تحدَث عن أصلِ الفارابي بأنه من أرض فارياب في تركستان، وهو ما يتعارض مع ما جاء بأسماء العلماء في معجم البلدان حيث كان أبناء فارياب يُكَنون بالفاريابين كمحمد بن يوسف الفاريابي.