ولد في الكوفة في بيت من بيوت شيوخ قبيلة كندة. كان والده واليًا على الكوفة، حيث تلقى علومه الأولية، ثم انتقل إلى بغداد، حيث حظي بعناية الخليفتين المأمون والمعتصم، حيث جعله المأمون مشرفًا على بيت الحكمة - الذي كان قد أنشئ حديثًا لترجمة النصوص العلمية والفلسفية اليونانية القديمة - في بغداد. عرف الكندي أيضًا بجمال خطه، حتى أن المتوكل جعله خطاطه الخاص.