عندما خلف المعتصم أخيه المأمون، عينه المعتصم مربيًا لأبنائه. ولكن مع تولي الواثق والمتوكل، أفل نجم الكندي في بيت الحكمة. هناك عدة نظريات لتفسير سبب حدوث ذلك، فقد رجح البعض أن ذلك بسبب التنافس في بيت الحكمة، والبعض قال أن السبب تشدد المتوكل في الدين، حتى أن الكندي تعرّض للضرب، وصودرت مؤلفاته لفترة. فقد قال هنري كوربين - الباحث في الدراسات الإسلامية - أن الكندي توفي في بغداد وحيدًا عام 259 هـ/873 م في عهد الخليفة المعتمد.