في 73 هـ قرر عبد الملك بن مروان التخلص من عبد الله بن الزبير، فجهز جيشاً ضخمًا لمنازلة ابن الزبير في مكة، وأمر عليه الحجاج بن يوسف، فخرج بجيشه إلى الطائف، وانتظر الخليفة ليزوده بمزيد من الجيوش، فتوالت الجيوش إليه حتى تقوى تمامًا، فسار إلى مكة وحاصر ابن الزبير فيها، وقد ضرب الكعبة بالمنجنيق حتى هدمها، وقد ذكر الإمام الذهبي ذلك في السير 4/343: أهلكه الله في رمضان سنة خمس وتسعين كهلا، وكان ظلومًا جبارًا ناصبيا خبيثا سافكا للدماء، وكان ذا شجاعة وإقدام ومكر ودهاء، وفصاحة وبلاغة وتعظيم للقرآن، قد سقت من سوء سيرته في تاريخي الكبير، وحصاره لابن الزبير بالكعبة ورميه إياها بالمنجنيق وإذلاله لأهل الحرمين، ثم ولايته على العراق والمشرق كله عشرين سنة، وحروب ابن الأشعث له وتأخيره للصلوات إلى أن استأصله الله، فنسبُّه ولا نحبه بل نبغضه في الله فإن ذلك من أوثق عرى الإيمان، وله حسنات مغمورة في بحر ذنوبه وأمره إلى الله، وله توحيد في الجملة، ونظراء من ظلمة الجبابرة والأمراء.