في 80 هـ ولى الحجاج عبد الرحمن بن الأشعث على سجستان، وجهز له جيشاً عظيماً للجهاد. فلما استقر ابن الأشعث بها خلع الحجاج، وخرج عليه، وكان ذلك ابتداء حرب طويلة بينهما. وفي 81 هـ قام مع الأشعث أهل البصرة، وقاتلوا الحجاج يوم عيد الأضحى، وانهزم الحجاج، فقيل كانت أربع وثمانون وقعة في مائة يوم، ثلاث وثمانون على الحجاج والباقية له. وفي 82 هـ استعرت الحرب بين الحجاج وابن الأشعث، وبلغ جيش ابن الأشعث مبلغاً كبيراً من القوة والكثرة، ثم جاءت سنة 83 هـ وفيها وقعة دير الجماجم بين الحجاج وابن الأشعث.كانت من أكثر الوقائع هولاً في تاريخ بني أمية، وكان له فيها النصر على الثوار من أصحاب ابن الأشعث. وقُتل فيها خلق كثير، وغنم الحجاج شيئاً كثيراً.

في عام 76 هـ وجه الحجاج خمسة من قادته منهم زائدة بن قدامة الثقفي لقتال شبيب الشيباني البكري الوائلي، فكانت الغلبة لشبيب، فهزمهم جميعاً، ثم خرج «شبيب» من الموصل يريد مهاجمة الكوفة ومعه «غزالة»، وخرج «الحجّاج» من البصرة يريد الكوفة أيضاً، وأسرع «شبيب» لملاقاته قبل وصوله الكوفة، ولكن الحجّاج كان أسرع منه، فدخل الكوفة وتحصّن في قصر الإمارة خوفاً من ملاقاة «شبيب» و«غزالة»، وقد عيّره الشعراء بذلك، ومنهم عمران بن حِطّان وكان ملاحقاً من «الحجّاج»

دامت ولاية الحجاج على العراق عشرين عاماً، وفيها مات. وكانت العراق عراقين، عراق العرب وعراق العجم، فنزل الحجاج بالكوفة، وكان قد أرسل من أمر الناس بالاجتماع في المسجد، ثم دخل المسجد ملثماً بعمامة حمراء، واعتلى المنبر فجلس وأصبعه على فمه ناظراً إلى المجتمعين في المسجد فلما ضجوا من سكوته خلع عمامته فجأة وقال خطبته المشهورة التي بدأها بقول:

أنا ابن جلا وطلاع الثنايا
متى أضع العمامة تعرفوني

قتل الحجاج ابن الزبير وصلبه، وأرسل إلى أمه «أسماء بنت أبي بكر» أن تأتيه، فأبت، فأرسل إليها لتأتين أو لأبعثن من يسحبك بقرونك، فأرسلت إليه: والله لا آتيك حتى تبعث إلي من يسحبني بقروني. فلما رأى ذلك أتى إليها فقال: كيف رأيتني صنعت بعبد الله؟ قالت: رأيتك أفسدت عليه دنياه، وأفسد عليك آخرتك، وقد بلغني أنك كنت تعيره بابن ذات النطاقين، فقد كان لي نطاق أغطي به طعام رسول الله صلى الله عليه وسلم من النمل ونطاق لا بد للنساء منه فانصرف ولم يراجعها. وقيل دخل الحجاج عليها فقال: إن ابنك ألحد في هذا البيت، وإن الله أذاقه من عذاب أليم. قالت: كذبت، كان برا بوالديه، صواما قواما، ولكن قد أخبرنا رسول الله صلى الله عليه وسلم أنه سيخرج من ثقيف كذابان، الآخر منهما شر من الأول، وهو مبير. إسناده قوي وهذا درس في الصدع بقول الحق أمام الجبابرة، لا يقدر عليه إلا من أوتي قوة وشجاعة دين وتوكل.

في 73 هـ قرر عبد الملك بن مروان التخلص من عبد الله بن الزبير، فجهز جيشاً ضخمًا لمنازلة ابن الزبير في مكة، وأمر عليه الحجاج بن يوسف، فخرج بجيشه إلى الطائف، وانتظر الخليفة ليزوده بمزيد من الجيوش، فتوالت الجيوش إليه حتى تقوى تمامًا، فسار إلى مكة وحاصر ابن الزبير فيها، وقد ضرب الكعبة بالمنجنيق حتى هدمها، وقد ذكر الإمام الذهبي ذلك في السير 4/343: أهلكه الله في رمضان سنة خمس وتسعين كهلا، وكان ظلومًا جبارًا ناصبيا خبيثا سافكا للدماء، وكان ذا شجاعة وإقدام ومكر ودهاء، وفصاحة وبلاغة وتعظيم للقرآن، قد سقت من سوء سيرته في تاريخي الكبير، وحصاره لابن الزبير بالكعبة ورميه إياها بالمنجنيق وإذلاله لأهل الحرمين، ثم ولايته على العراق والمشرق كله عشرين سنة، وحروب ابن الأشعث له وتأخيره للصلوات إلى أن استأصله الله، فنسبُّه ولا نحبه بل نبغضه في الله فإن ذلك من أوثق عرى الإيمان، وله حسنات مغمورة في بحر ذنوبه وأمره إلى الله، وله توحيد في الجملة، ونظراء من ظلمة الجبابرة والأمراء.

ذُكر أن الحجاج كان قبيح الوجه وصغير الجسد ، ولكن كان فصيحاً وبليغاً وخطيبا جباراً ، وكان جبارا عنيدا مقداما على سفك الدماء بأدنى شبهة ، وكان حقودًا حسودا كما وصف نفسه وكان شديد الحرص على ان يتحد العالم الإسلامي تحت راية واحدة لعبد الملك بن مروان ، وبمراجعة سريعة على تاريخه وأفعاله يتضح للباحث بأنه كان سياسيا محنّكاً وقائداً مدبراً، وكثيراً ما استخدم المكر والخداع لكي ينتصر في حروبه.

ولم يكن أهل الشام يخرجون في الجيوش، فطلب الحجاج من الخليفة أن يسلطه عليهم، ففعل. فأعلن الحجاج أن أيما رجل قدر على حمل السلاح ولم يخرج معه، أمهله ثلاثاً، ثم قتله وأحرق داره وان تهب ماله، ثم طاف بالبيوت باحثاً عن المتخلفين. وبدأ الحجاج بقتل أحد المعترضين عليه، فأطاعه الجميع، وخرجوا معه بالجبر لا الاختيار.

في الشام، التحق بشرطة الإمارة التي كانت تعاني من مشاكل جمة، منها سوء التنظيم، واستخفاف أفراد الشرطة بالنظام، وقلة المجندين. فأبدى حماسةً وانضباطاً، وسارع إلى تنبيه أولياء الأمر لكل خطأ أو خلل، وأخذ نفسه بالشدة، فقربه روح بن زنباع قائد الشرطة إليه، ورفع مكانته، ورقاه فوق أصحابه، فأخذهم بالشدة، وعاقبهم لأدنى خلل، فضبطهم، وسير أمورهم بالطاعة المطلقة لأولياء الأمر.

كانت الطائف تلك الأيام بين ولاية عبد الله بن الزبير، وبين وِلاية الأمويين، لكن أصحاب عبد الله بن الزبير تجبَّرُوا على أهل الطائف، فقرَّر الحجاج الانطلاق إلى الشام، حاضرة الخلافة الأموية المتعثرة، التي تركها مروان بن الحكم نهباً بين المتحاربين. قد تختلف الأسباب التي دفعت الحجاج إلى اختيار الشام مكاناً ليبدأ طموحه السياسي منه رغم بُعدِ المسافة بينها وبين الطائف، وقرب مكة إليه، لكن يُعتقد أن السَّبب الأكبر كراهته لولاية عبد الله بن الزبير.

وُلِدَ في منازلِ ثقيف بمدينة الطائف، في عام الجماعة 41 هـ. وكان اسمه كُليب ثم أبدَلَهُ بالحجَّاج. وأمُّه الفارعة بنت همام بن عروة بن مسعود الثقفي الصحابي الشهيد. نشأ في الطائف، وتعلَّم القرآن والحديث والفصاحة، ثم عمل في مطلع شبابه معلم صبيان مع أبيه، يعلم الفتية القرآن والحديث، ويفقههم في الدين، لكنه لم يكن راضياً بعمله هذا، على الرغم من تأثيره الكبير عليه، فقد اشتُهِر بتعظيمه للقرآن.