انحاز عمار إلى جانب علي بن أبي طالب في حربه مع معاوية بن أبي سفيان بعد مقتل عثمان بن عفان، فشهد موقعة الجمل، ثم وقعة صفين. قتل أبو الغادية الجهني عمارَ بن ياسر في وقعة صفين في صفر سنة 37 هـ، وعمره 93 سنة، وهو يقاتل في صفوف جيش علي بن أبي طالب وهو شيخ طاعن في السن في يده حربة ترعد. وقد تواترت أحاديث عدة عن النبي محمد حول مقتل عمار بأنه: «تقتله الفئة الباغية»، عن رواة عدة منهم أم سلمة وأبو قتادة الأنصاري وأبو هريرة وعبد الله بن عمرو بن العاص وحذيفة بن اليمان وعثمان بن عفان وعبد الله بن مسعود وعبد الله بن عباس وآخرين.