Kara Mustafa Paşa 1634 senesinde Merzifon'un Marinca köyünde dünyaya geldi. Bölgenin sipahi ileri gelenlerinden biri olan Oruç Bey'in oğludur. Annesi Abide Hatundur. 4 yaşında yetim kalmıştır. Babasının yakın arkadaşı Köprülü Mehmet Paşa tarafından yaşıtı Köprülü Fazıl Ahmet Paşa ile birlikte yetiştirilmiştir. Sonrasında Köprülü Mehmet Paşanın kızı ile evlenmiştir.
Lehistan Seferleri sırasında Osmanlı orduları serdar-ı ekremliğini önce Köprülü Fazıl Ahmed Paşa yapmıştır. Sonrasında Merzifonlu Kara Mustafa Paşa serdar olmuştur. Lehistan-Litvanya Birliği Kralı Mihal Visevetski Ukrayna'da Kazakların aleyhinde hücuma geçip büyük bir araziyi ve pek çok kaleyi ele geçirmiştir. Bunun üzerine Zaporog ve Sarıkamış Kazakları Hetman'ı Durosenko'ya destek sağlamak için Osmanlı ordusu Köprülü Fazıl Ahmet Paşa serdarlığında Sultan IV. Mehmet'in ve Kara Mustafa Paşa'nın katıldığı sefer başlatıldı.
9 Aralık 1672'ye kadar süren bu seferde Podolya üzerine gidildi. Kamaniçe dahil pek çok şehir ve kale Osmanlılar tarafından ele geçirildi. Bu seferde Osmanlı ordusu, Lehistan Kralı Mihal Visevetski'nin merkez yaptığı Lemberg şehrini kuşatma altına aldılar. Osmanlı'nın bu başarıları Lehistan kralını şaşırtarak barış istemeye zorladı.
Ekim 1672'de başlayan müzakereler sonucunda Osmanlı ve Lehistan arasında barışı sağlayan Bucaş Antlaşması imzalandı. Türkçe ve Latince iki lisan üzerinde yazılmış olan antlaşmanın Türkçe metni Merzifonlu Kara Mustafa Paşa tarafından mühürlenip Lehistan elçisine verilmiş, onlar da Latince metini imzalayıp Kara Mustafa Paşa'ya teslim etmişlerdir.
Bu galibiyet ve anlaşmayla Osmanlılar güney Ukrayna'da bulunan Kazak bölgelerinin koruyucuları konumuna gelmişlerdir. Podolya'da alınan topraklar ile Kaminice merkezli "Podolya Eyaleti" kurularak Osmanlı devletinin sınırı tarihinin en kuzey noktalarına erişmiştir. Bu topraklar üzerindeki Osmanlı idaresi 1699 senesine kadar sürmüştür. Ayrıca Lehistan-Litvanya Birliği senelik vergi vermeye mecbur bırakılmışlardır.
1673 senesinde Ukrayna'da Zaporog ve Sarıkamış Kazakları Hetmanı Döresenko Osmanlı güçleri ile birlikte olmuştu. 1674'de Ruslar Ukrayna Kazaklarına saldırarak birkaç bölgeyi ele geçirdiler. Bunun üzerine Kara Mustafa Paşa, Sultan IV. Mehmed'in de katıldığı yeni bir Lehistan seferi için Ukrayna'ya gitti.
Bu sefer sırasında Kırım Hanı Selim Giray Çehrin üzerine gönderildi. Bunu haber alan ve Çehrin'i kuşatan Rus generali geri çekildi. Kazak Hetmanı Dorsenko Osmanlı karargahına geldi ve Osmanlılara bağlı Ukrayna bölgesi hükümdarı olarak kabul edildi.
Lehistan Kralı Mihal 1673 senesinde hayatını kaybetti. 1671-1676 Osmanlı-Lehistan Savaşı'nın devam etmekte olduğu bu sırada Lehistan-Litvanya Birliği ordularının kumandanlık vazifesini Jan Sobieski devraldı. Lehistan-Litvanya Birliği ordusu 11 Kasım 1673'de Hotin yakınlarındaki yapılan bir muharebede Sarı Hüseyin Paşa komutasındaki bir Osmanlı ordusu kolunu büyük bir yenilgiye uğrattı. Bu Osmanlı yenilgisi 1672 senesinde imzalanmış olan Bucaş Antlaşması'nın koşullarını değiştirmedi. Ancak Jan Sobieski'nin adını yaydı ve 1674 senesinde Lehistan-Litvanya Birliği kralı seçildi.
Jan Sobieski Avusturyalılar aleyhinde Fransa'ya yaklaştı. Fransız arabuluculuğu ile Osmanlılarla savaşı sona erdirmeye çalıştı. Haziran 1675'te Fransa ile Jaworow Antlaşması'nı imzalayıp bu anlaşmanın bir gizli maddesinde Osmanlılar ile barış yapıldıktan sonra Habsburg Avusturya Kutsal Roma Germen İmparatorluğu'na savaş açacağına söz verdi. Ekim 1676'da Osmanlılar ile Lehistan arasında İzvança Antlaşması'nı imzaladı.
Kara Mustafa Paşa 3 Kasım 1676 tarihinde Edirne'de Sadrazam Fazıl Ahmet Paşa'nın hayatını kaybetmesi ile sadrazamlığa getirildi.
Merzifonlu Kara Mustafa Paşa'nın sadrazam olduktan sonra uğraştığı ilk problem Ukrayna'da bulunan Kazak Hetmanlığı'nın kime bağlı olacağıyla ilgiliydi. Zaporog ve Sarıkamış Kazakları Hetmanı Doroşenko 1675 senesine kadar Osmanlılara tabi olmuştu. Ancak 1675 senesinden itibaren Rus taraftarlığına döndü. Doroşenko Ruslarla anlaşarak 19 Eylül 1676'da Sağ Ukrayna Kıyıları Kazakları Hetmanlığını bıraktığını ilan etti ve Rusya'ya sürgüne çekildi.
Merkezi olan Çehrin kalesini Ruslara teslim etti. Bunun üzerine Osmanlı Sadrazamı Merzifonlu Kara Mustafa Paşa Doroşenko'nun azledildiğini bildirdi. Yerine Sağ Ukrayna Kıyıları Kazakları Hetmanlığına İstanbul'da eğitilen Yuri Himelnitskiyi adlı bir papazı atandığını ilan etti. Temmuz 1677'de Şeytan İbrahim Paşa serdarlığı altında bir Osmanlı-Kırım Tatar Hani ordusu I. Çehrin Seferi'ne başladı.
Bu ordu Ağustos ayında Çehrin kalesini kuşatma altına aldı. Kale Osmanlılar tarafından 23 gün kuşatmaya alındı. Ancak kaleyi kurtarmak için büyük bir Rus ordusu geldiği haberi gelince 29 Ağustos'ta serdar ve Kırım Hani kuşatmayı bırakarak geri çekildi. Şeytan İbrahim Paşa İstanbul'a dönünce vezirlikten atıldı ve tutuklandı. Kırım Hani Selim Giray hanlıktan azledildi.
Bu başarısızlık yüzünden Rus çarı anlaşmak için İstanbul'a bir elçi gönderdi. Kara Mustafa Paşa Ruslarla harp taraftarıydı ve bir sefer hazırlığına başlamıştı. Fakat Çehrin kalesinden Rusların çekilip bu kalenin Osmanlılara tabi Kazak Hetmanı'na verilirse sulh yapılabileceğini bildirdi. Rus elçisi buna yanaşmadı. Bunun üzerine elçi ülkesine gönderildi.
1678 senesinde Sadrazam Merzifonlu Kara Mustafa Paşa serdarlığında İkinci Çehrin Seferi başlatıldı. Sultan IV. Mehmet de orduya Silistre'de katıldı. Kara Mustafa Paşa serdarlığında Osmanlı ordusu Ukrayna'da ilerleyerek Çehrin önüne geldi. 21 Ağustos 1678'de Çehrin Osmanlıların eline geçti.
Rus Çarı Aleksey yeni bir strateji olarak Sağ Ukrayna Kıyıları arazilerinde yaşayan Kazakları zorlayıp Dinyeper Nehri batısındaki bölgelerin nüfusunun küçülmesini hedef almıştı. Diğer taraftan Ruslar Çehrin'i yeniden ele geçirmek için hazırlığa başladıkları söylentilerini yaymaya başladılar.
Bu söylentileri haber alan Mustafa Paşa Osmanlı ordusunu yeni bir savaş açmak için Edirne'de toplamaya başladı. Rusya Çarı Aleksey ile Lehistan kralı Jan Sobieski arasında Osmanlıların aleyhinde bir dostluk antlaşması imzalandı.
Çar, toprak kaybetme riskini göze alamayarak barış talep etti. Sadrazam Kara Mustafa Paşa da barış teklifini kabul etti. 31 Ocak 1681 tarihinde Rusya Çarlığı ve Osmanlı Devleti ile Kırım Hanlığı arasında Bahçesaray Antlaşması imzalandı. Buna göre Dinyeper Nehri Osmanlı Devleti ile Rusya Çarlığı arasında sınır olup sağ yakası (batısı) Osmanlı Devletinin elinde kaldı ve Çehrin kalesi Osmanlılara ait olduğu kabul edildi. Dinyeper Irmağı'nın sol yakasının ise, yani Ukrayna'nın doğuşu ve Zaporogya Kazaklar bölgelerinin, Rusya Çarlığı idaresinde olduğu Osmanlılar tarafından onaylandı.
Merzifonlu Kara Mustafa Paşa Avusturya seferine çıktıktan sonra paşalarla birlikte savaş divanı kurup Yanıkkale mi yoksa Viyana üzerine mi gidilmesini tartışmıştır. Pek çok paşanın bu yıl Yanıkkale'nin alınıp bir sonraki yıla daha iyi hazırlanılarak Viyana'nın üzerine gidilmesi fikrine karşı Merzifonlu Kara Mustafa Paşa Viyana üzerine gidilmesine karar vermiştir. Bunun üzerine Osmanlı ordusu Viyana'yı kuşatma altına almıştır.
Mustafa Paşa'nın amacı şehri teslim ile ele geçirmekti. Böylece yeniçerilerin şehri yağmalamalarını önleyecek ve Viyana hazinelerini koruyacaktı. Bu yüzden kuşatma uzadı.
Bu durum Polonya kralı Jan Sobieski komutasındaki 100.000 kişilik Lehistan ordusunun vakit kazanarak Viyana'nın imdadına yetişmesine neden oldu. Haçlı ordusunun Viyana önlerine gelmesi üzerine askerleri siperlerden çıkararak kuşatmayı kaldıran Mustafa Paşa, savaş pozisyonu aldı. Haçlıların ilk saldırısı üzerine Osmanlı hatları yarıldı ve askerler kaçmaya başladılar.
Bunun üzerine sadrazam ordunun tüm ağırlıklarını geride bırakarak Belgrad'a çekildi. Viyana bozgunu üzerine Sultan IV. Mehmet bir hatt-ı şerifle kapıcılar kahyasını Belgrad'a göndererek Merzifonlu Kara Mustafa Paşa'yı 25 Aralık 1683'de idam ettirdi.