İsmail Haniye 29 Ocak 1963 tarihinde 1948 Arap-İsrail Savaşı sırasında Aşkelon şehrinden kaçarak mülteci durumuna düşmüş bir ailenin çocuğu olarak Gazze Şeridi'ndeki Elşati mülteci kampında dünyaya geldi.  

İlk ve orta öğrenimini Birleşmiş Milletler Mülteciler Yüksek Komiserliği'nin finansman desteği sağladığı Filistin kamplarında açılan okullarda tamamladı.  Lise yıllarında Müslüman Kardeşler Hareketi'ne katıldı. Bunun yanında İslamcı Öğrenciler Derneği'nde de siyasi çalışmalarda bulundu.

1987'de Gazze İslam Üniversitesi'n Arap Dili ve Edebiyatı bölümünden mezun oldu. 1989'da I. İntifada'ya katıldığı ve Hamas üyesi olduğu gerekçesiyle tutuklandı. 1992'de serbest bırakıldıktan sonra, İsrail tarafından diğer İslami Cihad ve Hamas üyesi 415 kişilik grubun arasına katılıp, Güney Lübnan'a sürüldü. Ertesi yıl Gazze'ye geri döndü.

 Bu dönemde İntifada Koordinasyon Komitesi'nde Hamas temsilciliğine tayin edildi. 1999-2004 yılları arasında da Şeyh Yasin'in özel kalem müdürlüğünü yaptı. Aralık 2005'te yapılan ve 25 Ocak 2006'da tekrarlanan Filistin Yasama Konseyi seçimlerinde Hamas lideri Halid Meşal'in Şam'da sürgünde bulunmasından dolayı listenin en başında yer aldı. Hamas'ın 132 sandalyeden 74'ünü aldığı seçimler sonucunda Haniye, 16 Şubat 2006'da Hamas'ın başbakan adayı olarak açıklandı. 19 Şubat'ta, ABD ve İsrail'in karşı çıkmalarına rağmen Filistin başkanı Mahmud Abbas tarafından başbakanlığa atandı.

Ekim 2006'da Gazze'de El Fetih ile Hamas üyelerinin çarpışmaları sırasında konvoyuna düzenlenen saldırıdan kurtuldu. Mayıs 2007'de İsrail'in evine karşı düzenlediği füze saldırısını atlattı. Fakat 2007'de Gazze Şeridi'ndeki Hamas ile El Fetih arasındaki çatışmaların zirveye çıkması üzerine vazifesinden alındı.