İlköğrenimini Aydın'da, orta ve lise öğrenimini İzmir'de tamamlayan İsmet Sezgin, 1950 yılında İzmir Yüksek Ekonomi ve Ticaret Okulundan mezun oldu. Talebe Cemiyeti başkanlığı yaptı ve Türkiye Millî Talebe Federasyonunun aktif bir üyesi olan İsmet Sezgin, Denizli'de Türkiye Emlak Kredi Bankasının şubesinde göreve başladı. İsmet Sezgin Denizli'de matematik öğretmenliği yapan Saadet Hanım'la evlendi.

1952'de Denizli'de Demokrat Parti (DP) İl İdare Kuruluna seçilerek politikaya atılan Sezgin, 1955 yılında henüz 27 yaşında iken Aydın Belediye Başkanı seçildi. Bu görevinden, 27 Mayıs 1960'ta Türk Silahlı Kuvvetlerinin ülke yönetimine el koymasından sonra tutuklanarak ayrılan Sezgin, tutukluluk süresinin sonunda Aydın'da Adalet Partisi (AP) il teşkilatını kurdu. Sezgin, 1961 yılında yapılan milletvekili seçimlerinde Aydın Milletvekili oldu.

1963'ten 1985'e kadar Türk Belediyeciler Birliğinin Genel Başkanlığını yapan İsmet Sezgin, 1966-1967 yılları arasında Gençlerbirliği Başkanlığı görevinde bulundu. 1968 yılında AP Genel Başkan Yardımcılığını üstlenen Sezgin, 3 Kasım 1969'da II. Demirel Hükûmeti bünyesinde Türkiye'de ilk kez faaliyete geçen Gençlik ve Spor Bakanlığına getirildi. Bu görevini III. Demirel Hükûmeti'nde de sürdüren Sezgin, 12 Mart Muhtırası'nın (1971) ardından kurulan I. Nihat Erim Hükûmeti'nin göreve başlamasıyla bakanlıktan ayrıldı. Sezgin, 12 Kasım 1979 yılında kurulan VI. Demirel Hükûmeti'nde aldığı Maliye Bakanlığı görevini, 12 Eylül 1980'de Türk Silahlı Kuvvetlerinin ülke yönetimine el koymasıyla bırakmak zorunda kaldı.

Siyasi yasakların kalkmasından sonra 1987'de Doğru Yol Partisine (DYP) katılan Sezgin, 1991 yılında DYP'den yeniden Aydın Milletvekili seçildi. 20 Kasım 1991'de kurulan VII. Demirel Hükûmeti'nde İçişleri Bakanlığı yapan Sezgin, 25 Haziran 1993'te, Demirel'in cumhurbaşkanı olması üzerine adaylığını koyduğu DYP Kongresi'nin 2. turunda adaylıktan çekildi. Tansu Çiller'in DYP Kongresi'ni kazanmasıyla bakanlık görevinden istifa eden Sezgin, 1995'te TBMM Başkanlığına seçildi ve bu görevi seçime kadar sürdürdü.Temmuz 1996'da Refahyol Hükûmeti'ne tepki göstererek DYP'den istifa eden Sezgin, 7 Ocak 1997'de Demokrat Türkiye Partisinin (DTP) kurucuları arasında yer aldı. 30 Haziran 1997'de kurulan III. Mesut Yılmaz Hükûmeti'nde DTP'den Millî Savunma Bakanlığı yapan Sezgin, 11 Ocak 1999'da kurulan IV. Bülent Ecevit Hükûmeti'ne kadar bakanlık görevine devam etti. 1999 seçimlerinden sonra Hüsamettin Cindoruk'un istifasının ardından DTP Genel Başkanlığına seçilen Sezgin, 18 Mayıs 2002'de genel başkanlıktan ayrılarak aktif politikayı bu mevkiden bırakmış nadir politikacılar arasında yer aldı.