1963’ten 1985’e kadar Türk Belediyeciler Birliğinin Genel Başkanlığını yapan İsmet Sezgin, 1966-1967 yılları arasında Gençlerbirliği Başkanlığı görevinde bulundu. 1968 yılında AP Genel Başkan Yardımcılığını üstlenen Sezgin, 3 Kasım 1969’da II. Demirel Hükûmeti bünyesinde Türkiye’de ilk kez faaliyete geçen Gençlik ve Spor Bakanlığına getirildi. Bu görevini III. Demirel Hükûmeti’nde de sürdüren Sezgin, 12 Mart Muhtırası’nın (1971) ardından kurulan I. Nihat Erim Hükûmeti’nin göreve başlamasıyla bakanlıktan ayrıldı. Sezgin, 12 Kasım 1979 yılında kurulan VI. Demirel Hükûmeti’nde aldığı Maliye Bakanlığı görevini, 12 Eylül 1980’de Türk Silahlı Kuvvetlerinin ülke yönetimine el koymasıyla bırakmak zorunda kaldı.
Siyasi yasakların kalkmasından sonra 1987’de Doğru Yol Partisine (DYP) katılan Sezgin, 1991 yılında DYP’den yeniden Aydın Milletvekili seçildi. 20 Kasım 1991’de kurulan VII. Demirel Hükûmeti’nde İçişleri Bakanlığı yapan Sezgin, 25 Haziran 1993’te, Demirel’in cumhurbaşkanı olması üzerine adaylığını koyduğu DYP Kongresi’nin 2. turunda adaylıktan çekildi. Tansu Çiller’in DYP Kongresi’ni kazanmasıyla bakanlık görevinden istifa eden Sezgin, 1995’te TBMM Başkanlığına seçildi ve bu görevi seçime kadar sürdürdü.Temmuz 1996’da Refahyol Hükûmeti’ne tepki göstererek DYP’den istifa eden Sezgin, 7 Ocak 1997’de Demokrat Türkiye Partisinin (DTP) kurucuları arasında yer aldı. 30 Haziran 1997’de kurulan III. Mesut Yılmaz Hükûmeti’nde DTP’den Millî Savunma Bakanlığı yapan Sezgin, 11 Ocak 1999’da kurulan IV. Bülent Ecevit Hükûmeti’ne kadar bakanlık görevine devam etti. 1999 seçimlerinden sonra Hüsamettin Cindoruk’un istifasının ardından DTP Genel Başkanlığına seçilen Sezgin, 18 Mayıs 2002’de genel başkanlıktan ayrılarak aktif politikayı bu mevkiden bırakmış nadir politikacılar arasında yer aldı.