Zainudin menjabat sebagai anggota DPR tiga kali berturut-turut dengan daerah pemilihan (dapil) berbeda. Ia menjabat anggota DPR RI mewakili Provinsi Gorontalo pada 2004-2009, dilanjutkan 2009-2014 mewakili Jawa Timur.
Di DPR, Zainuddin berkali-kali dimutasi ke beberapa komisi berbeda. Pada 2014, ia bertugas sebagai Wakil Ketua Komisi VII yang membidangi energi, riset dan teknologi, dan lingkungan hidup. Saat itu, ia getol memberikan pendapat soal gas yang merupakan komoditas strategis sehingga pemerintah harus menyusun kebijakan yang mengatur penggunaan, distribusi dan pengolahan gas bumi secara jelas, tegas dan memikirkan kepentingan nasional.
Pada 2015, ia bertugas di Komisi VIII yang membidangi agama, sosial, dan pemberdayaan perempuan. Pada 2016, ia dipindahkan ke Komisi I dengan lingkup tugas bidang pertahanan, luar negeri, komunikasi dan informatika, dan intelijen.
Kemudian sejak 2016, Zainudin ditugaskan menggantikan posisi Rambe Kamrulzaman sebagai Ketua Komisi II yang bertanggung jawab dalam bidang pemerintahan dalam negeri dan otonomi daerah, aparatur dan reformasi birokrasi, kepemiluan, pertahanan dan reforma agraria.
