SMK Walisongo 2 Gempol berdiri pada tahun 1989 dengan No. Piagam Tanda Bukti Pendirian Sekolah : 1270/32.U/1990. SMK Walisongo 2 Gempol dulu namanya STM Walisongo. Izin Operasional Sekolah ke Kanwil mulai tahun 1988 .
Pada tahun pertama 1989/1990 penerimaan siswa baru mendapat empat kelas dengan jurusan Mesin Tenaga (MT), tahun kedua 1990/1991 6 kelas Mesin Tenaga dan Instalasi Listrik, dan tahun ketiga 1991/1992 10 kelas. Setelah meluluskan angkatan pertama, STM Walisongo melaksanakan Akreditasi di bulan Oktober 1992 dan mendapat akkreditasi dengan status "Diakui".
Setelah itu, pada tahun 1994 ada kebijakan baru dari pemerintah terkait perubahan nama menjadi Sekolah Menengah Kejuruan (SMK). oleh karena itu di Yayasan LPM Walisongo Gempol ini SMEA lebih dulu berdiri sekitar tahun 1986, maka perubahan nama tersebut menjadi SMK Walisongo 1 Gempol (SMEA) dan SMK Walisongo 2 Gempol (STM). SMK Walisongo 2 Gempol pertama kali menggunakan Kurikulum 84, tahun 1994 penambahan jurusan Mekanik Umum (MU) dan Audio Video (AV). Seiring berjalannya waktu tahun 2004 berganti kurikulum Berstandar Industri SKKNI dan jurusan Mesin Tenaga dipecah menjadi dua, yakni Mekanik Otomotif (MO) dan Teknik Pemesinan (TPm). Pada Tahun 2006 berganti kurikulum KTSP 2006 Mekanik Otomotif dipecah lagi menjadi 2 menjadi Teknik Kendaraan Ringan (TKR) dan Teknik sepeda Motor (TSM) yang kemudian lahir jurusan baru di Otomotif. Karena di jurusan Audio Video tidak ada peminatnya maka jurusan tersebut dihapus dan diganti Jurusan Teknik Komputer dan Jaringan (TKJ) tahun 2012. Begitu juga dengan jurusan Instalasi Tenaga Listrik (ITL) berubah menjadi Teknik Instalasi Pemanfaatan Tenaga Listrik (TIPTL) dan sekarang Teknik Instalasi Tenaga Listrik (TITL).
Teknik Kendaraangan Ringan (TKR) dan Teknik Sepeda Motor (TSM) berubah nama Menjadi Teknik Kendaraan Ringan (TKRO) dan Teknik dan Bisnis Sepeda Motor (TBSM) tahun 2018 karena berganti kurikulum K13. Begitu juga dengan kepala sekolah, sudah 6x pergantian kepala sekolah diantaranya Drs. Joko Sunti Wahyudi (1989 s.d. 1992), Drs. Banady Setyo aji (1992 s.d. 2001), Drs. H. Muslikh (2001 s.d. 2004), Drs. H. Makhmud, M.M. (2004 s.d. 2012), H. Afifudin S.T., M.Pd. (2012 s.d. 2017), Ahmad Zaini, S.T., M.Pd. (2017 s.d. 2021), Nanang Hidayat, S.Pd. (2021 s.d. Sekarang)