Pada akhir 1980-an, Guigsy memulai membentuk sebuah band dengan teman-temannya, Paul "Bonehead" Arthurs (gitar), Tony McCarroll (drum) dan Chris Hutton (vokal). Mereka menamakan grup mereka dengan nama The Rain. Sejak Hutton keluar dari grup, Guigsy mengundang teman sekolahnya, Liam Gallagher, untuk bergabung. Setelah itu, Liam meminta kakaknya Noel Gallagher, untuk bergabung dengan band sebagai manajer pada awalnya, tetapi kemudian menjadi lebih umum dengan posisi pencipta lagu dan lead guitar. Liam Gallagher kemudian menyarankan mereka mengubah nama menjadi Oasis.
Ada beberapa wawancara direkam dengan dia. Noel Gallagher berkata tentang pemain bass-nya "Saya pikir dia berkata kepada saya, dan ini adalah perkataan yang tidak jujur, karena saya berumur 17-tiga belas tahun-untuk total sekitar satu jam. Yang ia katakan adalah manis dan baik-baik saja. Meskipun bassis kompeten, Guigsy sering digantikan oleh Noel Gallagher di awal rekaman band.
Guigsy keluar dari Oasis pada tahun 1999. Noel Gallagher mengklaim Guigsy keluar dari grup mereka memberitahu melalui pesan fax, dan dia menghindari panggilan telepon dari Gallaghers dalam minggu-minggu berikutnya. Meskipun ia akhirnya Gallaghers menyerah mencoba untuk menghubungi dia melalui telepon, Noel juga mengatakan, kalau dia menyimpan kebencian terhadap Guigsy gara-gara pengeluarannya dari grup nya.
