מאז שעזב את ה"ולווט" המשיך קייל בקריירת סולו לאורך כל שנות פעילותו. אלבומיו התאפיינו במורבידיות ו"עמעום" ואת יצר האוואנגארד שלו, שמר לשיתופי הפעולה עם בריאן אינו ואחרים. מאורח יותר במהלך הקריירה, נקט גם בקו יותר רוקיסטי בעיקר בהופעות שלו, מפורסמת במיוחד תקרית ה"תרנגולת" בה הושלכה תרנגולת שזה עתה נמלק ראשה לבמה וקייל ערף את ראשה בסכין קצבים. רבים ממעריציו הזדעזעו מהמקרה וקייל התנצל בסופו של דבר. מאלבומיו של קייל:"Vintage violence", "Paris 1919", Honi soit", "Last day on earth".