A comienzos de 2001, y después de décadas de fumar ininterrumpidamente, la salud de White comenzó a deteriorarse, ya que padecía una hipertensión crónica, siendo hospitalizado en septiembre de 2002 por una insuficiencia renal, a la espera de un trasplante. Por ello se le sometió a un tratamiento con hemodiálisis, pero su organismo no pudo resistir las complicaciones de ambas enfermedades y falleció el 4 de julio de 2003, a las 9 de la mañana, en el Centro Médico Cedars-Sinai, en Los Ángeles, a los 58 años.
Su cuerpo fue incinerado y el 12 de julio sus cenizas fueron esparcidas por su esposa Glodean White en el océano Pacífico en la costa de California, en un evento en el cual participaron cuarenta invitados, entre los cuales se hallaban familiares y amigos cercanos al cantante como Michael Jackson.