Vandross sufría diabetes e hipertensión. En el 16 de abril de 2003, Vandross tuvo un severo ictus en su casa de Nueva York y estuvo en coma cerca de dos meses. El golpe afectó a su capacidad para hablar y cantar teniendo que usar una silla de ruedas a partir de entonces.
En los Grammy Awards de 2004, Vandross apareció en un segmento de vídeo pre-grabado para agradecer su Premio por Canción del Año, concretamente por su sencillo Dance with My Father, diciendo, Cuando digo adiós, nunca es por mucho tiempo, porque creo en el poder del amor. Su madre, Mary, aceptó el premio en su nombre. Su última aparición pública fue en el 6 de mayo de 2004, en The Oprah Winfrey Show. Vandross falleció el 1 de julio de 2005, en el JFK Medical Center en Edison, Nueva Jersey, a la edad de 54 años.
El funeral de Vandross tuvo lugar en la Iglesia de Riverside, Nueva York, el 8 de julio de 2005. Cissy Houston, miembro fundadora de The Sweet Inspirations y madre de Whitney Houston, cantó en el acto del funeral. Vandross fue enterrado en el George Washington Memorial Park en Paramus, Nueva Jersey. A él le sobrevivió su madre, Mary Ida Vandross, quien murió en 2008.
Vandross destinó dinero hacia la Fundación de Investigación de la Diabetes Juvenil.