White wurde 1949 in England geboren. Mit dreizehn Jahren begann er Schlagzeug zu spielen. In den 1960er Jahren spielte er mit Künstlern wie Billy Fury, Alan Price und Ginger Baker. 1969 bat ihn John Lennon, seiner Plastic Ono Band beizutreten, wo er auf den Alben Live Peace in Toronto und Imagine spielte. Durch Lennon kam White in Kontakt mit George Harrison, dem er als Schlagzeuger auf dem Album assistierte Alle Dinge müssen vorübergehen†
Seine Karriere bei Yes begann im Juli 1972 und ersetzte Bill Bruford, der die Band verlassen hatte. Er konnte sofort auf Tour gehen und ist seitdem regelmäßiger Schlagzeuger von Yes.
In den Niederlanden erzielte Yes Hits wie Kreisel (1972) und Besitzer eines einsamen Herzens (1983).