McKenzie zaczynał w doo-wopowej grupie The Abstracts, znanej też jako The Smoothies. Z formacji tej wyłonił się później inny zespół, The Journeymen, który oprócz McKenziego tworzyli John Phillips i Dick Weissman.

Gdy The Journeymen rozpadło się w latach 60., pojawiła się propozycja, by McKenzie dołączył do Phillipsa i jego nowej kapeli The Mamas And The Papas. Wokalista odmówił i dopiero w latach 80. wszedł do składu nowej wersji grupy.

Największym jego przebojem pozostanie jednak singiel „San Francisco (Be Sure To Wear Flowers In Your Head)”. Napisany przez Phillipsa utwór McKenzie zaśpiewał w czerwcu 1967 roku w celu promocji festiwalu Monterey Pop.