Ali (właściwie Robert Patterson) zasłynął współpracą w latach 60. z Johnem Coltrane`em, kiedy to szerokim echem odbiły się jego pionierskie działania na polu free jazzu.
W latach 80. i 90. Ali współpracował z innymi artystami – Phalanx, By Any Means oraz Prima Materia. Na swoim koncie ma również nagrania z takimi ludźmi jak Albert Ayler, Archie Shepp, Don Cherry, Gary Bartz, Dewey Redman oraz Carlos Santana.
W XXI wieku Rashied skupił się na nagraniach w ramach swojego zespołu Rashied Ali Quintet.
Dodatkowo perkusista był założycielem nowojorskiego klubu Ali`s Alley oraz wytwórni Survival Records.
