Zarzut plagiatu wytoczył były wokalista grupy Rising Signs, Frankie Duffy. Zdaniem mężczyzny Cave w swoim utworze „Palaces Of Montezuma” skopiował nagranie „Grey Man” pochodzące z jego repertuaru.

– Nasza piosenka była w serwisie YouTube jeszcze na dług po tym, jak Rising Signs rozpadło się. Wydaje mi się, że Nick Cave uznał, że nie dość, że jesteśmy nieznanym zespołem, to na dodatek zakończyliśmy działalność i w związku z tym postanowił wykorzystać nasz kawałek. Każda osoba, której puszczałem nasz utwór i jego, twierdzi, że brzmią identyczne. Nie wiem, może spotkamy się w sądzie – powiedział Duffy.

Co na to Cave? Podczas koncertu w Londynie wokalista określił Szkota mianem „17-latka z Dundee” i zapewnił, że piosenka jest jego autorstwa.