Martin begann seine Karriere in den 30er-Jahren als Bariton in Musicals und trat in den folgenden zwei Jahrzehnten in 25 Filmen auf. Zu seinen bekanntesten Hits zählen „I Get Ideas“, „To Each His Own“, „Begin the Beguine“ und „There's No Tomorrow“.
Martin kam am 25. Dezember 1913 als Alvin Morris zur Welt und wuchs in ärmlichen Verhältnissen in San Francisco und Oakland auf. „Ich habe immer gesungen“, schrieb er einmal. „Ich habe immer das eine oder andere Instrument gespielt, echt oder ausgedacht. (...) Zuerst machte ich natürlich nur zu meinem eigenen Vergnügen Musik. Ich habe nicht sofort erkannt, dass sie mein Reisepass aus der Armut war.“
Zum Film kam Martin über das Radio. Seine erste Gesangsrolle erhielt er 1936 in „Sing Baby Sing“, in dem auch seine künftige Frau Alice Faye mitspielte. Die Ehe ging 1939 nach zwei Jahren in die Brüche. 1948 heiratete Martin Cyd Charisse, die Ehe hielt 60 Jahre bis zu Charisses Tod 2008.