Na świat przyszedł jako Alfred Cini. Do wejścia w showbiznes przekonał go sukces obdarzonego potężnym głosem italoamerykańskiego tenora Mario Lanzy, z którym przyjaźnili się w dzieciństwie. Już w 1952 r. Martino zaczął przebijać się w branży muzycznej. Największe sukcesy jako muzyk odnosił na kontrakcie w Captiol Records w latach 60., kiedy wykonywał hity w rodzaju "I Love You Because" czy "Spanish Eyes".
Kinomanom znany jest z roli powiązanego z mafią śpiewaka Johnny Fontane'a, który odegrał w "Ojcu chrzestnym", a powtórzył w trzeciej części filmu Francisa Forda Coppoli. Postać grana przez Martino była do pewnego stopnia inspirowana doniesieniami o mafijnych koneksjach Franka Sinatry
, które miały mu zapewnić Oscara za "Stąd do wieczności"