Filho de um alfaiate que jamais usava fita métrica, ele preferiu seguir o caminho da família de sua mãe, o avô era mágico e a avó tocava harpa. Acabou indo para o teatro de comédia junto com seus três irmãos. Trabalhou no grupo Marx Brothers (irmãos Marx).

Eles começaram em 1929 quando assinaram um contrato com a Paramount. Lá eles fizeram uma série de comédias consideradas até hoje como clássicas: "No Hotel da Fuzarca", "Os Galhofeiros", "Batutas Burlescos" e "O Diabo a Quatro".

Em 1950 os irmãos se reduzem a três e alcançam ainda mais sucesso com "Uma Noite na Ópera", "Um Dia nas Corridas" e "Uma Noite em Casablanca".

Ele se caracterizou pela irreverência, pelo inesperado e pelo humor inteligente. Fez 14 filmes e o último foi "Skidoo Se Faz a Dois" em 1969. Morreu aos 86 anos, vítima de uma pneumonia.