Narodil sa 25. novembra 1917 v jednej z ľudových štvrtí Paríža ako Nathan Korb. Bol synom židovských emigrantov z východnej Európy. Už v 11 rokoch začal pracovať - najprv ako predavač, robotník v tlačiarni i kovolejár.
Prvá časť jeho života, keď vystupoval so svojím bratom, je spojená s revoltujúcimi piesňami, ktoré kritizujú biedu 30. rokov. Nová etapa v tvorbe Lemarqua nastala v roku 1946, keď sa stretol s Yvom Montandom.
Skladateľ Lemarque významnou mierou prispel ku kariére ďalších francúzskych šansoniérov ako Julliet Gréco, Andreé Claveau, Marcel Amont, Patachou a Henri Salvador. Napísal aj hudbu k známym piesňam A Paris, Mathilda alebo Le Temps du muguet. Komponoval aj hudbu k mnohým filmom, najmä k Playtime režiséra Jacqua Tatiho, a k televíznym seriálom. Získal množstvo významných ocenení.
