Narodil se a vyrůstal v Paříži, po neradostném dětství se nechal okouzlit tehdy stále ještě poměrně novým uměním – kinematografií.
Začínal jako filmový kritik koncem 20. let a později se režisérské řemeslo učil jako asistent několika režisérů (mj. René Claira). Během 30. let již natáčel vlastní tvorbu, nejprve krátké filmy a později i dlouhometrážní. Do poloviny této dekády se datuje počátek jeho plodné spolupráce se slavným básníkemJacquesem Prévertem (autor scénářů). Z jejich společné dílny vzešly Carného nejlepší a nejslavnější filmy Nábřeží mlh (Le Quai des brumes, 1938) s Jeanem Gabinem a Děti ráje (Les enfants du paradis, 1945) s Jean-Louisem Barraultem a Pierrem Brasseurem, který měl premiéru krátce po osvobození Francie od nacistické okupace. Po válce spolupracoval s dalšími slavnými herci (mj. Gérardem Philipem). Od 50. let umělecká úroveň jeho filmů poněkud klesala, jeho poetiku navíc odmítli tvůrci nastupující Nové vlny.
