Rudolf Lévy uczył się w niemieckich szkołach średnich w Danskt i Karlsruhe, zanim zapisał się do szkoły stolarskiej. Realizując swoje marzenie o zostaniu artystą, przeniósł się do Monachium, aby rozpocząć naukę w Szkole Sztuk Pięknych. W 1903 roku Lévy przybył do Paryża z austriackim artystą Walterem Bondy i studiował w pracowni Henri Matisse'a. Często wracał do Niemiec, gdzie zaprzyjaźnił się z właścicielem galerii Alfredem Fleichtheimem, który zorganizował wiele wystaw w Berlinie i Düsseldorfie poświęconych „Dômiers”, bywalcom kawiarni Le Dôme, takim jak Lévy. Kiedy wybuchła I wojna światowa, Lévy był w Niemczech i został zaciągnięty do wojska. Po wojnie wrócił do Paryża i został kierownikiem pracowni w Académie Matisse. Często podróżował do Afryki Północnej i Stanów Zjednoczonych, gdzie poznał Pascina, Maxa Ernsta i Oskara Kokoschkę. Kiedy naziści doszli do władzy, schronił się na Majorce w Hiszpanii, a później w Stanach Zjednoczonych. W 1943 roku Lévy był we Florencji i planował ucieczkę do Stanów Zjednoczonych, zanim został aresztowany przez żołnierzy SS. W kwietniu 1944 r. Zginął w Auschwitz, a jego obrazy i pisma uległy zniszczeniu.