Закончив училище в 1960 году, Каневский поступил в труппу театра имени Ленинского комсомола, а уже спустя семь лет он появился в театре на Малой Бронной. В кино Леонид Каневский дебютировал в 1965 году, снявшись в сказке «Город мастеров». А спустя три года на экраны вышла кинокомедия «Бриллиантовая рука». Каневскому досталась небольшая роль контрабандиста. Всесоюзную славу артисту принесла роль майора Томина в известном телесериале «Следствие ведут знатоки». Первые четыре кинофильма вышли в 1971 году и сразу обеспечили главным героям славу. На протяжении двух десятилетий зрители с неослабевающим интересом наблюдали за приключениями знатоков. Хотя снимался актер и других картинах. Всего он сыграл роли в более чем семидесяти фильмах и много ролей в театральных спектаклях.

В 1991 году Леонид Каневский эмигрировал в Израиль, где совместно с режиссером Евгением Арье создал в Тель-Авиве драматический театр «Гешер» (в переводе с иврита — «Мост»); основу труппы составляют актёры, игравшие на сценах московских и ленинградских театров. В 2001 году исполнилась давняя мечта актера — на «Мосфильме» вновь начались съемки сериала «Следствие ведут знатоки». Премьера нового сериала состоялась зимой 2002 года. А вскоре после его выхода на экраны заместитель министра внутренних дел РФ Владимир Васильев наградил Леонида Каневского и Георгия Мартынюка знаком «За содействие МВД России». Также он является Заслуженным артистом РСФСР и кавалером ордена Дружбы. Леонид Каневский женат на Анне Березиной, дочери знаменитого клоуна Штепселя — выдающегося актера Ефима Березина. В настоящее время Леонид Семенович Каневский продолжает свою карьеру артиста - он снимается в кино и играет в театре «Гешер», а еще известен как ведущий документального сериала «Следствие вели…» на «НТВ».