Начал сниматься в кино еще подростком. В 1946 окончил ГИТИС. Играл в Клайпедском русском драматическом театре, с 1948 в Московском театре Сатиры. Вкус актера к широкому спектру комедийных ролей (от эксцентрики до трагикомедии) позволил Папанову стать одним из ведущих мастеров этого театра, в котором он проработал почти 50 лет. Известностью пользовались спектакли «Клоп», «Мистерия-Буфф», «Интервенция», «У времени в плену», «Ревизор», «Гнездо глухаря».
Анатолий Папанов — яркий самобытный артист широкого диапазона ролей. Папанов успешно исполнял драматические роли в кино. Однако всесоюзную популярность он снискал как характерный артист с неповторимой гротескной манерой игры, с нарочито грубой и смачной подачей характера героя, нарочито неправильной речью, острым метким юмором, глупым, громким и не всегда уместным смехом. Наделённый угловатой, грубой внешностью, тяжеловесной мимикой, хриплым голосом, Папанов зло и карикатурно изображал мужланов, хитрых и неотёсанных, скупых и смешных в своей ограниченности и приземлённости. Неподражаемы персонажи, созданные Папановым в «Берегись автомобиля» и «Бриллиантовой руке». Интересно прочтение Папановым образа Кисы Воробьянинова — трусливого и жалкого, в «Двенадцати стульях» Марка Захарова.
Наиболее удачной кинокомедией Папанова следует считать гайдаевскую «Бриллиантовую руку». Персонаж Папанова — бандит-контрабандист Лёлик, колоритный, темпераментный, решительный, изо всех сил стремящийся выглядеть солидным и бывалым, однако в результате производящий впечатление полнейшего глупца — точь-в-точь как Волк в «Ну, погоди!». Каждое появление Папанова на экране, и даже его закадровые реплики вызывают гомерический хохот в зале. Будучи мелкой сошкой в сложной и непонятной структуре преступного сообщества, занимающегося контрабандой ювелирных ценностей в СССР, герой Папанова всеми силами стремится осуществить задуманное, но непрошибаемая глупость и полнейшая никудышность легковесного компаньона (которого он издевательски называет «Козлодоеу» — А. Миронов) неизменно срывает все планы преступников. Вскоре после выхода фильма его стали цитировать по всему СССР, фразы из него надолго стали модными шутками, причём это были именно папановские фразы, и при воспроизведении люди старались скопировать именно папановскую манеру игры. Сам Папанов считал себя артистом гораздо более широкого кругозора, и эту роль вовсе не считал главной в своей карьере, и порой страдал от того, что в массовом сознании он ассоциируется (а то и просто отождествляется) с тупым, хотя и очень обаятельным Лёликом из «Бриллиантовой руки», да ещё вдобавок и с Волком из «Ну, погоди!».
Квинтэссенцией папановской манеры игры стала роль Волка в сериале «Ну, погоди!», озвученная Папановым. По сути, роль Волка включает только отдельные выкрики и междометия (а также несколько песен) и глупый заливистый смех. Смех Волка искренний, отрывистый, хриплый, с кашляющим клокотанием мокроты в прокуренном горле. Он отличается от блеющего, сильно наигранного смеха Лёлика в «Бриллиантовой руке».
Умер 5 августа 1987 года на 65-м году жизни в своей квартире от сердечного приступа, принимая холодный душ в жаркий день (на тот момент в доме не было горячей воды).