Отец — Василий Васильевич Яковлев, юрист, родился в Воронеже в семье купца Василия Николаевича Яковлева, который был крупным предпринимателем — производителем обуви для воронежского населения. Василий Николаевич владел лавками на площади у Смоленского собора. Мать — Ольга Михайловна Иванова, родилась в Таганроге. Дед Юрия Васильевича был гласным Воронежской городской думы; избирался в 1901, 1905, 1909 и 1913 годах.
Учился в вечерней школе, работал помощником механика в гараже. В 1952 окончил Театральное училище им. Б.В. Щукина (курс Ц. Л. Мансуровой) и сразу же был приглашен в Государственный академический театр им. Евг. Вахтангова.
Первая настоящее выступление в театре — острохарактерная, гротескная роль заморского королевича в сказке С. Маршака «Горя бояться — счастья не видать» (1954), которая стала эскизом для одной из звездных ролей Яковлева — старого майора в спектакле «Дамы и гусары» (1960). Уже в этой постановке проявился незаурядный комедийный талант актера (спектакль с Яковлевым в главной роли продержался в репертуаре театра более двадцати лет — редкий случай). В 1963 была возобновлена знаменитая вахтанговская постановка «Принцесса Турандот», где актер с блеском сыграл буффонного Панталоне. Образ Чехова, созданный Яковлевым в спектакле «Насмешливое мое счастье» по пьесе Л. Малюгина (1965) стал этапным в его творческой биографии. Чеховская тема всегда занимала в судьбе Яковлева особое место. Актер играл Чехова и на сцене и на экрнае, перечитал по радио множество его рассказао, участвовал в пятисерийном документальном фильме «Путешествие к Чехову», где был одним из ведущих вместе с В. Я. Лакшиным.
В 1968 сыграл сложнейшую роль Глумова в спектакле «На всякого мудреца довольно простоты» по А. Н. Островскому, продемонстрировав органическую способность к перевоплощению. Актер создал одновременно сразу несколько характеров, решив всю роль в сатирическом ключе.
В 1960-1980-е годы создал свои лучшие роли не только на театральной сцене, но и в кино (начал сниматься в 1955). Он создает характеры объемные, многоплановые, разнообразные. В 1975 спектакле югославского режиссера Мирослава Беловича «Господа Глембаи» Яковлев поразил зрителя в роли рефлексирующего сербского интеллигента Леона Глембаи, сыграв его темпераментно, страстно, почти на грани нервного срыва. В 1983 режиссер Р. Г. Виктюк поставил на сцене Вахтанговского театра свой вариант романа Л. Толстого «Анна Каренина», пригласив на роль Каренина Яковлева, у которого нашлись краски показать одного из главных толстовского романа любящим, страдающим и мучающимся человеком. На счету актера более 60 театральных работ. Среди других ярких ролей: Казанова («Три возраста Казановы»), Прокофьев («Уроки мастера») и др. И в 1990-е постсоветские годы Яковлев продолжает работать в театре. Одной из самых театральных его работ стала роль мецената Дудукина, беззаветно преданного театру, в спектакле по пьесе А. Н. Островского «Без вины виноватые» (постановка П. Н. Фоменко, 1993). Яковлев — настоящий вахтанговец, наделенный яркой театральностью и одновременно пронизывающий все свои роли лирической интонацией, едва уловимой яковлевской грустью.
Яковлев много снимался в кино и на телевидении, и массовому зрителю он прежде всего знаком по своим знаменитым киноролям, психологически углубленных и эксцентрично-гротескных — князь Мышкин («Идиот», 1958), поручик Ржевский («Гусарская баллада», 1962), Ипполит («Ирония судьбы, или С легким паром», 1975) и некоторым др. Яковлева-киноактера отличает органичность, природное обаяние, глубокого тембра полный обертонов голос. Свою способность внутреннего и внешнего перевоплощения Яковлев с особой силой проявил в одной из первых своих киноролей, сыграв князя Мышкина в экранизации романа Ф. М. Достоевского «Идиот» (постановка И. А. Пырьева, 1958). К сожалению, фильм остался незаконченным (была снята только первая серия). Яковлев сыграл не больного, а совестливого, доброго человека, отвергнутого обществом стяжательства и жажды наживы. Запомнились глаза Мышкина крупным планом, исполненные боли и любви к людям. Следуя великой традиции русского искусства, Яковлев всегда нащупывает нравственную константу, духовный мир его героев необыкновенно богат.
Снялся также в фильмах «Время сыновей» (1986), «Танцующие призраки» (1992), «Восток-Запад» (1999) и др.
Яковлев удостоен премии «хрустальная Турандот» (1998) и премии Деловых кругов премии «Кумир» за высокое служение искусству (1999). В 1997 в издательстве «Искусство» вышла книга мемуаров актера «Альбом судьбы моей».
Скончался в ночь на 30 ноября 2013 года в московской больнице после продолжительной болезни
Жена — Кира Мачульская.
Дети: Елена (1961 г. рожд.) — актриса Театра Сатиры.
Жена — Райкина, Екатерина Аркадьевна.
Дети: Алексей (1961 г. рожд.)
Жена — Ирина Леонидовна Сергеева.
Дети: Яковлев, Антон Юрьевич (1969 г. рожд., усыновлён) — режиссёр, актёр, сценарист.

Юрию Яковлеву к 50-летию
Владимир Высоцкий
Ты ровно десять пятилеток в драке,
В бою за роли, время и блага.
Все Яковлевы - вечно забияки :
Еще в войну повелевали "ЯКи"
И истребляли в воздухе врага! 
Дела их - двояки и трояки,
Якшаться с ними славно и дружить.
Актеры - Яки, самолеты - "ЯКи",
И в Азии быки - всё те же яки...
Виват всем ЯКам - до ста лет им жить! 
Желаем с честью выйти из виража и пьянки,
И пусть тебя минует беда, хула, молва...
Як-50, желают тебе друзья с Таганки
Счастливого полета, как "ЯКу-42"!
1978