Мать, опасаясь ареста, сожгла все документы и фотографии, свидетельствовавшие о дворянских корнях Янковских. Жили впроголодь — мать в одиночку кормила на жалованье простого бухгалтера троих сыновей и свою мать. Ходили в обносках, впятером ютились в 14-метровой комнатушке, но хранили обширную библиотеку, учили иностранные языки, много читали.
Со временем семья перебралась в Саратов. Старший из братьев, Ростислав, стал актером еще в Джезказгане, потом уехал в Минск, в Русский театр. Он забрал с собой 14-летнего Олега, там Янковский-младший и дебютировал на сцене.
Вернувшись в Саратов, Олег поступил в Саратовское театральное училище, а потом стал работать в местном драматическом театре, где на первых порах ему доставались лишь эпизодические роли.
Однажды, когда театр гастролировал во Львове, его увидел в ресторане Владимир Басов, режиссер будущего фильма «Щит и меч». Так Олег получил роль Генриха Шварцкопфа. Благодаря фильму «Щит и меч» и картине «Служили два товарища» Янковский стал невероятно популярным.
Серьезные роли в театре, интересные предложения в кино сыпались одно за другим. Фильмы «Зеркало» и «Ностальгия» А.Тарковского, «Полеты во сне и наяву» Р.Балаяна, «Крейцерова соната» М.Швейцера, «Мой ласковый и нежный зверь» Э.Лотяну, «Обыкновенное чудо» и «Тот самый Мюнхгаузен» М.Захарова, «Доктор Живаго» А.Прошкина, «Царь» П.Лунгина, «Анна Каренина» С.Соловьева... Янковский снялся более чем в ста фильмах.
Параллельно с работой в кино Янковский активно работал и в театре. Еще в 1973 году он вышел на сцену «Ленкома» — сцену, со временем ставшую почти что родным домом. Среди его театральных работ самыми яркими стали роли в спектаклях: «Идиот» Ф.Достоевского, «Синие кони на красной траве» М.Шатрова, «Оптимистическая трагедия» В.Вишневского, «Чайка» А.Чехова, «Шут Балакирев» Г.Горина.
Олег Иванович был известен и своей общественной деятельностью — он являлся Академиком Национальной академии кинематографических искусств и наук России, Президентом Открытого российского кинофестиваля в Сочи («Кинотавр») (1991-2005), Президентом благотворительного фонда имени Евгения Леонова (1996-2009).
Олег Иванович Янковский умер 20 мая 2009 года в Москве после тяжелой болезни, был похоронен на Новодевичьем кладбище. Тысячи людей пришли проводить его в последний путь…