Образование получил сначала в театральной студии при Иркутском областном драматическом театре, а затем - ВГИК (мастерская Г.В. Александрова).
Первый свой фильм «Долгий путь» он поставил в 1956 году, и это был фильм по мотивам сибирских рассказов В.Короленко. Второй фильм был кинокомедией, и в этом жанре Гайдай достиг вершины своего творчества. Каждая его комедия – настоящий шедевр, полный искрометного юмора, и в то же время имеющий социальное звучание. Любимой эпохой режиссера была эпоха 1920-х годов, которую он воспроизвел в фильмах «12 стульев», «Не может быть!».
Любимыми героями комедий Гайдая является знаменитая троица Балбес, Трус и Бывалый в исполнении актеров Юрия Никулина, Георгия Вицина и Евгения Моргунова. Впервые снявшись в 1961 году в короткометражке «Пес Барбос и необычайный кросс», они появились в фильме «Самогонщики» (1962), в третьей части комедии «Операция «Ы» и другие приключения Шурика» (1965) и в «Кавказской пленнице» (1966).
Две последние комедии, а также «Бриллиантовая рука» (1968) являются самыми кассовыми фильмами режиссера, за время проката их посмотрели практически все жители СССР. Гайдай признан классиком комедийного жанра. Верной музой и помощницей режиссера была его жена - Нина Гребешкова.
В годы перестройки Гайдай снял фильмы «Опасно для жизни!» (1985), «Частный детектив, или Операция «Кооперация» (1989) и «На Дерибасовской хорошая погода, или На Брайтон-Бич опять идут дожди» (1992). Также в 1980-х годах он снял несколько сюжетов для киножурнала «Фитиль».
Леонид Гайдай скончался 19 ноября 1993 года в Москве в результате тромбоэмболии легочной артерии, был похоронен на Кунцевском кладбище столицы.