В 1955 году он окончил геологоразведочный факультет Московского института цветных металлов и золота, но по специальности работать не стал - поступил в театральное училище им. Щукина (курс Владимира Этуша), которое окончил в 1961 году.
В 1961-1964 годах он работал в Театре Сатиры, в 1964-1966 годах – в театре им. К.С. Станиславского, а с 1966 года – в Театре-студии киноактёра.
Александр Белявский стал первым ведущим популярной в 1960-1970-х годах передачи «Кабачок 13 стульев», в 1980-х годах был постоянным участником телепрограммы Ю.В. Никулина «Белый попугай».
Как киноактер Александр Белявский дебютировал в 1957 году в фильме «Рассказы о Ленине». Всего он сыграл более ста разноплановых ролей. Среди них: Сергей Крылов – «Иду на грозу» (1965), капитан Павлов – «Четыре танкиста и собака» (1966), Григорий Бакин – «Таланты и поклонники» (1973), Саша – «Ирония судьбы, или С легким паром» (1975), Павел Борецкий – «Рожденная революцией» (1977), Фокс – «Место встречи изменить нельзя» (1979), Лев Нарышкин – «В начале славных дел» и «Юность Петра» (оба фильма 1980), Л.И. Брежнев – «Серые волки» (1993) и другие.
Среди его работ в новом тысячелетии – роли в фильмах: «Антикиллер», «Конференция маньяков», «На углу, у Патриарших-2», «Нина», «Сыщики», «Бригада», «Тайны дворцовых переворотов», «Оперативный псевдоним», «Участок», «Ирония судьбы. Продолжение» и других.
Александр Белявский принимал участие в дубляже телефильмов, его голосом говорят британский комик Бенни Хилл, Король Артур в фильме «Первый рыцарь», Робин Гуд в «Стрелах Робин Гуда», Грегуар Леконт в «Уколе зонтиком», майор Жосслен Бомон в «Профессионале», агент Зэд в картине «Люди в чёрном» и другие.
Голос актёра звучит также в мультфильмах «Жил-был Саушкин», «Бюро находок», «Чёрный плащ», «80 дней вокруг света», «Ловушка для кошек» и других.
Александр Борисович Белявский 8 сентября 2012 года погиб, упав с пятого этажа дома в центре столицы. Александр Борисович в последнее время сильно болел, у него было нарушено мозговое кровообращение. Ему было 80 лет. Что это было – суицид или несчастный случай – до сих пор не известно.