В 1956 году окончил Одесский институт инженеров морского флота по специальности «инженер-механик подъемно-транспортного оборудования портов».
В студенческие годы Жванецкий участвовал в самодеятельности, в это время он начал писать миниатюры и монологи, которые часто сам и исполнял. В 1963 году во время гастролей в Одессе Ленинградского театра миниатюр познакомился с Аркадием Райкиным, который взял его произведения в репертуар театра, а в 1964-м пригласил его самого в свой театр на должность завлита. Вместе со Жванецким Райкин поставил в 1969 году программу «Светофор», в которой впервые прозвучали легендарные миниатюры «Авас», «Дефицит», «Век техники».
Михаил Жванецкий в период работы в театре Аркадия Райкина сотрудничал с Романом Карцевым и Виктором Ильченко, для которых написал более 300 миниатюр и монологов. Обретя индивидуальный стиль, он ушел из театра Райкина и стал работать самостоятельно. Выступая в Одесской филармонии, а затем в московском театре «Эрмитаж», Жванецкий приобрел всесоюзную известность.
В 1988 году сатирик создал Московский театр миниатюр и стал его художественным руководителем. В театре по его произведениям были поставлены спектакли «Птичий полет», «Избранное», «Политическое кабаре», «Моя Одесса», «Престарелый сорванец».
За годы литературной деятельности Жванецкий опубликовал несколько книг («Встречи на улицах», «Год за два», «Моя Одесса»), а также собрание произведений в четырех томах. Помимо руководства театром и литературной деятельности он также являлся постоянным ведущим (с 2002 по 2019 год) ежемесячной телепередачи «Дежурный по стране» на канале Россия-1.
Народный артист России и Украины, обладатель различных наград и премий, почетный гражданин города Одессы - Жванецкий в октябре 2020 года принял решение закончить концертную деятельность по состоянию здоровья.
Михаил Михайлович Жванецкий скончался 6 ноября 2020 года в Москве на 87-м году жизни, был похоронен на Новодевичьем кладбище столицы.