Подростком Жан-Мишель играл в рок-группе, а в конце 1970-х годов он приобретает свой первый синтезатор и начинает сочинять электронную музыку. В 1972 году выходит его дебютный альбом Deserted Palace.
Всемирную популярность Жан-Мишель Жарр приобрёл благодаря альбому Oxygene (1976), ставшему классикой электронной музыки. Альбом «космической» синтезаторной электроники Жарра вскоре стал «золотым» и завоевал награду Дисковый Гран-при. Начиная с 1979 года, Жарр провёл десятки музыкально-световых представлений в разных точках планеты.
Жан-Мишель Жарр четыре раза попадал в Книгу рекордов Гиннесса, когда его концерты отмечались как самые массовые в истории. Другой рекорд композитор поставил, выпустив альбом Music for Supermarkets в единственном экземпляре, который был продан на аукционе. Сегодня дискография музыканта насчитывает более 20 альбомов.
Помимо музыкального творчества Жан-Мишель также является президентом Международной конфедерации обществ авторов и композиторов (с 2013 года), занимается коллекционированием роботов, солнечных очков, старых мотоциклов и автомобилей.