Ha studiato flauto (Annamaria Morini, Manuela Wiesler) e Filosofia (tesi su "L'Anticristo" di Nietzsche). A 22 anni vince lo storico premio "Kranichsteiner" di Darmastadt e comincia così la sua carriera di solista. Ha tenuto recital e concerti per flauto e orchestra nelle più grandi sale del mondo. La sua attività gode di uno straordinario successo di critica; il "New York Times" ha scritto "Ha un suono del quale si vorrebbe essere imbevuti", mentre "Le Monde de la musique" ne loda la "tecnica senza limiti".

Una parte importante del repertorio solistico contemporaneo è indissolubilmente legata alla sua personalità musicale. Mario Caroli insegna flauto nei cicli superiori del Conservatorio di Strasburgo, dove vive, e nelle più grandi Istituzioni musicali, Conservatori e Università di tutto il mondo.Tra gli impegni della stagione 2007, Mario Caroli sarà impegnato  nel ruolo protagonistico del flauto-poeta nell'Opera "Hyperion" di Bruno Maderna allo Staatstheater di Stuttgart; alla Philarmonie  di Berlino sarà possibile ascoltarlo in recital (Boulez, Jolivet), e in concerto al Palais des Beaux Arts di Bruxelles con l'Orchestre National de Belgique (Ibert, "Concerto" per flauto e orchestra). Mario sarà inoltre in residenza nella prestigiosa università di Harvard nel 2007 e 2008.