En 1973, Mariss Jansons est nommé chef d'orchestre assistant à l'Orchestre philharmonique de Leningrad, Evgeny Mravinsky étant le titulaire.
En 1979, il devient directeur musical de l'Orchestre philharmonique d'Oslo avec lequel il enregistre et effectue de nombreuses tournées. En 1992, il est nommé premier chef invité de l'Orchestre philharmonique de Londres, puis directeur musical de l'Orchestre symphonique de Pittsburgh en mars 1997.
À l'automne 2003, il est promu chef d'orchestre principal de l'Orchestre symphonique de la Radiodiffusion bavaroise, succédant à Lorin Maazel. En septembre 2004, il a également succédé à Riccardo Chailly au poste de directeur musical de l'Orchestre royal du Concertgebouw d'Amsterdam.
Le 1er janvier 2006, il dirige le célèbre concert du Nouvel An à Vienne.
Il a fait de nombreux enregistrements dont l'intégrale des symphonies de Dmitri Chostakovitch.
Avec Mariss Jansons et Andreas Ottensamer
Mariss Jansons en répétition avec l'Orchestre Phi…
Un film de Reiner Moritz. De Nederlandse Opera
Avec Mariss Jansons et Emmanuel Pahud
Orchestre philharmonique de Berlin
Avec Maxim Vengerov