En 1955, les musiciens choisissent Herbert von Karajan comme directeur artistique. Au cours des décennies qui suivent, celui-ci façonne avec l’Orchestre une esthétique sonore unique en son genre, ainsi qu’une culture de l’exécution qui rendent l’Orchestre philharmonique de Berlin célèbre dans le monde entier. Tournées et enregistrements confortent la réputation d’une formation dont chaque musicien est un soliste renommé.

En 1963 est inauguré le magnifique auditorium de la Philharmonie, conçu pour l’Orchestre par Hans Scharoun. Il se trouve aujourd’hui au coeur de la capitale allemande. Dès la fondation du Festival de Salzbourg par Karajan en 1967, l’Orchestre philharmonique de Berlin se produit dans le répertoire lyrique. De 1990 à 2002, l’Orchestre est dirigé par Claudio Abbado, qui insuffle de nouveaux accents à la programmation en élargissant le répertoire à la musique contemporaine, à de nouvelles oeuvres de musique de chambre et à l’opéra en version de concert.

En septembre 2002, Sir Simon Rattle prend la direction de l’Orchestre. Son arrivée coïncide avec la mise en place du programme éducatif intitulé Zukunft@BPhil, qui s’adresse à des publics plus larges et surtout plus jeunes.

Depuis 2006, le Berliner Philharmoniker est en résidence au Festival d’Aix-en-Provence. Outre sa participation au Ring de Wagner (direction musicale Sir Simon Rattle), l’orchestre participe à de nombreux projets pédagogiques et à l’Académie européenne de musique.

En novembre 2007, l'Orchestre et son directeur artistique Sir Simon Rattle ont été nommés Ambassadeurs itinérants de l'UNICEF. C'est à cette occasion que le projet de danse du Sacre du printemps fut donné à New York, au United Palace Theater de Harlem, dans le cadre du Festival "Berlin in light" du Carnegie Hall.