Steinberg suscitaba mucha admiración por su gran musicalidad; la extensión de su repertorio, que incluía mucha música contemporánea; la claridad y precisión de su técnica; su humor y cordialidad como fumador de pipa; y su forma de establecer relaciones respetuosas y sólidas con los músicos.
Fue director invitado, bajo la dirección musical de Charles Munch, cuando dirigió la Octava Sinfonía de Brukner en el concierto retransmitido por televisión desde el Sanders Theater en Harvard University el 9 de enero de 1962. La interpretación tiene la singularidad de que Steinberg habría optado por la revisión de la sinfonía llevada a cabo por Bruckner en 1980 con la ayuda de su alumno y protegido Josef Schalk. Esta es la versión preferida de importantes directores de la generación de Steinberg.
Cincuenta años después, la interpretación sigue siendo muy convincente. Steinberg dirige de memoria, con los ojos a menudo cerrados; no está en su propio mundo, sino en el de Bruckner. Nada parece precipitado ni forzado.
Los críticos de este concierto se mostraron entusiasmados, y el público del Sanders Theatre respondió generosamente, haciendo salir en varias ocasiones a Steinberg, que subió los escalones empinados del estrado una y otra vez. Fue recibido con un espectáculo tan inusual entonces como habitual hoy en día: una orquesta golpeando con sus arcos y uniéndose a la ovación del público.