Bernhard Schwarz wurde in Heidelberg geboren. Nachdem er bereits als Kind mit dem Klavierspiel begonnen hatte, begann er sein erstes Cellostudium bei Walter Clement, Heidelberg, und wurde später von Hans-Wilhelm Kufferath, Bremen, unterrichtet. Von 1966-67 absolvierte er ein Studienjahr in den USA.
Bernhard Schwarz gewann mehrere erste Preise bei den Wettbewerben „Jugend musiziert“. Als Mitglied verschiedener Kammermusikensembles unternahm er zahlreiche Konzertreisen im In- und Ausland und wirkte bei vielen Rundfunkproduktionen und CD-Aufnahmen mit. Seit 1972 ist er 1. Solocellist der Neuen Philharmonie Westfalen.
In der Spielzeit 2016/2017 ist der Cellist mit dem studioorchester duisburg unter Leitung von Thomas Jung zu hören: „Gegensätze ziehen sich an“