Im Jahr 1983 begann er seine Berufskarriere als Trainee bei der Deutschen Bank und wurde dort 1984 Direktionsassistent in der Münchener Filiale. Von 1985 bis 1989 war Dr. Walter Referent des Vorstands Ulrich Cartellieri und stieg 1989 in die Direktion der Bezirksfiliale Bochum auf. Zwischen 1995 und 1998 war Dr. Herbert Walter Leiter Produktmanagement Kredit und Kreditsekretariat im Bereich der Privat- und Geschäftskunden in der Zentrale der Deutschen Bank in Frankfurt/Main und zudem seit 1996 Mitglied des Group Credit Committee der Deutschen Bank. 1998 übertrug man ihm die Leitung des Projekts Deutsche Bank 24 AG, was die Zusammenführung des Filialgeschäfts der Deutschen Bank mit der Direktbank-Tochter Bank 24 beinhaltete.
Von 1999 bis 2003 war Dr. Walter Vorstandssprecher der Deutschen Bank 24 und ab dem Jahr 2002 parallel auch als Gesamtleiter des Privat- und Firmenkundengeschäfts Mitglied des zwölfköpfigen Group Executive Committee der Deutschen Bank.