Fast 42 Jahre lang gehörte Herbert Weber dem Konstanzer Gemeinderat als Mitglied der SPD-Fraktion an. Für dieses langjährige Engagement zeichnete ihn Oberbürgermeister Uli Burchardt mit dem Ehrenring der Stadt Konstanz aus. Der OB würdigte Weber als “unermüdlichen Kämpfer für bezahlbaren Wohnraum”. Der SPD-Fraktionsvorsitzende Jürgen Ruff nannte Weber eine “kraft- und wirkungsvolle Stimme” der sogenannten kleinen Leute, einen Sachwalter und Interessensvertreter von Mietern und Arbeitnehmern.

Weber saß seit 1977 bis zu seinem Ausscheiden nach der Kommunalwahl im Mai 2019 für die SPD im Gemeinderat und wurde insgesamt achtmal wiedergewählt. Darüber hinaus war Weber von 2000 bis 2009 und 2011 bis 2014 Mitglied des Kreistages. OB Burchardt bezeichnete Weber als politisch denkenden Menschen und unermüdlichen Kämpfer für bezahlbaren Wohnraum. Schwerpunkt seiner politischen Arbeit war der Erhalt beziehungsweise die Schaffung neuer städtischer und öffentlicher Wohnungen. Weber interpretierte die Wohnraumversorgung vor allem als sozialen Auftrag. Auf die Initiative des Sozialdemokraten geht die Erstellung eines Mietspiegels für Konstanz zurück. Seit 45 Jahren ist der Träger des Bundesverdienstkreuzes (1996) Vorsitzender des Mietervereins Bodensee. 1998 bis 2004 war Weber zudem Landesvorsitzender und von 1999 bis 2007 Präsidiumsmitglied des Deutschen Mieterbunds.