Nach den Pflichtschuljahren kam Hermann Zoller in das Knabenseminar nach Graz. Von 1951 bis 1953 besuchte er die landwirtschaftliche Fachschule Grottenhof.
Im Jahre 1956 kam er in die Gemeindestube, wo er als einziger Sekretär die gesamte Buchhaltung führte.
Als Hermann Zoller im April des Jahres 1960 zum Bürgermeister von Hartmannsdorf gewählt wurde, war er mit 27 Jahren der jüngste Bürgermeister der Steiermark. Mit jugendlichem Elan nahm er die Herausforderung an und peilte vorerst ein Ziel an: Hartmannsdorf aus der Anonymität eines oststeirischen Bauerndorfes herauszuführen. Durch den Bau eines Schwimmbades, des großzügigen Ausbaues von Sportanlagen sowie die Ankurbelung des Fremdenverkehrs gelang in dieser Hinsicht ein beachtlicher Erfolg, sodass bereits im Jahre 1964 die Markterhebung des Ortes gefeiert werden konnte.
Bereits sehr frühzeitig erkannte Hermann Zoller die Notwendigkeit zentrale Ver- und Entsorgungseinrichtungen auch im ländlichen Bereich einzurichten um gute Voraussetzungen für eine geordnete Siedlungsentwicklung zu haben. Neben Ortswasserversorgung und Kanalisation gelang ihm insbesondere mit dem Bau einer Deponie eine geordnete Müllentsorgung. Eine Pionierleistung für den gesamten Bereich der mittleren Oststeiermark. Seit nun 14 Jahren wird auf dieser Deponie der Restmüll von über 70.000 Einwohnern gelagert.
Für die Lebensqualität des Marktes so bedeutsame Installierung einer modernen Ortswärmeversorgung auf Basis "Bioenergie" sowie die Einrichtung eines Kulturzentrums, des sogenannten "Dorfhofes" waren weitere Höhepunkte seines Wirkens. Die mustergültige Siedlungspolitik in deren Rahmen die Gemeinde allen privaten und gewerblichen Bauwerbern erschlossene Grundstücke anbieten konnte, führte schließlich dazu, dass Markt Hartmannsdorf zu den ersten "Modellgemeinden" hinsichtlich der landesweiten Aktion "Ortserneuerung" ausgewählt wurde.
Über das örtliche Wirken hinaus bekleidete Hermann Zoller auch noch durch 20 Jahre die Stelle des Bezirksobmannes im Stmk. Gemeindebund und war zuletzt in der Kommunalpolitischen Vereinigung Stellvertreter des Landesobmannes.
In vielen Bereichen schaute die restliche Steiermark nach Hartmannsdorf "wie's der Zoller macht!". Trotz der schwierigen finanziellen Situation und der Fülle der anstehenden Aufgaben gelangen ihm auf kommunaler Ebene Meilensteine. Die Jugend war ihm ein besonderes Anliegen. Mit der Schaffung von Sport- und Freizeiteinrichtungen gelang es ihm die jungen Leute im Ort zu halten, wenngleich die Arbeitsplätze dünn gesät waren. Selbst die zu seiner Zeit amtierenden Landeshauptleute der Steiermark, Josef Krainer I und II sowie Friedrich Niederl schauten sich seine Lösungen als Beispiele für andere Gemeinden in der Steiermark an.
Aber nicht nur die notwendigen Infrastrukturmaßnahmen zeichneten Hermann Zoller aus. Sein Herz und Ohr gehörten den einfachen und oft nicht begüteten Menschen unseres Ortes. Da er als Gemeindebediensteter ständig im Ort war, kannte er die Sorgen und Nöte nur zu gut. Unzählige Male unterstütze er Menschen zur Erlangung einer Pension oder der Arbeitslosenversicherung. Diese Hilfsbereitschaft spiegelten die einzelnen Wahlergebnisse dar. Seiner Gesinnungsgruppe gelang es immer wieder hervorragende Ergebnisse zu erzielen, wenngleich er auch politische Turbulenzen erleben musste.
Zu Recht und mit Stolz kann behauptet werden, dass die Jahre der Verantwortung des Hermann Zoller zu den innovativsten und erfolgreichsten in der Hartmannsdorfer Geschichte gehören.
Infolge gesundheitlicher Probleme legte Hermann Zoller am 25. November 1991 sein Amt nach 31 Jahren Bürgermeister zurück. Wie er selbst immer wieder betont, freue es ihn nun von der großen Bürde des Bürgermeisteramtes befreit zu sein und sich seinem kleinen landwirtschaftlichen Betrieb und auch seinen Hobbies (Jagen, Bergwandern) widmen zu können.
Ihm wurde wegen der langjährigen Tätigkeit zum Wohle der Gemeinde am 31. Juli 1993 die Ehrenbürgerschaft anlässlich der Vollendung seines 60. Lebensjahres verliehen.