A.- Die Jugendanwaltschaft des Bezirkes Zürich führte gegen K. im Zusammenhang mit Ausschreitungen, zu denen es am 30. August 1980 in Zürich im Verlaufe einer nicht bewilligten Demonstration gekommen war, eine Untersuchung wegen Verdachts der Teilnahme an einer öffentlichen Zusammenrottung im Sinne von Art. 260 StGB. Am 2. März 1981 überwies sie die Untersuchungsakten dem Jugendgericht des Bezirkes Zürich mit dem Antrag, K. sei des Landfriedensbruchs schuldig zu erklären und mit einer Busse zu bestrafen.

Mit Eingabe vom 2. März 1981 reichte die Jugendanwaltschaft ein Ablehnungsbegehren gegen die Bezirksrichterin lic. iur. Marianne Herzog, Mitglied des Jugendgerichts, ein. Sie machte geltend, die Jugendrichterin Herzog erscheine in der Strafsache K. als befangen, weil sie zu den Mitunterzeichnern eines im "Tages-Anzeiger" vom 18. September 1980 unter dem Titel "Unsere Jugend - unsere Zukunft" erschienenen Inserates gehöre, in welchem für die im Zusammenhang mit den "Zürcher Jugendunruhen" in Strafuntersuchung gezogenen Personen "Milde und Amnestie" gefordert werde. Frau Herzog gab in ihrer Stellungnahme zum Ablehnungsgesuch die "gewissenhafte Erklärung" ab, dass gegen sie kein Ausstandsgrund vorliege. Die Verwaltungskommission des Obergerichts des Kantons Zürich hiess das Ablehnungsbegehren der Jugendanwaltschaft in der Strafsache K. mit Beschluss vom 28. Oktober 1981 gut.

K. führt gegen den Entscheid der Verwaltungskommission des Obergerichts staatsrechtliche Beschwerde wegen Verletzung der Art. 4 und 58 Abs. 1 BV.

Erwägungen:

1.- Das Bundesgericht hatte sich kürzlich mit einer staatsrechtlichen Beschwerde zu befassen, welche die Bezirksrichterin lic. iur. Marianne Herzog gegen Entscheide erhoben hatte, mit denen die gegen sie in drei Straffällen eingereichten Ablehnungsbegehren gutgeheissen worden waren. Das Bundesgericht trat nicht auf diese Beschwerde ein mit der Begründung, Frau Herzog werde durch die Ausstandsentscheide ausschliesslich in ihrer öffentlichrechtlichen Stellung als Justizbeamtin und nicht in ihrer privaten Rechtssphäre betroffen, zu deren Schutze gegen staatliche Eingriffe die staatsrechtliche Beschwerde allein zur Verfügung stehe (BGE 107 Ia Nr. 54).

Im vorliegenden Falle ist nicht ein Richter Beschwerdeführer, sondern ein Angeschuldigter, gegen den die Zürcher Behörden ein Strafverfahren führen. Er ist befugt, den Entscheid, mit welchem das Ablehnungsbegehren der Jugendanwaltschaft gutgeheissen wurde, mit staatsrechtlicher Beschwerde anzufechten (vgl. BGE 105 Ia 157 und 172). Art. 58 Abs. 1 BV, wonach niemand seinem verfassungsmässigen Richter entzogen werden darf, verleiht dem Einzelnen einen Anspruch auf richtige Besetzung des Gerichts (BGE 91 I 399; 92 I 271). In diesem Anspruch ist eine Prozesspartei nicht nur dann beeinträchtigt, wenn ein von ihr selbst eingereichtes Ablehnungsbegehren zu Unrecht abgewiesen wurde, sondern ebenso dann, wenn die kantonale Behörde das Begehren eines andern Prozessbeteiligten ohne stichhaltigen Grund gutgeheissen hat. Auch im letztgenannten Falle ist das Gericht - ohne Mitwirkung des zu Unrecht ausgeschlossenen Richters - unrichtig besetzt und die Prozesspartei damit in dem Anspruch, den ihr Art. 58 Abs. 1 BV einräumt, verletzt. Der Beschwerdeführer ist somit durch den Beschluss der Verwaltungskommission des Zürcher Obergerichts vom 28. Oktober 1981 in seinen rechtlich geschützten Interessen betroffen und daher legitimiert, gegen diesen Entscheid staatsrechtliche Beschwerde zu führen (Art. 88 OG).

2.- Der Beschwerdeführer macht geltend, der angefochtene Entscheid beruhe auf einer willkürlichen Auslegung der Ausstandsvorschriften des zürcherischen Gerichtsverfassungsgesetzes und verstosse zudem gegen die Garantie des verfassungsmässigen Richters im Sinne von Art. 58 Abs. 1 BV. Die Auslegung und Anwendung des kantonalen Gesetzesrechts kann das Bundesgericht, auch soweit eine Verletzung von Art. 58 Abs. 1 BV gerügt wird, nur unter dem Gesichtswinkel der Willkür überprüfen. Frei untersucht es dagegen, ob die als vertretbar erkannte Auslegung des kantonalen Rechts mit dem Anspruch auf den verfassungsmässigen Richter vereinbar ist (BGE 105 Ia 159 f. E. 3, 174 E. 2b).

a) Gemäss § 96 Ziffer 4 des zürcherischen Gerichtsverfassungsgesetzes vom 13. Juni 1976 (GVG) kann ein Richter abgelehnt werden, wenn Umstände vorliegen, die ihn als befangen erscheinen lassen. Der Ablehnungsgrund der Befangenheit setzt nach der zürcherischen Rechtsprechung nicht voraus, dass der betreffende Richter in einer Angelegenheit tatsächlich befangen und nicht zu einem unparteiischen Urteil fähig ist. Es genügt, wenn aufgrund gewisser Umstände bei objektiver Betrachtung der Anschein einer - wenn auch tatsächlich nicht vorhandenen - Voreingenommenheit des Richters erweckt wird (ZR 45/1946 Nr. 161 S. 297; HAUSER/HAUSER, Erläuterungen zum zürcherischen Gerichtsverfassungsgesetz vom 29. Januar 1911 - aGVG -, N. 7 zu § 113 Ziff. 5 aGVG, welche Vorschrift dem heutigen § 96 Ziff. 4 GVG entsprach).

Die Verwaltungskommission des Obergerichts hielt das Ablehnungsgesuch, welches die Jugendanwaltschaft gegen Bezirksrichterin Marianne Herzog gestützt auf § 96 Ziff. 4 GVG eingereicht hatte, für begründet. Sie führte aus, Frau Herzog habe unter Angabe des Richterberufes ein Inserat mitunterzeichnet, mit dem eine öffentliche Erklärung zu den "Zürcher Unruhen" abgegeben worden sei. In dem Inserat werde neben dem Aufruf zum Gespräch und zur Verständigung mit der rebellierenden Jugend unter anderem die Behauptung aufgestellt, die Jugend habe sich anders als durch Zerschlagen von Glas kein Gehör verschaffen können, und ausserdem werde für die in Strafuntersuchung gezogenen Personen "Milde und Amnestie" gefordert. Diese von der abgelehnten Jugendrichterin mitunterzeichneten Äusserungen erweckten den Eindruck einer Sanktionierung der Gewaltanwendung und liessen darauf schliessen, die Unterzeichner verträten die Meinung, die im Zusammenhang mit den Zürcher Unruhen angehobenen Strafverfahren seien nicht nach den Grundsätzen des geltenden Strafprozessrechts durchzuführen, vielmehr habe der Staat von vornherein auf einen allfälligen Strafanspruch zu verzichten. Frau Herzog habe sich damit öffentlich als Richterin in bezug auf die Behandlung und Beurteilung dieser Verfahren, zu denen auch die Strafsache K. gehöre, in einer Weise einseitig festgelegt, die das bei der Anklagebehörde erweckte Misstrauen in die Unvoreingenommenheit objektiv als gerechtfertigt erscheinen lasse.

b) Der Beschwerdeführer wirft der Verwaltungskommission des Obergerichts vor, sie habe aus dem Text des Inserates, das von Bezirksrichterin Herzog mitunterzeichnet worden sei, willkürliche Schlüsse gezogen. Frau Herzog habe weder zu einem hängigen noch zu einem künftigen Strafverfahren Stellung genommen, sondern in einem politischen Konflikt ihre politische Meinung geäussert. Eine solche Äusserung könne keinen Ablehnungsgrund im Sinne des § 96 Ziff. 4 GVG bilden.

Bezirksrichterin Herzog hat zusammen mit rund 270 andern Personen ein Inserat unterzeichnet, in welchem zu den Jugendproblemen und insbesondere zu den Zürcher Jugendunruhen Stellung genommen wurde. Ob es sich dabei um eine politische Meinungsäusserung handelte und in welchem Sinne die Unterzeichner selber ihre Äusserungen verstanden, ist unter dem Gesichtspunkt des § 96 Ziff. 4 GVG unerheblich. Es kommt nach dieser Vorschrift einzig darauf an, ob die im Inserat enthaltenen Äusserungen bei objektiver Betrachtung geeignet waren, den Anschein zu erwecken, Bezirksrichterin Herzog könne die Strafsache des Beschwerdeführers nicht unvoreingenommen beurteilen.

Das fragliche Inserat bezieht sich auf die Zürcher Jugendunruhen und betrifft somit konkret Handlungen, wie sie dem Beschwerdeführer zur Last gelegt werden. Es ist bekannt, dass Jugendliche bei diesen Unruhen zahlreiche Gewaltakte (Sachbeschädigungen, Plünderungen, Brandanschläge, etc.) verübt und in schwerwiegender Weise gegen die Rechtsordnung verstossen haben. Im Inserat wird nun neben dem Aufruf zum Gespräch und zur Verständigung mit den Jugendlichen unter anderem die Behauptung aufgestellt, die Jugend habe sich anders als durch Zerschlagen von Glas kein Gehör verschaffen können, und es wird für sie Milde und Amnestie verlangt. Wenn die Verwaltungskommission des Obergerichts annahm, diese Äusserungen erweckten den Eindruck, die Unterzeichner billigten die Gewaltanwendung und verträten die Meinung, die Jugendlichen sollten für die bei den Zürcher Unruhen begangenen Delikte nicht bestraft werden, ist das nicht unhaltbar. Es ist zu berücksichtigen, dass an keiner Stelle des Inserates eine Verurteilung der Gewaltakte oder auch nur eine Distanzierung von der Handlungsweise der Jugendlichen zu finden ist. Die Unterzeichner führen im Gegenteil aus, sie seien der Jugend dankbar dafür, dass sie nicht Ja und Amen sage, und erheben die Forderung nach "Milde und Amnestie". Wohl ist es denkbar, dass die Unterzeichner mit dem Begriff "Amnestie" nicht den Verzicht des Staates auf die Strafverfolgung oder den Strafvollzug gegenüber einer bestimmten Gruppe von Delinquenten gemeint, sondern den Ausdruck lediglich im Sinne einer verzeihenden und vergebenden gesellschaftlichen Haltung gegenüber den rebellierenden Jugendlichen verstanden haben. Das ist indes, wie erwähnt, ohne Belang. Entscheidend ist, dass objektiv gesehen aus der Forderung nach Amnestie in Verbindung mit dem gesamten Text des Inserates ohne Willkür der Eindruck entstehen konnte, die Unterzeichner seien der Auffassung, die Jugendlichen, gegen welche im Zusammenhang mit den Zürcher Unruhen ein Strafverfahren geführt wird, sollten straffrei ausgehen. Die Verwaltungskommission des Obergerichts durfte unter diesen Umständen mit sachlichen Gründen annehmen, die von der Jugendrichterin Herzog mitunterzeichneten Äusserungen erweckten den Anschein, Frau Herzog könne die Strafsache des Jugendlichen K., die im Zusammenhang mit den Zürcher Unruhen steht, nicht mit der erforderlichen Unvoreingenommenheit und Unparteilichkeit beurteilen. Eine willkürliche Auslegung des § 96 Ziff. 4 GVG liegt somit nicht vor.

Die Bezirksrichterin Herzog hatte in ihrer Stellungnahme vom 9. März 1981 zum Ausstandsbegehren der Jugendanwaltschaft erklärt, sie habe sich bis anhin immer strikte im Rahmen des Gesetzes bewegt und gedenke, dies auch weiterhin zu tun. Es besteht kein Anlass, an der Richtigkeit dieser Erklärung zu zweifeln. Beim Entscheid über das Ablehnungsgesuch ging es jedoch für die Verwaltungskommission des Obergerichts nicht um die Frage, ob Frau Herzog in der Strafsache des Beschwerdeführers tatsächlich befangen sei, sondern lediglich darum, ob aufgrund des Inserates bei objektiver Betrachtung der Anschein einer Voreingenommenheit entstanden sei. Diese Frage konnte die Verwaltungskommission, wie dargelegt wurde, ohne Willkür bejahen.

3.- Es bleibt zu prüfen, ob die in vertretbarer Auslegung des kantonalen Rechts erfolgte Gutheissung des Ablehnungsbegehrens der Jugendanwaltschaft mit Art. 58 Abs. 1 BV vereinbar ist. Aufgrund der Garantie des verfassungsmässigen Richters hat der Einzelne nach der Rechtsprechung des Bundesgerichts einen Anspruch darauf, dass in einem Verfahren, das ihn betrifft, unvoreingenommene Richter mitwirken, d.h. Richter, welche die nötige Gewähr für eine unabhängige und unparteiische Beurteilung der Streitsache bieten (BGE 104 Ia 273 E. 3 mit Hinweisen). Erscheint ein Richter als befangen, so kann unmittelbar auf Grund des Art. 58 Abs. 1 BV der Ausstand verlangt werden. Aus der Verfassungsvorschrift ergibt sich aber auch allgemein der Anspruch auf richtige Besetzung des Gerichts, und dieser kann auch dadurch beeinträchtigt werden, dass ein Richter in den Ausstand versetzt wird, obschon hiezu kein hinreichender Grund besteht. Der Beschwerdeführer macht geltend, das Ablehnungsbegehren der Jugendanwaltschaft sei gutgeheissen worden, weil Frau Herzog in einem politischen Konflikt eine politische Meinung geäussert habe. Darin könne aber kein Ausstandsgrund erblickt werden, denn auch ein Richter dürfe sich in der Öffentlichkeit politisch betätigen. Dass der Anschein der Befangenheit im vorliegenden Fall durch eine politische Meinungsäusserung der Richterin hervorgerufen wurde, bedeutet nicht, dass es einem Richter unter dem Gesichtspunkt des Art. 58 Abs. 1 BV verwehrt wäre, eine pointierte politische Meinung zu haben und diese öffentlich zu vertreten. Seine politische Haltung macht ihn auch bezüglich der Behandlung von Fällen, in welchen diese zum Tragen kommen kann, nicht befangen (ROLF GEISER, Über den Ausstand des Richters im schweizerischen Zivilprozessrecht, Diss. Zürich 1957, S. 74 f.; RAINER HAMM, Der gesetzliche Richter und die Ablehnung wegen Besorgnis der Befangenheit, Diss. Freie Universität Berlin, 1973, S. 207 ff.). Nach § 39 des Richtergesetzes der Bundesrepublik Deutschland hat sich der Richter "innerhalb und ausserhalb seines Amtes, auch bei politischer Betätigung, so zu verhalten, dass das Vertrauen in seine Unabhängigkeit nicht gefährdet wird" (HAMM, a.a.O., S. 207). Ähnliches wird hinsichtlich der politischen Tätigkeit eines Richters auch in der Schweiz zu gelten haben. Es ist einem Richter von Rechts wegen nicht verwehrt, in der Öffentlichkeit seine politische Meinung zu vertreten und sie allenfalls engagiert zum Ausdruck zu bringen. Äussert er sich jedoch - wie das hier bei Bezirksrichterin Herzog der Fall war - in einer Weise, dass bei einer Prozesspartei ein berechtigtes Misstrauen in seine Unvoreingenommenheit erweckt wird, kann es auch unter dem Gesichtspunkt des Art. 58 Abs. 1 BV nicht beanstandet werden, wenn ein Ablehnungsbegehren gutgeheissen wird. Es mag abschliessend beigefügt werden, dass sich Frau Herzog und die Mitunterzeichner in dem fraglichen Inserat zu konkreten Vorfällen aussprachen, die sich in Zürich ereignet hatten; das kann klarerweise nicht dem Fall gleichgesetzt werden, in dem sich ein Richter in allgemeiner Weise über die Wünschbarkeit der Änderung strafrechtlicher Normen ausspricht. Es versteht sich im übrigen, dass das Vorgehen der Frau Herzog nicht zur Folge haben kann, dass sie wegen der Unterzeichnung des Inserattextes jahrelang in Straffällen, die im Zusammenhang mit Jugendunruhen stehen, nicht mitwirken könnte. Der angefochtene Entscheid ist nach dem Gesagten nicht verfassungswidrig, und die Beschwerde ist daher abzuweisen.