A.- S. mietet seit 1. Oktober 1987 von der Stiftung A. eine 4 1/2-Zimmerwohnung und eine Garage an der Schwandenholzstrasse in Zürich. Die Liegenschaft wird von der T. AG verwaltet. Mit Brief vom 12. Dezember 1993 forderte S. die T. AG auf, den Mietzins von monatlich Fr. 1'913.30 zuzüglich Nebenkosten zufolge Hypothekarzinssenkungen herabzusetzen, und bat um entsprechende Mitteilung innert 30 Tagen. Am 4. Januar 1994 schrieb die T. AG, es werde kaum möglich sein, das Begehren innert der gesetzten Frist zu beantworten. In einem Schreiben vom 6. Februar 1994 kam die T. AG auf die Angelegenheit zurück und teilte S. mit, eine Reduktion der aktuellen Mietzinse sei zur Zeit nicht zu verantworten, da sich für die von ihm bewohnte Liegenschaft nach wie vor eine ungenügende Ertragssituation ergebe.

B.- Mit Eingabe vom 9. März 1994 focht S. den Nettomietzins von monatlich Fr. 1'913.30 bei der Schlichtungsbehörde des Bezirkes Zürich als missbräuchlich an. An der Schlichtungsverhandlung vom 16. August 1994 beantragte er die Herabsetzung des Nettomietzinses um 9,8 % per 1. April 1994, eventuell per 1. Oktober 1994. Nachdem an der Verhandlung keine Einigung zwischen den Parteien hatte erzielt werden können, trat die Schlichtungsstelle mit Beschluss vom gleichen Tag auf das Herabsetzungsbegehren nicht ein.

S. erhob Nichtigkeitsbeschwerde beim Mietgericht des Bezirkes Zürich. Dieses wies die Beschwerde mit Beschluss vom 12. Januar 1995 im wesentlichen ab.

C.- Das Bundesgericht tritt auf die zivilrechtliche Nichtigkeitsbeschwerde des S. gegen den Entscheid des Mietgerichts nicht ein.

2. a) Nach Art. 270a Abs. 2 OR muss der Mieter, der den Mietzins herabgesetzt wissen will, ein entsprechendes Begehren zunächst schriftlich beim Vermieter stellen und diesem 30 Tage Zeit lassen, dazu Stellung zu nehmen. Entspricht der Vermieter dem Begehren nicht oder nur teilweise oder antwortet er nicht fristgemäss, so kann der Mieter innert 30 Tagen die Schlichtungsbehörde anrufen. Im vorliegenden Fall ist unbestritten, dass der Beschwerdeführer erst nach Ablauf dieser Frist an die Schlichtungsbehörde gelangt ist. Das veranlasste die Schlichtungsbehörde, auf das Begehren nicht einzutreten. In der Rechtsmittelbelehrung zu ihrem Nichteintretensbeschluss wies die Schlichtungsbehörde darauf hin, dass der Entscheid einzig der Nichtigkeitsbeschwerde an das Mietgericht unterliege.

In der kantonalen Nichtigkeitsbeschwerde, die der Beschwerdeführer in der Folge einreichte, anerkannte er zwar, dass die fristgerechte Anfechtung nach vorgängiger Anfrage beim Vermieter, wie sie Art. 270a Abs. 2 OR vorsieht, grundsätzlich Voraussetzung für die gültige Einleitung des Schlichtungsverfahrens ist. Er stellte sich jedoch auf den Standpunkt, eine Anfrage beim Vermieter sei - analog Art. 108 Ziff. 1 OR - dann nicht nötig, wenn sie sich aufgrund von dessen Verhalten zum vornherein als unnütz erweise. Das treffe auf den vorliegenden Fall zu. Da die Beschwerdegegnerin sich in ihrem Schreiben vom 6. Februar 1994 klar dahin geäussert habe, dass sie den Mietzins nicht reduzieren werde, habe es sich erübrigt, vor der Anfechtung des Mietzinses bei der Schlichtungsbehörde nochmals ein Herabsetzungsbegehren an die Beschwerdegegnerin zu richten. Jedenfalls sei es eine Frage des Bundesrechts, ob das Schlichtungsverfahren unter dem Gesichtspunkt von Art. 270a OR gültig eingeleitet worden sei. Über diese Frage aber habe die Schlichtungsbehörde nicht in einem Nichteintretensentscheid befinden dürfen, der lediglich mit kantonaler Nichtigkeitsbeschwerde an eine gerichtliche Instanz weitergezogen werden könne.

Das Mietgericht prüft im angefochtenen Urteil die Frage, ob Art. 270a Abs. 2 OR der Einleitung des Schlichtungsverfahrens entgegensteht, mit der eingeschränkten Kognition, die ihm im Verfahren der kantonalen Nichtigkeitsbeschwerde zusteht, d.h. einerseits unter dem Gesichtspunkt der Verletzung klaren Recht (§ 281 Ziff. 3 ZPO/ZH), anderseits unter dem Blickwinkel der Verletzung wesentlicher Verfahrensgrundsätze (§ 281 Ziff. 1 ZPO/ZH). Es verwirft im wesentlichen - d.h. soweit sich der geltend gemachte Herabsetzungsanspruch auf die Zeit ab 1. Oktober 1994 bezieht - beide Nichtigkeitsgründe. Im weiteren beanstandet es auch nicht, dass die Schlichtungsbehörde über die Wahrung der in Art. 270a Abs. 2 OR vorgesehenen Frist mit einem Nichteintretensbeschluss entschieden hat und dass sie in der Rechtsmittelbelehrung als einziges Rechtsmittel gegen diesen Entscheid die kantonale Nichtigkeitsbeschwerde angeführt hat.

b) Der Beschwerdeführer macht an sich zu Recht geltend, dass sich die Haltung der kantonalen Instanzen mit der derogatorischen Kraft des Bundesrechts nicht vereinbaren lässt. Dieser Grundsatz verbietet es den Kantonen, mit ihren Verfahrensregelungen die Durchsetzung bundesrechtlicher Ansprüche zu vereiteln (BGE 118 II 521 E. 3c S. 527 mit Hinweis). Das hat nicht nur für materiellrechtliche, sondern auch für aufgrund des Bundesrechts bestehende verfahrensrechtliche Ansprüche zu gelten. Nach Art. 270a Abs. 2 in Verbindung mit Art. 274e und 274f OR können Begehren auf Herabsetzung des Mietzinses unter bestimmten Voraussetzungen zunächst der Schlichtungsbehörde und, falls keine Einigung zustandekommt, anschliessend dem Gericht unterbreitet werden. Die Durchsetzbarkeit dieses bundesrechtlichen Rechtsschutzanspruches setzt voraus, dass zumindest eine gerichtliche Instanz zur Verfügung steht, die seine Voraussetzungen mit voller Kognition prüfen kann.

Das aber ist aufgrund der Verfahrensregelung, wie sie das Mietgericht im angefochtenen Entscheid aus dem kantonalen Prozessrecht ableitet, nicht gewährleistet. Die Schlichtungsbehörde ist keine Entscheidungsinstanz, die einem ordentlichen Gericht vergleichbar wäre. Ihre primäre Aufgabe besteht darin, die Parteien zu einer einvernehmlichen Beilegung ihrer Streitigkeit zu bewegen. Wo ihr das Gesetz ausnahmsweise Entscheidungsbefugnisse zugesteht, stellen ihre Entscheide lediglich "Prima-facie-Vorentscheide" dar, denen für ein späteres gerichtliches Verfahren bloss insofern Bedeutung zukommt, als sie die Verteilung der Parteirollen festlegen (BGE 117 II 421 E. 2 S. 424 mit Hinweisen). Dass die Schlichtungsbehörde über Fragen des Bundesrechts abschliessend entscheidet, widerspricht der bundesrechtlichen Verfahrensregelung in Art. 274e und 274f OR und kann daher auch vom kantonalen Recht nicht vorgesehen werden. Die Schlichtungsbehörde kann deshalb auch über den in Art. 270a Abs. 2 in Verbindung mit Art. 274e und 274f OR verankerten Rechtsschutzanspruch des Mieters höchstens einen "Prima-facie-Vorentscheid" fällen, welcher der unterliegenden Partei die Möglichkeit eröffnet, gemäss Art. 274f Abs. 1 OR das Gericht anzurufen. Wird der Entscheid der Schlichtungsbehörde dagegen gestützt auf kantonales Recht als abschliessend und bloss noch mit einem ausserordentlichen Rechtsmittel anfechtbar aufgefasst, so bedeutet dies, dass keine gerichtliche Instanz mit voller Kognition über die Tragweite der bundesrechtlichen Verfahrensvorschrift von Art. 270a Abs. 2 OR befindet.

3. (Ausführungen darüber, dass der Beschwerdeführer entgegen der Rechtsmittelbelehrung der Schlichtungsbehörde beim Mietgericht eine Klage auf Mietzinsherabsetzung hätte einleiten können, dass er dies jedoch nicht getan, sondern stattdessen kantonale Nichtigkeitsbeschwerde erhoben habe, obschon er die Rechtsmittelbelehrung der Schlichtungsbehörde als unrichtig erkannt habe; da die Klagefrist (Art. 274f Abs. 1 OR) inzwischen längst abgelaufen sei und dem Beschwerdeführer die Anrufung des Gerichts folglich ohnehin verschlossen bleibe, fehle ihm für das bundesgerichtliche Nichtigkeitsbeschwerdeverfahren ein hinreichendes Rechtsschutzinteresse).