A.- Mit Vertrag vom 30. September 1970 vermietete die Z. AG der Kollektivgesellschaft X. & Y. ein Restaurant in Q. Der Mietzins, der vierteljährlich im voraus zu bezahlen Ist, ist an die folgende Indexklausel gebunden:

"Sollte der Hypothekarzins der Zürcher Kantonalbank gegenüber heute (Datum des Antritts) um 1/4% steigen, so erhöht sich der Zins um 5%. Steigt der Lebenskostenindex um mehr als 5 Punkte ab Übernahmetag, so erhöht sich der Zins proportional zum Lebenskostenindex, verrechenbar per 1.4. oder 1.10."

Anfänglich belief sich der Mietzins auf Fr. 27'000.-- jährlich und wurde dann gestützt auf die Indexklausel auf Fr. 33'220.-- jährlich erhöht. Am 15 Januar 1976 zeigte die Vermieterin auf amtlichen Formularen drei rückwirkende Mietzinserhöhungen an, nämlich von bisher Fr. 8'305.-- im Vierteljahr auf Fr. 8'914.-- per 1. April 1974, auf Fr. 9'219.-- per 1. Oktober 1974 und auf Fr. 9'828.-- per 1. April 1975. Eine am 15. März 1976 vor der Schlichtungsstelle des Bezirkes Horgen durchgeführte Einigungsverhandlung scheiterte. Die Vermieterin erhob hierauf aber keine Klage im Sinne von Art. 28 Abs. 2 BMM.

Am 4. Oktober 1976 teilte die Vermieterin die bereits am 15. Januar 1976 angekündigten drei rückwirkenden Mietzinserhöhungen ein zweites Mal mit, und zwar wiederum unter Verwendung der amtlichen Formulare. Gleichzeitig kündigte sie per 1. Oktober 1976 eine vierte Mietzinserhöhung auf Fr. 10'132.-- im Vierteljahr an. An der Verhandlung vor der Schlichtungsstelle vom 9. November 1976 kam abermals keine Einigung zustande.

B.- Am 10. Dezember 1976 leitete die Z. AG beim Mietgericht des Bezirkes Horgen gegen X. & Y. Klage ein, mit den Begehren, es seien die von der Klägerin "mit Formularen vom 1. Oktober 1976" angekündigten Mietzinserhöhungen für nicht missbräuchlich und zulässig zu erklären; allenfalls sei die Mietzinserhöhung per 1. Oktober 1976 von Fr. 8'305.-- auf Fr. 10'132.-- als nicht missbräuchlich und zulässig zu erklären. Anlässlich der Verhandlung des Mietgerichts vom 25. Januar 1977 stellte die Klägerin Antrag auf Nichteintreten. Mit Urteil vom 25. März 1977 trat das Mietgericht hinsichtlich der drei ersten Mietzinserhöhungen auf die Klage nicht ein; hinsichtlich der Mietzinserhöhungen per 1. Oktober 1976 wies es sie "zur Zeit" ab.

Gegen das Urteil des Mietgerichts erhoben beide Parteien Rekurs. In Gutheissung des Rekurses der Klägerin trat das Obergericht (II. Zivilkammer) das Kantons Zürich am 28. Juni 1977 "zufolge Nichtanwendbarkeit des Bundesbeschlusses vom 30. Juni 1972 über Massnahmen gegen Missbräuche im Mietwesen" auf die Klage nicht ein.

C.- Die Beklagte hat die Berufung erklärt, mit der sie beantragt, den obergerichtlichen Beschluss aufzuheben und die Vorinstanz "bzw. das Mietgericht Horgen" anzuweisen, auf die Klage einzutreten. Die Klägerin trägt auf Abweisung der Berufung an.

1. a) Vorerst ist zu prüfen, ob es sich beim angefochtenen Beschluss um einen Endentscheid im Sinne von Art. 48 Abs. 1 OG handelt, gegen den die Berufung zulässig ist. Als Endentscheid im Sinne dieser Bestimmung ist nach der neueren Rechtsprechung des Bundesgerichts ein Erkenntnis zu betrachten, durch das entweder über den materiellen Anspruch entschieden oder dessen Beurteilung aus einem Grunde abgelehnt wird, der endgültig verbietet, dass der gleiche Anspruch zwischen den gleichen Parteien nochmals geltend gemacht wird (BGE 102 II 61 E. 1, BGE 101 II 362 E. 1, BGE 100 II 287 E. 1 mit Hinweisen). Ein Endentscheid liegt insbesondere dann nicht vor, wenn der streitige Anspruch zum Gegenstand eines neuen Verfahrens gemacht werden kann (BGE 101 II 362 E. 1, BGE 97 II 187 E. 1 mit Hinweisen).

Der angefochtene Beschluss, mit dem das Obergericht auf die Klage nicht eintrat, erwächst nach zürcherischem Recht nicht in materielle Rechtskraft (§ 191 Abs. 2 ZPO; vgl. auch STRÄULI/MESSMER, Kommentar zur zürcherischen Zivilprozessordnung, N. 20 zu § 191). Da nach der Auffassung des Obergerichts das Mietgericht für die Beurteilung des erhobenen Anspruches unzuständig ist, wäre es an sich denkbar, dass eine entsprechende neue Klage bei den ordentlichen Gerichten erhoben würde. Indessen ist von Bundesrechts wegen zur Beurteilung der Frage, ob ein Mietzins missbräuchlich im Sinne von Art. 14 und 15 BMM sei, ausschliesslich das Mietgericht als die vom Kanton bezeichnete nach Art. 267 f OR zuständige richterliche Behörde befugt (Art. 28 Abs. 2 BMM in Verbindung mit § 18 des zürcherischen GVG); das Obergericht hat denn auch die Zuständigkeit des Mietgerichts verneint, weil es vorliegend die Art. 14 und 15 BMM als nicht anwendbar erachtet. Verhält es sich aber so, dann kann die Beklagte die Frage, ob die von der Klägerin geltend gemachten Mietzinserhöhungen vor dem BMM standhalten, nicht mehr durch ein Gericht prüfen lassen. Damit droht ihr ein endgültiger Rechtsverlust, was dazu führt, dass der angefochtene Beschluss als Endentscheid im Sinne von Art. 48 Abs. 1 OG zu betrachten ist (vgl. BGE 98 II 155 E. 1).

b) Die Berufungsschrift enthält keinen materiellen Antrag, wie er nach Art. 55 Abs. 1 litt. b OG erforderlich ist. Die Beklagte verlangt nur, "der angefochtene Beschluss sei aufzuheben und es seien die Vorinstanz bzw. das Mietgericht Horgen anzuweisen, auf die Klage einzutreten und diese materiell zu entscheiden". Trotzdem genügt ein solcher Antrag nach der Rechtsprechung, wenn das Bundesgericht bei Gutheissung der Berufung kein Sachurteil fällen kann, sondern die Sache zur weiteren Abklärung des Tatbestandes an die Vorinstanz zurückweisen muss (BGE 99 II 72 E. 1 mit Hinweis). Das trifft hier zu. Auf die Berufung ist somit einzutreten.

2. Bis zum 28. Februar 1975 waren die Bestimmungen des BMM auf Hotels, Restaurants, Pensionen und andere gastgewerbliche Betriebe nicht anwendbar (Art. 4 lit. e VMM; AS 1972 1559). Diese Ausnahmeregelung wurde indes auf den 1. März 1975 aufgehoben, wobei aber die aufgehobenen Bestimmungen "auf die während ihrer Geltungsdauer eingetretenen Tatsachen anwendbar" blieben (Ziff. I und II Abs. 1 der Verordnung vom 5. Februar 1975; AS 1975 173). Da die Klägerin am 4. Oktober 1976 Mietzinserhöhungen nicht nur auf den 1. Oktober 1976, sondern ebenso auf den 1. April 1974, den 1. Oktober 1974 und den 1. April 1975 geltend machte, ist vorerst zu prüfen, ob die Bestimmungen des BMM auch auf die letzteren drei Mietzinserhöhungen anwendbar sind. Während das Obergericht auf diese Frage gar nicht eingeht, ist das Mietgericht der Auffassung, Tatsachen im Sinne von Ziff. II Abs. 1 der Verordnung vom 5. Februar 1975 seien nur die Erhöhungen des Indexpunktestandes auf den 1. April und 1. Oktober 1974 sowie auf den 1. April 1975, nicht aber die erst nach dem 1. März 1975 erfolgte Geltendmachung. Diese drei Mietzinserhöhungen stützten sich nämlich auf Tatsachen, die sich alle vor dem 1. März 1975 verwirklicht hätten. Der BMM sei aus diesem Grunde nur auf die Mietzinserhöhung per 1. Oktober 1976 anwendbar.

Dem ist nicht zu folgen. Der Vermieter hat eine allfällige Erhöhung mit einem vom Kanton genehmigten Formular geltend zu machen (Art. 18 Abs. 2 BMM). Tut er das nicht auf diese Weise, so ist die Mietzinserhöhung nichtig (Art. 18 Abs. 3 BMM). Daher ist eine solche Ankündigung ohne weiteres als Tatsache im Sinne von Ziff. II Abs. 1 der Verordnung vom 5. Februar 1975 zu betrachten, die - wenn sie nicht vor dem 1. März 1975 eingetreten ist - zur Anwendung des neuen Rechtes führt (so sinngemäss auch BGE 102 II 351 unten). Dass es durchaus auf den Zeitpunkt ankommt, in dem eine Mietzinserhöhung geltend gemacht wird, ergibt sich auch aus einer Übergangsbestimmung des BMM selbst, wo es heisst, dass die Vorschriften dieses Beschlusses über die Anfechtung auf Forderungen des Vermieters anwendbar seien, "die ihre Wirkung nach dem 5. März 1972 äussern oder in der Zeit zwischen diesem Zeitpunkt und dem Inkrafttreten dieses Beschlusses gestellt worden sind" (Art. 34 Abs. 1 BMM). Wurden vorliegend aber alle vier streitigen Mietzinserhöhungen erst nach dem 1. März 1975 angekündigt, so sind auf sie im Sinne von Ziff. II Abs. 1 der Verordnung vom 5. Februar 1975 die Bestimmungen des BMM und seiner Ausführungsvorschriften anzuwenden.

3. a) Für die Vorinstanz ist von Bedeutung, dass Art. 9 BMM hinsichtlich des Vertragsverhältnisses der Parteien nicht zwingenden Rechts sei, da der fragliche Mietvertrag vor dem Inkrafttreten des Bundesbeschlusses abgeschlossen wurde (Art. 5 BMM). Unter diesen Umständen seien die vereinbarten indexgebundenen Mietzinserhöhungen nicht anfechtbar, weil der Vertrag eine solche Anfechtungsmöglichkeit nicht ausdrücklich vorsehe. Darauf kommt indes nichts an. Satz 2 von Art. 9 BMM behält die Anfechtung indexgebundener Mietzinse nur vor und ist damit keineswegs die Grundlage dafür. Diese findet sich vielmehr in den Art. 14 ff. BMM, die im vorliegenden Fall ohne weiteres anwendbar sind, da nach den oben gemachten Darlegungen die Bestimmungen des BMM und seiner Ausführungsvorschriften für die vier streitigen Mietzinserhöhungen massgebend sind.

b) Im Gegensatz zum Obergericht lässt das Mietgericht die Anwendbarkeit des BMM wenigstens hinsichtlich der letzten Mietzinserhöhung gelten, versteht das aber in einem sehr begrenzten Sinne. Materiell könne eine auf einer Indexklausel beruhende Mietzinserhöhung nicht überprüft werden; zu prüfen sei nur, ob die Indexklausel überhaupt gültig sei und ob die verlangte Erhöhung hinsichtlich Zeitpunkt und Höhe den vertraglichen Abmachungen entspreche. Dass Mietzinserhöhungen, die sich aus Mietzinsklauseln ergeben, nur rechnerisch zu überprüfen seien, ergebe sich aus Art. 9 BMM, der bei Annahme einer umfassenden Prüfung sinnlos wäre. Für seine Auffassung beruft sich das Mietgericht auf die Praxis der zürcherischen Gerichte.

Art. 9 Satz 2 BMM behält nun aber die Anfechtungsmöglichkeiten des Bundesbeschlusses ausdrücklich vor, was ohne weiteres auch eine Überprüfung auf Grund der Art. 14 und 15 BMM einschliesst. Weshalb damit die Ausnahmebestimmung von Art. 9 BMM, nach der Indexklauseln nur für mindestens fünfjährige Mietverhältnisse vereinbart werden können, sinnlos werden sollte, wie das Mietgericht behauptet, ist nicht einzusehen. Mit dem Vorbehalt des zweiten Satzes soll vielmehr eine unverkürzte Anfechtungsmöglichkeit sichergestellt werden. Dass auf diese Weise nicht nur eine einseitig angekündigte Mietzinserhöhung, sondern sogar auch ein vertraglich festgesetzter Mietzins angefochten werden kann, ist durchaus nichts Ungewöhnliches (vgl. Art. 17 BMM). Im übrigen ergibt sich aus den Materialien eindeutig, dass indexgebundene Mietzinse umfassend sollen angefochten werden können. Schon die bundesrätliche Botschaft führte zu dem dem Art. 9 BMM entsprechenden Art. 11 des Entwurfes aus, eine Indexierung könne im Laufe der Zeit zu Missbräuchen führen; indes könnten die auf diese Weise sich ergebenden missbräuchlichen Mietzinse angefochten werden (BBl 1972 I 1242). In den eidgenössischen Räten war sodann umstritten, ob die Indexierung von Mieten überhaupt zugelassen werden sollte. Die Gegner einer solchen Indexierung wurden damit beruhigt, dass der Mieter durch die im Bundesbeschluss vorgesehenen Anfechtungsmöglichkeiten ja geschützt sei. Dabei bestand Übereinstimmung, dass der Mieter nicht nur den Abschluss der Indexvereinbarung als solche, sondern auch die jeweilige Anpassung umfassend werde anfechten können (Nationalräte Kaufmann und Fischer sowie Bundesrat Brugger in: Amtliches Bulletin N 82/1972, S. 960, 962, 989; Ständeräte Amstad und Grosjean in: Amtliches Bulletin S 82/1972, S. 319, 331, 332). In seiner Botschaft vom 4. Oktober 1976 über die Verlängerung und Änderung des BMM schliesslich lehnte der Bundesrat ein Verbot indexgebundener und gestaffelter Mietzinse erneut ab, da der Schutz des Mieters auch sonst genügend gewährleistet sei. In Art. 9 und 10 BMM werde nämlich ausdrücklich präzisiert, "dass auch indexgebundene und gestaffelte Mietzinse angefochten werden können, wenn sie sich nach den materiellen Kriterien der Artikel 14 und 15 als missbräuchlich erweisen" (BBl 1976 III 860).

4. Nach dem Gesagten steht fest, dass die vier von der Klägerin geltend gemachten Mietzinserhöhungen grundsätzlich daraufhin zu überprüfen sind, ob sie missbräuchlich im Sinne der Art. 14 und 15 BMM seien. Da im Beschluss des Obergerichts aber tatbeständliche Feststellungen fehlen, die eine solche Beurteilung erlaubten, ist er gestützt auf Art. 64 Abs. 1 OG aufzuheben, damit die hiefür notwendigen tatbeständlichen Ergänzungen noch vorgenommen werden. Bei dieser Gelegenheit kann das zuständige Gericht auch die weiteren noch streitigen Rechtsfragen prüfen, nämlich ob die Mietzinserhöhung auf Grunde der vereinbarten Indexklausel ohne besondere Ankündigung eintrete, ob rückwirkende Mietzinserhöhungen von vornherein unzulässig seien und ob die Klägerin hinsichtlich der ersten drei Mietzinserhöhungen ihr Klagerecht verwirkt habe, weil sie nach der ersten ergebnislos verlaufenen Schlichtungsverhandlung nicht innert Frist klagte. Entgegen der Auffassung der Beklagten kann es aber keine Rolle spielen, dass zwischen den Parteien vor Bezirksgericht Zürich ein weiterer Prozess hängig ist, in dem es darum geht, ob das Vertragsverhältnis der Parteien im Sinne von Art. 261 Abs. 2 OR als aufgelöst zu betrachten sei. Das Verfahren betreffend die Anfechtung der Mietzinserhöhungen ist von jenem Verfahren gänzlich unabhängig. Selbst wenn sich später herausstellen sollte, dass das Vertragsverhältnis der Parteien schon vor längerer Zeit dahingefallen ist, schuldet die Beklagte der Klägerin jedenfalls eine Entschädigung dafür, dass sie die fraglichen Lokale trotzdem benutzte. Für die Bemessung dieser Entschädigung ist aber durchaus von Bedeutung, welches der angemessene Mietzins gewesen wäre.

Demnach erkennt das Bundesgericht:

Die Berufung wird dahin gutgeheissen, dass der Beschluss des Obergerichts (II. Zivilkammer) des Kantons Zürich vom 28. Juni 1977 aufgehoben und die Sache zur neuen Entscheidung im Sinne der Erwägungen an die Vorinstanz zurückgewiesen wird.