A.- Die Beklagte, die Bau-Aktiengesellschaft Mattenbach, erstellte in einem von ihr überbauten Aussenquartier von Winterthur, dem Gutschick-Quartier, ein Ladenzentrum. Dessen Verwaltung, insbesondere die Vermietung der einzelnen Ladenlokale, übertrug sie der Siska-Immobilien AG Diese vermietete auf Anfang September 1961 dem Konsumverein Winterthur Geschäftsräumlichkeiten zum Betrieb einer Filiale; weitere Lokale wurden an einen Herren- und einen Damencoiffeur vermietet.

Am 23. September 1961 vermietete die Siska dem Kläger Wyrsch ein Ladenlokal auf zehn Jahre ab 1. April 1962. Für den Mietvertrag wurde ein vom Hauseigentümerverband und Mieterverein Zürich gemeinsam herausgegebenes, vorgedrucktes Formular mit dem Titel "Mietvertrag für gewerbliche Räume" verwendet. Gemäss Ziff. 2 des Vertrages wurde dem Kläger das Mietobjekt überlassen "zur Benützung als Drogerie-Parfümerie (ohne Lebensmittel) sowie Spirituosen, Reformartikel und Photo".

Ziff. 14 der vorgedruckten Bestimmungen lautet:

"Beide Parteien verpflichten sich, die Neueröffnung eines Konkurrenzgeschäftes im Umkreis von 1000 m während der Mietzeit zu unterlassen.

Bei Übertretung dieser Verpflichtung ist eine Konventionalstrafe von Fr. 10 000.-- zu bezahlen, pro Jahr während der Mietzeit."

Dem Vertragsformular wurden zwei Blätter "Besondere Bestimmungen" in vervielfältigter Maschinenschrift eingefügt, die nach Ziff. 8 einen integrierenden Bestandteil des Mietvertrages bilden sollten.

Ziff. 6 der "Besonderen Bestimmungen" lautet:

"Die Vermieterin verpflichtet sich, kein branchenähnliches Geschäft - Drogerie-Parfümerie, Apotheke - als Mieterin in das Ladenzentrum aufzunehmen. Dagegen verpflichtet sich der Mieter, seine Branche nicht zu erweitern ohne Einwilligung des Vermieters."

Den 8 Ziffern des vervielfältigten Textes wurde eine den Kläger besonders betreffende Ziff. 9 beigefügt, lautend:

"Der Mieter verpflichtet sich, in seinem Betrieb keine Lebensmittel zu führen. Der Mieter ist sich auch bewusst, dass gewisse Waren, z.B. Parfümerieartikel usw. im Konsumvereinladen und bei den Coiffeurgeschäften ebenfalls verkauft werden. Der Mieter nimmt derartige Grenzfälle als Konkurrenz in Kauf."

Mit Brief vom 14. September 1964 liess der Kläger durch seinen damaligen Anwalt gegenüber der Vermieterin geltend machen, der Konsumverein Winterthur habe entgegen seinem Mietvertrag mit der Beklagten mehr und mehr Drogerieartikel in sein Sortiment aufgenommen.

Die Siska schrieb daraufhin am 21. September 1964 an den Konsumverein Winterthur:

"... Die von Herrn Dr. Streiff gemachte Feststellung, es seien Herrn Wyrsch von unserer Seite anlässlich des Mietvertragsabschlusses Zusicherungen hinsichtlich einer Nichtkonkurrenzierung durch Ihre Filiale abgegeben worden, trifft zu. Wir haben ihm damals ausdrücklich bestätigt, dass Ihre Filiale nur Lebensmittel sowie Milchprodukte verkaufen werde, wie es im Mietvertrag mit Ihnen vereinbart ist.

Die Ausdehnung Ihres Warensortimentes auf praktisch alle Artikel des täglichen Verkaufs, ohne von uns vorher die Zustimmung zu verlangen, befremdet uns ebenfalls ...

Wir müssen daher von Ihnen verlangen, dass Sie Ihr Warensortiment wiederum auf den Sektor Lebensmittel/Metzgerei und Milchprodukte reduzieren... Für allfällige Schadenersatzansprüche, die an uns als Vermieterin gestellt werden, müssen wir Sie voll haftbar machen."

Verhandlungen zwischen der Siska und dem Kläger einerseits und dem Konsumverein anderseits verliefen ergebnislos, da der Konsumverein den Standpunkt einnahm, er habe seine Auswahl an Drogerieartikeln seit Mietbeginn nicht wesentlich erweitert. Im Jahre 1966 beklagte sich der Kläger weiter darüber, dass der Coiffeur Brossmann Drogerieartikel verkaufe. Die Siska schrieb daher am 7. Juni 1966 an Brossmann:

"Gemäss Mietvertrag haben Sie im Gutschick einen Herrensalon gemietet. Wir haben nun feststellen müssen, dass Sie in den letzten Monaten Ihr Geschäft weitgehend erweitert haben, indem Sie in Ihrem Lokal Parfümerie-Artikel, Fusspflegemittel, Sonnenschutzmittel, Kinderartikel etc. verkaufen. Die Artikel gehen nun selbstverständlich nicht mehr unter der Rubrik "Herren-Coiffeur", sondern gehen vielmehr in diejenige einer Drogerie. Wir müssen Sie daher dringend bitten, den vertragsgemässen Zustand wieder herzustellen."

Am 26. Juni 1967 wurde über den Kläger der Konkurs eröffnet. Dieser wurde am 28. Dezember 1967 widerrufen, nachdem das Konkursamt das Warenlager und die Einrichtungsgegenstände des Drogeriebetriebes verkauft und der Kläger sämtliche Konkursgläubiger befriedigt hatte.

B.- Mit Klage vom 17. Dezember 1968 /24. Januar 1969 belangte der Kläger die Beklagte auf Bezahlung von Fr. 50 000.-- nebst Zins. Er fordert die Konventionalstrafe von Fr. 10 000.-- pro Jahr für die Zeit vom Sommer 1962 bis August 1967.

Die Beklagte beantragte, die Klage abzuweisen.

C.- Das Handelsgericht Zürich wies die Klage am 5. Juni 1969 mit der Begründung ab, die Konventionalstrafe gemäss Art. 14 des Mietvertrages sei nur bei der Neueröffnung eines Konkurrenzgeschäftes geschuldet. Eine solche liege bei einer allfälligen blossen Erweiterung des Sortiments an Drogeriewaren durch die Konsumvereinsfiliale oder den Coiffeur Brossmann nicht vor.

D.- Gegen das Urteil des Handelsgerichts hat der Kläger die Berufung an das Bundesgericht erklärt. Er beantragt, das angefochtene Urteil aufzuheben und die Sache zur Ergänzung des Beweisverfahrens und neuer Beurteilung an die Vorinstanz zurückzuweisen.

Die Beklagte beantragt, die Berufung abzuweisen und das angefochtene Urteil zu bestätigen.

1. Der Berufungsantrag des Klägers auf Aufhebung des angefochtenen Urteils und Rückweisung der Sache an die Vorinstanz ist prozessualer Natur, entspricht also der Vorschrift von Art. 55 Abs. 1 lit. b OG nicht, die einen materiellen Antrag verlangt. Nach ständiger Rechtsprechung genügt jedoch ausnahmsweise auch ein blosser Rückweisungsantrag, wenn das Bundesgericht selbst bei grundsätzlicher Gutheissung der vom Berufungskläger verfochtenen Rechtsauffassung kein abschliessendes Urteil fällen könnte, sondern den Fall zur weiteren Abklärung des Sachverhalts an die Vorinstanz zurückweisen müsste (BGE 91 II 283 Erw. 1, BGE 88 II 207 Erw. 3, BGE 83 II 55 Erw. 1). Das trifft hier zu, wie im folgenden darzulegen ist. Auf die Berufung ist daher einzutreten.

2. Die Parteien streiten darüber, unter welchen Voraussetzungen die in Ziff. 14 des Mietvertrages vereinbarte Konventionalstrafe geschuldet sei. Das Handelsgericht hat hierüber kein Beweisverfahren durchgeführt. Seine dem angefochtenen Entscheid zugrunde liegende Auffassung ist somit nicht das Ergebnis einer das Bundesgericht bindenden Beweiswürdigung; sie beruht vielmehr auf der blossen Auslegung des Vertragswortlautes, d.h. auf der Ermittlung des Sinnes, der den im Vertragstext niedergelegten Willenserklärungen der Parteien unter den gegebenen Umständen nach der allgemeinen Lebenserfahrung und nach den Grundsätzen von Treu und Glauben beigelegt werden muss. Eine auf diesem Wege gewonnene Vertragsauslegung kann nach ständiger Rechtsprechung als Rechtsfrage vom Bundesgericht frei überprüft werden (BGE 90 II 455, BGE 87 II 237, BGE 83 II 307,BGE 69 II 322).

3. a) Bei der Auslegung des Vertrags nach den oben dargelegten Grundsätzen ist davon auszugehen, dass die Beklagte in der von ihr gebauten Siedlung ein Ladenzentrum erstellte, um den Mietern ihrer Wohnbauten zu ermöglichen, sich für ihre hauptsächlichsten wirtschaftlichen Bedürfnisse (Lebensmittel, Artikel des täglichen Gebrauchs, gewisse Dienstleistungen) in der Nachbarschaft zu versorgen. Bei der Organisation des Ladenzentrums liess sich die Beklagte von folgenden Gesichtspunkten leiten: Sie behielt sich vor, zu bestimmen, welche Arten von Geschäften als Mieter aufzunehmen seien. Von jeder Geschäftsart sollte nur ein einziger Betrieb zugelassen und in die Mietverträge eine entsprechende Verpflichtung der Beklagten aufgenommen werden. Damit wollte die Beklagte dafür sorgen, dass jeder Mieter sein Auskommen finde und sie auf einen reibungslosen Eingang der Mietzinse rechnen könne. Als Gegenleistung für den ihnen gewährten Schutz vor Konkurrenz hatten die Mieter gewisse Beschränkungen in bezug auf ihren Geschäftsbereich in Kauf zu nehmen, um zu verhüten, dass sich ihre Tätigkeitsgebiete gegenseitig überschnitten. Diese organisatorischen Massnahmen der Beklagten sind bei der Auslegung des vorliegenden Mietvertrages, insbesondere dessen Ziff. 14, sowie der Ziff. 6 und 9 der "Besonderen Bestimmungen", im Auge zu behalten.

b) Gemäss Ziff. 14 verpflichtete sich die Beklagte, die Neueröffnung eines Konkurrenzgeschäftes in einem bestimmten Umkreis zu unterlassen und bei Verletzung dieser Verpflichtung eine Konventionalstrafe zu bezahlen. Diese Unterlassungspflicht wurde in Ziff. 6 der "Besonderen Bestimmungen" in dem Sinne erweitert und genauer umschrieben, dass die Beklagte versprach, kein branchenähnliches Geschäft als Mieter in das Ladenzentrum aufzunehmen. Es versteht sich von selbst und wird denn auch von der Beklagten anerkannt, dass die Konventionalstrafe bei Verletzung dieser Pflichten ebenfalls geschuldet sein sollte, obwohl sie in Ziff. 6 nicht noch besonders erwähnt wird. In der Tat wäre ja sonst die Konventionalstrafbestimmung praktisch bedeutungslos, da zum vorneherein nicht ernstlich in Frage kam, dass die Beklagte, eine grosse Bauunternehmung, selber eine Drogerie eröffnen könnte.

Angesichts dieser Vertragsbestimmungen durfte der Kläger davon ausgehen, dass die Beklagte sich grundsätzlich verpflichte, ihn gegen jede Konkurrenzierung durch einen Nebenmieter zu schützen und dass er bei Nichteinhaltung dieser Zusicherung Anspruch auf Bezahlung der vereinbarten Konventionalstrafe erheben könne. Dieser Auffassung durfte er um so eher sein, als er sich seinerseits damit abfand, dass ihm die Beklagte gewisse Beschränkungen hinsichtlich seines Geschäftskreises auferlegte, indem sie ihm verbot, Lebensmittel (ausgenommen Reformartikel) zu führen (Ziff. 2 des Mietvertrages, sowie Ziff. 9 der "Besonderen Bestimmungen") und ohne ihre Einwilligung "seine Branche nicht zu erweitern" (Ziff. 6 der "Besonderen Bestimmungen"). Damit verzichtete der Kläger auf die Möglichkeit, sich durch die Ausdehnung seines Geschäftes auf verwandte Sachgebiete einen zusätzlichen Gewinn zu verschaffen.

c) Gegen Konkurrenz wirksam geschützt war der Kläger nur, wenn er auch nicht befürchten musste, dass ein Nebenmieter, der vorerst keine Drogeriewaren führte, nachträglich dazu übergehe, auch solche zu verkaufen. Er durfte sich deshalb darauf verlassen, dass die Beklagte auch gegen die Eröffnung einer neuen Abteilung für Drogeriewaren durch einen anderen Mieter einschreite und dass die vereinbarte Konventionalstrafe ebenfalls geschuldet sei, wenn die Beklagte eine solche Geschäftserweiterung dulde.

d) Der Schutz gegen Konkurrenz, den die Beklagte dem Kläger zusicherte, wurde durch Ziff. 9 der "Besonderen Bestimmungen" in gewissem Umfang eingeschränkt. Es wurde darin festgestellt, dass "gewisse Waren, z.B. Parfümerieartikel usw., im Konsumvereinladen und bei den Coiffeurgeschäften ebenfalls verkauft werden". Diese bereits bestehende Konkurrenz hatte der Kläger hinzunehmen, ohne aus ihr irgendwelche Ansprüche gegen die Beklagte ableiten zu können. Wie der Kläger selber einräumt, hatte er sogar gewisse Änderungen des ursprünglich geführten Sortiments zu dulden, selbst wenn diese mit einer geringfügigen Erweiterung verbunden sein sollten.

Wenn jedoch der Konsumverein, bzw. der Coiffeur Brossmann dazu übergingen, neben den "gewissen Waren", von denen in Ziff. 9 die Rede ist, auch noch zahlreiche andere Artikel zu führen, die in einer Drogerie-Parfümerie hauptsächlich verkauft werden, so konnte sich daraus ein Sachverhalt ergeben, der der Neueröffnung eines Konkurrenzgeschäftes im Sinne von Ziff. 14 des Mietvertrages mit den dort vorgesehenen Folgen gleichzuachten wäre.

aa) Das Handelsgericht meint, eine den Rahmen von Ziff. 9 sprengende Erweiterung des Sortiments an Drogeriewaren durch den Konsumverein oder den Coiffeur Brossmann könnte allenfalls eine gewöhnliche Schadenersatzpflicht der Beklagten auslösen; dagegen sei wegen der Schwierigkeit der Abgrenzung zwischen einer geringfügigen und einer erheblichen Sortimentserweiterung nicht anzunehmen, die Beklagte habe sich verpflichten wollen, auch eine Konventionalstrafe zu bezahlen, wenn die Vergrösserung des Sortiments einen gewissen, im Vertrag nicht einmal genau umschriebenen Grad erreiche.

Nach der im schweizerischen Recht geltenden Vertrauenstheorie kommt es jedoch nicht darauf an, ob die Beklagte diesen Willen wirklich hatte. Massgebend ist, dass der Kläger gestützt auf Ziff. 14 des Mietvertrages und Ziff. 6 der "Besonderen Bestimmungen" in guten Treuen annehmen durfte, gegen jede ernsthafte Konkurrenz geschützt zu sein. Er durfte mit anderen Worten darauf zählen, dass weder ein selbständiges Geschäft, noch eine Spezialabteilung eines grösseren Unternehmens im Ladenzentrum der Kundschaft Drogerie- und Parfümeriewaren in einem Masse anbieten würden, das die Existenz seines Geschäftes gefährden konnte. Er durfte darum der Auffassung sein, der Mietvertrag schütze ihn auch gegen jede Ausdehnung der Tätigkeit der in Ziff. 9 erwähnten Nebenmieter auf dem Gebiete der Drogeriebranche, die sich für ihn als eine ernsthafte Konkurrenz auswirken würde. Denn ob die Konkurrenz von der Eröffnung eines neuen oder von der erheblichen Erweiterung eines schon bestehenden Unternehmens ausgehe, machte für ihn keinen Unterschied aus.

Der Hinweis der Vorinstanz auf die angebliche Schwierigkeit einer Abgrenzung ist übrigens nicht begründet. Es besteht hiefür ein einfacher Gradmesser, nämlich die Anzahl der geführten Artikel und der mit ihrem Verkauf erzielte Umsatz. Haben der Konsumverein oder der Coiffeur Brossmann ihr 1961 geführtes Sortiment später auf die geläufigsten, in einer Drogerie am meisten gefragten Artikel ausgedehnt und damit einen Umsatz erzielt, der für den Betrieb einer wenn auch kleinen selbständigen Drogerie ausreichen würde, so ist dies der eigentlichen Neueröffnung eines Konkurrenzgeschäftes gleichzusetzen. Ob eine solche Erweiterung schlagartig erfolgte oder nur allmählich vor sich ging, ist entgegen der Meinung der Vorinstanz ohne Bedeutung.

bb) Die Vorinstanz ist der Ansicht, die blosse, selbst erhebliche Erweiterung des Sortiments durch den Konsumverein bzw. den Coiffeur Brossmann könne keine Konventionalstrafverpflichtung auslösen, weil die Beklagte ausser einer Vertragskündigung oder einem gerichtlichen Vorgehen mit ungewissem Ausgang kein Mittel gehabt habe, gegen das Vorgehen der beiden Mieter einzuschreiten. Dieser Einwand hält nicht stand. Die Beklagte konnte, gleich wie im Mietvertrag mit dem Kläger, auch für die beiden anderen Mieter den zulässigen Geschäftsbereich genau abgrenzen und für eine Erweiterung die Zustimmung des Vermieters vorschreiben. Wie aus dem Schreiben der Siska vom 21. September 1964 hervorgeht, enthielt denn auch der Mietvertrag mit dem Konsumverein offenbar entsprechende Bestimmungen. Denn im erwähnten Schreiben wies die Siska darauf hin, dass der Konsumverein nach dem Mietvertrag nur Lebensmittel, Fleischwaren und Milchprodukte verkaufen dürfe, und sie forderte ihn auf, das Warensortiment wieder auf diese Gebiete zu beschränken. Sie war also damals selber der Ansicht, dass die Erweiterung des zulässigen Sortiments an Drogeriewaren durch den Konsumverein ebenfalls unter Ziffer 14 des Mietvertrages mit dem Kläger falle. Der Hinweis auf die dem Kläger gegebene Zusicherung der Nichtkonkurrenzierung durch den Konsumverein und die bestimmt gehaltene Aufforderung an den Konsumverein, sich vertragsgemäss zu verhalten, wären sonst nicht zu verstehen. Wenn die Beklagte es unterliess, den Konsumverein zur Einhaltung seiner Vertragsverpflichtungen zu zwingen, nahm sie die Gefahr in Kauf, dem Kläger die vereinbarte Konventionalstrafe entrichten zu müssen. Gleich verhält es sich im Falle des Coiffeurs Brossmann, den sie auf die Beschwerde des Klägers hin am 7. Juni 1966 ebenfalls aufforderte, sich an die Vorschriften seines Mietvertrages zu halten.

e) Im Ergebnis ist somit festzuhalten, dass bei Auslegung des Mietvertrages der Parteien nach den Grundsätzen von Treu und Glauben und nach den Regeln der Vertrauenstheorie auch die zu einer bedrohlichen Konkurrenzierung des Klägers führende Erweiterung des Verkaufs von Drogerie- und Parfümeriewaren durch den Konsumverein oder den Coiffeur Brossmann als eine unter Art. 14 des Mietvertrages fallende Neueröffnung eines Konkurrenzgeschäftes zu gelten hat.

4. Die Vorinstanz hat auf Grund ihrer zu engen Auslegung des Begriffes der Neueröffnung eines Konkurrenzgeschäftes nicht Stellung genommen zu den Behauptungen des Klägers über das Ausmass, in dem der Konsumverein und der Coiffeur Brossmann ihr Sortiment an Drogerie- und Parfümeriewaren gegenüber 1961 erweiterten. Die Vorinstanz bemerkt nur beiläufig, nach der vom Kläger vorgelegten Liste umfasse das Lager des Konsumvereins rund 260 Artikel; in einem eigentlichen Drogerieladen sei aber zugegebenermassen das Vielfache hievon erhältlich. Hierauf kommt es jedoch nicht allein an. Denn für die Beurteilung der Bedeutung der Konkurrenz ist vor allem der Umsatz massgebend, der mit dem Verkauf der in einer Drogerie am meisten verlangten Artikel erzielt wird.

Ob das Angebot an Drogeriewaren durch den Konsumverein und den Coiffeur Brossmann sowie der mit ihrem Verkauf erzielte Umsatz gegenüber 1961 derart anstiegen, dass daraus dem Kläger eine Konkurrenz erwuchs, die der Neueröffnung eines Konkurrenzgeschäftes gleichkam, bedarf der Abklärung. Die Sache ist daher zur Ergänzung des Beweisverfahrens an die Vorinstanz zurückzuweisen. Diese wird zu untersuchen haben, welche Drogeriewaren zur Zeit des Abschlusses des Mietvertrages der Parteien, d.h. im Jahre 1961, vom Konsumverein und vom Coiffeur Brossmann bereits geführt wurden und welchen Umsatz sie mit diesem Verkauf erzielten. Im weiteren ist abzuklären, wie es sich damit in den Jahren 1964 bzw. 1966 verhielt, als der Kläger sich bei der Beklagten über die Konkurrenztätigkeit der beiden Nebenmieter beklagte, und wie sich die Verhältnisse weiterentwickelten bis zum Juni 1967, als der Kläger in Konkurs geriet und sein Geschäft verkaufen musste, um den Widerruf des Konkurses zu erreichen.

Von dem Zeitpunkt an, in welchem die Konkurrenzierung des Klägers allenfalls das in Erw. 3 umschriebene, nicht mehr zulässige Ausmass erreichte, wäre sein Konventionalstrafanspruch grundsätzlich zu schützen.

Schliesslich wird die Vorinstanz auch den von der Beklagten erhobenen Einwand der übermässigen Höhe der Konventionalstrafe zu beurteilen und die Begründetheit der Gegenforderungen zu prüfen haben, die die Beklagte einer allfälligen Forderung des Klägers zur Verrechnung entgegenstellt.

Demnach erkennt das Bundesgericht:

Die Berufung wird gutgeheissen, das Urteil des Handelsgerichts des Kantons Zürich vom 5. Juni 1969 wird aufgehoben und die Sache zu neuer Entscheidung im Sinne der Erwägungen an die Vorinstanz zurückgewiesen.