Die Bausektion II des Stadtrates Zürich erteilte der Seefeld Appartement AG mit den Beschlüssen Nrn. 1484/1976 und 1260/1977 die Bewilligung für verschiedene Umbauten an der Liegenschaft Höschgasse 62 in Zürich. Bei der Abnahme dieser Bauten stellten Beamte der Baupolizei der Stadt Zürich fest, dass im 5. Obergeschoss in einer Dreizimmerwohnung eine in den zwanziger Jahren dieses Jahrhunderts errichtete, nicht bewilligte Galerie in einem Wohnzimmer entlang von drei Wänden vorhanden ist. Die Galerie weist eine Bodenfläche von rund 21 m2 auf und liegt mit ca. 4 m2 Fläche über Küche und Abort. Die Seefeld Appartement AG reichte daraufhin ein Gesuch um nachträgliche Bewilligung der Galerie ein. Mit Beschluss vom 17. Juli 1978 verweigerte die Bausektion II des Stadtrates Zürich die Bewilligung und verpflichtete die Seefeld Appartement AG, innert vier Wochen ab Rechtskraft des Beschlusses den Galerieteil über der Zimmerfläche zu entfernen, den Galerieteil über Küche und Abort mittels einer Trennwand feuerhemmend vom Wohnzimmer abzutrennen sowie die Türen zum Estrich feuerhemmend zu erstellen. Dieser Entscheid wurde von der Baurekurskommission I und hernach auch vom Verwaltungsgericht des Kantons Zürich bestätigt.

Die Seefeld Appartement AG führt gegen das Urteil des Verwaltungsgerichts staatsrechtliche Beschwerde wegen Verletzung von Art. 22ter BV.

Erwägungen:

1.- Die Beschwerdeführerin macht geltend, die Baubehörden hätten im vorliegenden Fall das Recht, die Wiederherstellung des gesetzmässigen Zustandes zu verfügen, verwirkt. Sie beruft sich dabei auf eine analoge Anwendung des in BGE 105 Ib 265 ff. E. 6 aufgestellten Grundsatzes, die Befugnis der Behörden, nach einer widerrechtlichen Waldrodung eine Ersatz- oder Wiederaufforstung anzuordnen, sei auf dreissig Jahre befristet.

a) Es stellt sich die Frage, ob die Behörden die Beseitigung eines baugesetzwidrigen Zustandes auch dann noch verlangen können, wenn dieser schon seit Jahrzehnten besteht, oder ob ihnen in zeitlicher Hinsicht eine Grenze gesetzt ist. Das Bundesgericht hielt im erwähnten Entscheid im Gebiet des Forstrechts fest, es dränge sich unter dem Gesichtspunkt der Rechtssicherheit sowie aus praktischen Gründen auf, die Befugnis der Behörden zur Anordnung der Wieder- oder Ersatzaufforstung zu befristen. Die gleichen Überlegungen sprechen dafür, dass auch im Bereich des Baurechts der Anspruch der Behörden, die Wiederherstellung des rechtmässigen Zustandes zu verlangen, nicht unbegrenzt gelten kann. Es wäre stossend und widerspräche in hohem Masse der Rechtssicherheit, wenn die Behörde einen Grundeigentümer beispielsweise noch nach mehr als fünfzig Jahren zur Beseitigung eines baugesetzwidrigen Zustandes verpflichten könnte. Eine solche Lösung ist auch aus praktischen Gründen abzulehnen, denn eine Abklärung der tatsächlichen und rechtlichen Verhältnisse, wie sie vor mehr als fünfzig Jahren bestanden, erscheint als äusserst schwierig; dies gilt vor allem für die Feststellung der Praxis der kommunalen und kantonalen Baubehörden, der bei der Auslegung und Anwendung von baurechtlichen Bestimmungen grosse Bedeutung zukommt. Die Befugnis des Gemeinwesens, den Abbruch eines baugesetzwidrigen Gebäudes oder Gebäudeteiles anzuordnen, muss daher befristet sein.

Eine Ausnahme von diesem Grundsatz ist dann zu machen, wenn die Wiederherstellung des rechtmässigen Zustandes aus baupolizeilichen Gründen im engeren Sinne geboten ist. Wird durch den Fortbestand eines baugesetzwidrigen Gebäudes oder Gebäudeteiles eine konkrete, d.h. ernsthafte und unmittelbare Gefahr für Leib und Leben der Bewohner oder der Passanten geschaffen, so können die Behörden den Abbruch dieses Gebäudes oder Gebäudeteiles unbekümmert um den Zeitablauf verfügen. Wie in BGE 105 Ib 268 ausdrücklich festgehalten wurde, ist es undenkbar, im Schutzbereich der Polizeigüter die Verjährung bzw. Verwirkung zuzulassen.

Massnahmen zur Abwehr konkreter Gefahren für solche Güter dürfen von den Behörden jederzeit getroffen werden.

b) Es bleibt für die Fälle, in denen die Beseitigung des baugesetzwidrigen Zustandes nicht im Sinne der erwähnten Ausnahme stets verlangt werden kann, die Frist zu bestimmen, nach deren Ablauf die Befugnis der Behörden zur Anordnung des Abbruchs von Gebäuden oder Gebäudeteilen dahinfällt. Da Regeln fehlen, muss diese Frist in freier Rechtsfindung festgelegt werden.

Die Befristung hat zur Folge, dass der Grundeigentümer des baugesetzwidrigen Gebäudes sozusagen das Recht "ersitzt", den an sich rechtswidrigen Zustand des Gebäudes oder Gebäudeteiles beizubehalten. Diese Überlegung legt es nahe, die zivilrechtlichen Regeln über die Ersitzung heranzuziehen. Der Natur der Sache nach kann hierbei nur die für die ausserordentliche Ersitzung von Grundeigentum geltende Regel des Art. 662 ZGB analog herangezogen werden, denn eine ähnliche Situation, wie sie für einen ungerechtfertigt im Grundbuch eingetragenen Grundeigentümer besteht, liegt nicht vor, wenn jemand Eigentümer eines Grundstückes ist, auf welchem sich ein baugesetzwidriges Gebäude befindet. Die dreissigjährige Frist drängt sich zudem aus praktischen Gründen auf. Auf die Dauer von drei Jahrzehnten zurück kann das geltende kommunale und kantonale Baurecht sowie, was entscheidend ist, die Praxis hiezu noch einigermassen sicher festgestellt werden. Die Frist von dreissig Jahren beginnt mit der Fertigstellung des baugesetzwidrigen Gebäudes bzw. Gebäudeteiles zu laufen (vgl. dazu ähnliche Überlegungen für forstrechtliche Tatbestände in BGE 105 Ib 271 E. 6b).

c) Die dreissigjährige Frist scheint lang, doch wird sie nur in seltenen Ausnahmefällen zur Anwendung kommen. In der Regel werden nämlich die Baupolizeibehörden bei ihrer überwachenden Tätigkeit Baugesetzwidrigkeiten rasch feststellen, da diese meistens von aussen her ersichtlich sind. Nur dort, wo sich die Rechtswidrigkeit auf das Gebäudeinnere beschränkt, wird es oft längere Zeit dauern, bis der rechtswidrige Zustand von den Behörden wahrgenommen wird. Ein Vorbehalt ist analog wie im Forstpolizeirecht (vgl. dazu BGE 105 Ib 272) für Fälle zu machen, in denen die Baupolizeibehörden zwar vor Ablauf der dreissigjährigen Frist einschreiten, die rechtswidrigen Gebäude oder Gebäudeteile aber über Jahre hinaus duldeten, obschon ihnen die Gesetzwidrigkeit bekannt war oder sie diese bei Anwendung der gebotenen Sorgfalt hätten kennen müssen. Hier müsste allenfalls der aus Art. 4 BV folgende Schutz von Treu und Glauben Platz greifen. In der Regel verwirken aber die Behörden ihren Anspruch, den Abbruch baugesetzwidriger Gebäude oder Gebäudeteile anzuordnen, erst nach dreissig Jahren.

2.- Die kantonalen Instanzen und die Beschwerdeführerin gehen davon aus, die streitige Galerie sei in den zwanziger Jahren dieses Jahrhunderts errichtet worden. Der Beschluss, mit dem die Bausektion II des Stadtrates Zürich den teilweisen Abbruch und die teilweise Umgestaltung der Galerie anordnete, datiert vom 17. Juli 1978. Zu diesem Zeitpunkt war die dreissigjährige Verwirkungsfrist längst abgelaufen. Dass hier ein Fall vorliegt, in welchem die Verwirkung ausgeschlossen ist, weil die Wiederherstellung des rechtmässigen Zustandes aus baupolizeilichen Gründen im engeren Sinne geboten ist, trifft entgegen der Ansicht der kantonalen Behörden nicht zu.

Die fragliche Galerie ist in dreifacher Hinsicht baugesetzwidrig, mit Bezug auf die Geschosszahl (sie bildet ein unzulässiges siebentes Geschoss), hinsichtlich der lichten Höhe (diese beträgt unter und über dem Galerieteil 1,95 m bzw. 2,0 m anstatt 2,4 m oder 2,5 m und bezüglich der Fensterfläche (2,2 m2 anstatt 4,1 m2). Zwar verstösst sie damit gegen Vorschriften, die gesundheitspolizeilich und wohnhygienisch motiviert sind. Dieser Umstand allein genügt indes nicht, um eine Verwirkung des Anspruchs der Behörden, die Beseitigung eines rechtswidrigen Gebäudeteiles zu verlangen, auszuschliessen. Erforderlich ist ausserdem, dass durch den gesetzwidrigen Zustand eine konkrete Gefahr für Leib und Leben der Bewohner oder der Passanten geschaffen wird. Dies lässt sich hinsichtlich der hier in Frage stehenden Galerie nicht sagen. Da sie in einen Raum eingebaut ist, der eine Höhe von 4 m sowie ein beachtlich grosses Fenster aufweist, besteht weder wohnhygienisch noch gesundheitspolizeilich eine Gefährdung der Bewohner, auch wenn unter und über dem Galerieteil die gesetzlich vorgeschriebene Höhe um ca. 40 cm unterschritten wird. Die Berufung der Behörden auf die Feuersicherheit, mit der die Auflage betreffend Erstellung einer feuerhemmenden Trennwand begründet wird, geht ebenfalls fehl. Es verhält sich entgegen den Erwägungen im Entscheid der Baurekurskommission nicht so, dass im Galerieteil, der über Küche und Abort liegt, Räume mit verschiedener Benützungsart aneinandergrenzen, denn der Estrichraum soll ja - durch die zu errichtende Trennwand - erst geschaffen werden. Feuerpolizeilich gerechtfertigt war einzig die Verfügung, die vorhandenen Türen zum Estrich seien feuerhemmend zu erstellen. Diese Auflage war jedoch vor Verwaltungsgericht nicht mehr streitig, sondern die Beschwerdeführerin hat sie in ihrer Beschwerde an jene Instanz ausdrücklich anerkannt.

Es liegt demnach kein Fall vor, in welchem die Beseitigung des rechtswidrigen Gebäudeteiles ohne Rücksicht auf den Zeitablauf angeordnet werden kann. Die Bausektion II des Stadtrates Zürich hatte somit ihren Anspruch, die Wiederherstellung des rechtmässigen Zustandes zu verlangen, am 17. Juli 1978 längst verwirkt, und das Verwaltungsgericht verletzte bei dieser Sachlage Art. 22ter BV, indem es den Beschluss der Bausektion betreffend den teilweisen Abbruch und die teilweise Umgestaltung der Galerie bestätigte. Die Beschwerde ist deshalb gutzuheissen und das angefochtene Urteil aufzuheben.