A.- W. hatte im April 1953 zusammen mit F. als Miteigentümer je zur Hälfte den an der Rorschacherstrasse St. Gallen gelegenen und heute aus den Parzellen Nrn. 2394, 3425 und 3426 bestehenden Teil der Liegenschaft "Reburg", Rorschacherstrasse Nr. 155, erworben. Die Parzellen Nrn. 3425 und 3426 wurden am 2. Oktober 1953 an die I. AG, für welche W. als Verwaltungsrat handelte, verkauft und sodann mit den Mehrfamilienhäusern Rorschacherstrasse 149 bis 151 und 159 bis 161 überbaut. Am 13. September 1954 wurden beide Liegenschaften zusammen mit der Restparzelle Nr. 2394, auf welcher sich das um 1830 von Fürsprech Johann Baptist Gruber in klassizistischem Stil erbaute ehemalige Sommerhaus mit der Bezeichnung "Reburg" befindet, an die G. AG veräussert. W. kaufte am 1. September 1965 die Restparzelle Nr. 2394 mit dem Haus "Reburg" von der G. AG zurück und baute es in der Folge im Innern um.

Bereits in einem Beschluss des St. Galler Stadtrates vom 24. Juni 1952 über einen Überbauungs- und Zonenplan für das Grossackerareal war ausgeführt worden, das klassizistische Sommerhaus "Reburg" solle als besonders typisches St. Galler Bürgerhaus mit vorzüglichen Proportionen erhalten bleiben. Im Kaufvertrag zwischen der durch W. vertretenen I. AG und der G. AG vom 13. September 1954 war vorgesehen, dass die "Reburg" gemäss den Plänen von W. umgebaut werden solle. In einem in diesem Zusammenhang verfassten Baubeschrieb hielt W. fest, das alte Patrizierhaus Rorschacherstrasse 155 gebe der Neuüberbauung einen besonders ausgeprägten Rahmen. Im Jahre 1973 wurde das Haus "Reburg" aufgrund des Bundesbeschlusses über dringliche Massnahmen auf dem Gebiet der Raumplanung in das Inventar der schützenswerten Kulturobjekte aufgenommen, daraus aber im August 1977 auf Einsprache von W. hin entlassen. W. ersuchte im Februar 1980 um die Bewilligung zum Abbruch der "Reburg". Das Gesuch wurde von der städtischen Baupolizeikommission abgelehnt. Der Stadtrat St. Gallen wies einen hiergegen eingereichten Rekurs mit Beschluss vom 26. Mai 1981 ab. Gleichzeitig verfügte er, das Haus "Reburg" dürfe nicht abgebrochen werden und alle von aussen wahrnehmbaren Veränderungen sowie Fassadenrenovationen und -anstriche seien bewilligungspflichtig. W. verlangte in der Folge, es sei festzustellen, dass diese Schutzmassnahme eine materielle Enteignung bewirke. Der Stadtrat wies das Begehren ab. Der Regierungsrat des Kantons St. Gallen bejahte auf einen Rekurs von W. hin das Vorliegen einer materiellen Enteignung unter dem Gesichtspunkt des Sonderopfers. Eine dagegen erhobene Beschwerde der Stadt St. Gallen hiess das Verwaltungsgericht des Kantons St. Gallen mit Urteil vom 17. Dezember 1985 gut. Es verneinte eine enteignungsgleiche Wirkung der Schutzmassnahme und hob den Regierungsratsentscheid auf.

W. hat gegen das Urteil des Verwaltungsgerichts staatsrechtliche Beschwerde wegen Verletzung von Art. 22ter BV eingereicht. Das Bundesgericht behandelt die Eingabe als Verwaltungsgerichtsbeschwerde und weist sie ab.

Aus den Erwägungen:

2.- Das Verwaltungsgericht erachtete das Datum der Verfügung des Stadtrates (26. Mai 1981), mit der das Haus "Reburg" unter Schutz gestellt wurde, als massgebenden Zeitpunkt für die Beurteilung der Frage, ob der Beschwerdeführer enteignungsähnlich betroffen worden sei. Der Stadtrat hatte in seiner Beschwerde an das Verwaltungsgericht die Ansicht vertreten, massgebend sei der 1. August 1972, d.h. das Datum des Inkrafttretens des kantonalen Baugesetzes vom 6. Juni 1972 (BauG), denn seit jenem Zeitpunkt stehe fest, dass die "Reburg" als künstlerisch und geschichtlich wertvolle Baute aufgrund von Art. 98 Abs. 1 BauG zu erhalten sei. In seiner Vernehmlassung an das Bundesgericht hält der Stadtrat an dieser Auffassung fest, indem er geltend macht, Art. 98 BauG sei für den Eigentümer eines Schutzobjektes bindend.

Hiezu ist folgendes zu bemerken: Auch wenn davon ausgegangen wird, das in Art. 98 BauG angeordnete Gebot der Erhaltung künstlerisch oder geschichtlich wertvoller Bauten sei als gesetzliche Eigentumsbeschränkung für jedermann verbindlich, so geht doch der Umfang des Schutzes und damit das für die Beurteilung der enteignungsgleichen Wirkung wesentliche Mass der Belastung erst aus der konkreten Schutzanordnung hervor. Das Verwaltungsgericht hat daher zu Recht das Datum der Verfügung des Stadtrates, mit der dieser das Haus unter Schutz gestellt hatte, als Stichtag für die Abklärung der Frage der enteignungsähnlichen Wirkung bezeichnet. Allgemein gilt, dass für die Beantwortung der Frage, ob eine materielle Enteignung vorliege, nicht auf das Datum des Inkrafttretens der Gesetzesbestimmung abzustellen ist, welche den Begriff der Schutzobjekte in allgemeiner Weise umschreibt; massgebend ist vielmehr das Datum der konkreten Verfügung, mit der ein bestimmtes Gebäude unter Schutz gestellt wird, denn erst dadurch wird mit der erforderlichen Präzision bestimmt, dass und in welchem Umfang die gesetzliche Schutznorm auf das betreffende Objekt anwendbar ist.

4.- Es ist zunächst zu prüfen, ob dem Beschwerdeführer - wie er geltend macht - eine wesentliche aus dem Eigentum fliessende Befugnis entzogen wurde. Zur Beantwortung dieser Frage ist von der Tragweite der Schutzmassnahme auszugehen. Diese verbietet den Abbruch des Hauses und erklärt "alle von aussen wahrnehmbaren Veränderungen sowie Fassadenrenovationen und -anstriche" als bewilligungspflichtig. Die Anordnung beschränkt sich somit auf den Schutz des äusseren Anblickes des klassizistischen Gebäudes. Der Schutz erstreckt sich nicht - wie etwa in dem im Urteil BGE 109 Ia 257 ff. behandelten Fall - auf die innere Gestaltung des Hauses.

Das Bundesgericht zählt die dem Altstadt- und Heimatschutz dienenden Bauvorschriften, die dem Schutz der nach aussen sichtbaren Bausubstanz dienen, seit jeher zu den herkömmlichen Eigentumsbeschränkungen (BGE 91 I 341 E. 3 mit Verweisungen). Auch die Unterschutzstellung der Fassaden und Dächer einzelner Häuser stellt - wie im angeführten Entscheid festgestellt wurde - keinen ausserordentlich tiefgreifenden Eingriff in das Eigentumsrecht am Hause dar. Freilich bleiben stets die besonderen Umstände des Einzelfalles zu beurteilen. Als solche führt der Beschwerdeführer den nach seiner Meinung wesentlich höheren Wert an, welcher der Liegenschaft im Hinblick auf eine Neuüberbauung zukommt. Entgegen seiner Ansicht kommt es jedoch nicht entscheidend auf die Rendite an, die er bei einer Neuüberbauung erzielen könnte. Entscheidend ist vielmehr, ob die herkömmlichen Eigentumsbeschränkungen, denen der Beschwerdeführer unterliegt, eine bestimmungsgemässe, wirtschaftlich sinnvolle und gute Nutzung weiterhin erlauben (BGE 111 Ib 264 f. E. 4a mit Hinweisen). Diese Frage ist zu bejahen. Das Haus "Reburg" kann nach wie vor als Mietobjekt - mithin seinem bestimmungsgemässen Gebrauch entsprechend - genutzt werden. Nach den Angaben des Beschwerdeführers vom 25. Februar 1982 betragen die Mietzinseinnahmen Fr. 63'792.-- pro Jahr. Der Marktwert des Hauses wird gemäss Expertise der St. Galler Kantonalbank vom 23. Dezember 1983 auf Fr. 866'000.-- geschätzt und die daraus resultierende Rendite mit 7,27% angegeben. Bei diesen Gegebenheiten kann durchaus von einer wirtschaftlich sinnvollen und guten Nutzung der Liegenschaft gesprochen werden. Auch ist eine weitergehende bauliche Umgestaltung der "Reburg" im Innern möglich, so dass eventuell eine Verbesserung der jetzigen Rendite erzielt werden kann. Der von der Kantonalbank unter Annahme einer zonengemässen Ausnützungsmöglichkeit ermittelte Wert ist demgegenüber nicht massgebend.

Abgesehen hievon ist davon auszugehen, dass dem Beschwerdeführer die historische und künstlerische Bedeutung der "Reburg" seit jeher bewusst war, wurde doch beim Verkauf der Liegenschaft von der durch den Beschwerdeführer vertretenen I. AG an die G. AG damit gerechnet, dass das Haus zufolge seines baukünstlerischen und kulturellen Wertes in seiner äusseren Gestaltung als prägendes Element innerhalb der Neubauten, die gemäss den Plänen des Beschwerdeführers an der Rorschacherstrasse erstellt wurden, erhalten bleibe. Unter diesen Umständen kann nicht davon die Rede sein, dass dem Beschwerdeführer mit der Schutzanordnung, mit deren Erlass er rechnen musste, wesentliche Eigentümerbefugnisse entzogen worden wären. Durch die Schutzmassnahme, die sich auf die nach aussen sichtbare historisch oder künstlerisch wertvolle Substanz beschränkt, wird der Beschwerdeführer den im kantonalen Baurecht seit langem bekannten und weit verbreiteten üblichen Eigentumsbeschränkungen unterworfen, welche im Interesse des Altstadt- und Heimatschutzes in Kauf genommen werden müssen. Erlauben diese Beschränkungen weiterhin eine wirtschaftlich angemessene Nutzung, so führt das Gebot, Fassaden und Dach zu erhalten, ebensowenig zu einem Entzug der wesentlichen aus dem Eigentum sich ergebenden Befugnisse, wie dies nach einem Urteil des Bundesgerichts bei einem Abbruchverbot im Interesse der Erhaltung preisgünstiger Wohnungen der Fall war (BGE 99 Ia 41 E. 3c).

5.- Im weiteren ist abzuklären, ob dem Beschwerdeführer mit der Schutzmassnahme ein unzumutbares Opfer zugunsten der Allgemeinheit auferlegt worden ist, so dass es mit der Rechtsgleichheit nicht vereinbar wäre, wenn ihm hiefür keine Entschädigung geleistet würde.

a) Diese Frage ist bereits deshalb zu verneinen, weil der Beschwerdeführer sowohl beim ersten, im Jahre 1953 erfolgten Kauf eines Abschnittes der Liegenschaft "Reburg" als auch bei dem im Jahre 1965 erfolgten Rückkauf der Restparzelle damit rechnen musste, der Abbruch des klassizistischen Herrschaftshauses werde zufolge seines kulturellen und künstlerischen Wertes nicht bewilligt. Andernfalls wäre nicht einzusehen, warum er nicht auch die Restparzelle der "Reburg", auf der sich das Herrschaftshaus befindet, in die von ihm geplante und verwirklichte Neuüberbauung einbezogen hätte. Konnte der Beschwerdeführer nicht damit rechnen, eine Neuüberbauung lasse sich auch auf der Restparzelle Rorschacherstrasse 155 verwirklichen, so kann nicht von einem Sonderopfer die Rede sein (BGE 109 Ib 15 f. E. 2 mit Verweisungen).

b) Selbst wenn man aber davon ausgehen wollte, der Beschwerdeführer habe mit einer Neuüberbauung rechnen dürfen, weil er den künstlerischen oder geschichtlich wertvollen Charakter der "Reburg" habe in Frage stellen dürfen, so könnte dennoch von einem entschädigungspflichtigen Sonderopfer unter den gegebenen Umständen nicht gesprochen werden. Entgegen der Auffassung des Beschwerdeführers hat das Verwaltungsgericht die Rechtsprechung des Bundesgerichts keineswegs verkannt. Es hat vielmehr in zutreffender Weise sowie in Übereinstimmung mit der Lehre (YVO HANGARTNER, Grundsätzliche Probleme der Eigentumsgarantie und der Entschädigungspflicht in der Denkmalpflege, in: Rechtsfragen der Denkmalpflege, St. Gallen 1981, S. 66 f.) auf den Kreis der Betroffenen abgestellt, die sich in gleichen oder ähnlichen Verhältnissen befinden, um zu entscheiden, ob der Beschwerdeführer als einzelner zugunsten der Allgemeinheit in unzumutbarer Weise betroffen werde. Dabei durfte das Gericht aus dem von der Stadt St. Gallen aufgestellten Inventar der schützenswerten Bauten ausserhalb der Altstadt folgern, dass die dem Beschwerdeführer auferlegte Schutzmassnahme in gleicher Weise die grosse Zahl aller Eigentümer von Bauten trifft, deren nach aussen sichtbare Substanz im Interesse des Schutzes des überlieferten Ortsbildes zu erhalten ist. Entgegen der Auffassung des Beschwerdeführers lässt sich die Annahme des Verwaltungsgerichts, diese rund 250 Eigentümer müssten mit gleichen Schutzmassnahmen rechnen und befänden sich daher in der gleichen Lage, in keiner Weise beanstanden. Auch kann der Beschwerdeführer aus der Bemerkung im Urteil BGE 108 Ib 355 f. E. 4a, wonach die Unterschutzstellung eines Gebäudes in einem Strassenzug, der mit einer grösseren Geschosszahl überbaut werden dürfte, möglicherweise zu einem entschädigungspflichtigen Sonderopfer führen könnte, deshalb nichts zu seinen Gunsten herleiten, weil eine solche Folgerung eine stossende Rechtsungleichheit voraussetzt. Hievon könnte etwa dann gesprochen werden, wenn in einer Strasse, deren bestehende Häuser in gleicher Weise schutzwürdig sind, nur gerade ein Haus unter Schutz gestellt wurde. So verhält es sich in der vorliegenden Sache nicht, in der das klassizistische Gebäude der "Reburg" ursprünglich ausserhalb der Stadt lag und der Beschwerdeführer die an das Haus anstossenden Flächen abtrennen und mit mehrgeschossigen Wohnhäusern überbauen konnte.

Von einem entschädigungspflichtigen Sonderopfer könnte sodann - wie das Verwaltungsgericht zutreffend angenommen hat - allenfalls dann gesprochen werden, wenn dem Beschwerdeführer weitergehende Schutzmassnahmen auferlegt worden wären, die über die Erhaltung der äusseren Bausubstanz hinausgingen, sofern solche Massnahmen zur Folge hätten, dass ihm als einem einzelnen Eigentümer ein wirtschaftlich unzumutbares Opfer zugunsten der Allgemeinheit auferlegt würde. Würden in einem solchen Falle keine staatlichen Beiträge ausgerichtet, so wäre eine stossende Rechtsungleichheit nicht auszuschliessen. Im vorliegenden Falle unterliegt jedoch der Beschwerdeführer - wie bereits ausgeführt wurde - bloss den im Interesse des Altstadt- und Heimatschutzes allgemein üblichen Beschränkungen, wobei ihm diese keineswegs eine wirtschaftlich unzumutbare Last auferlegen, konnte er doch die von ihm abparzellierten Teile der Liegenschaft "Reburg" in wirtschaftlich guter Weise nutzen und bleibt ihm auch eine bestimmungsgemässe und sinnvolle Nutzung des bestehenden ehemaligen Herrschaftshauses erhalten.

Nach dem Gesagten bedeutete es keine Verletzung von Bundesrecht, wenn das Verwaltungsgericht zum Schluss gelangte, die Unterschutzstellung des Hauses "Reburg" habe für den Beschwerdeführer keine materielle Enteignung zur Folge. Die Verwaltungsgerichtsbeschwerde ist daher abzuweisen.