A.- Nach § 182 zürch. EG zum ZGB ist der Regierungsrat berechtigt, "auf dem Verordnungswege ... zur Sicherung von Landschaften ... vor Verunstaltung ... die nötigen Verfügungen zu treffen ...". Gestützt auf diese Ermächtigung erliess der Regierungsrat am 3. Februar 1944 eine Verordnung zum Schutze des Türlersees. Darin wird die Umgebung des Türrlersees in 5 bestimmt umgrenzte Zonen eingeteilt (§ 1). Sie sind in einem der Verordnung beigegebenen Zonenplan dargestellt (§ 2). Die erste Zone umfasst das See- und Strandgebiet, das dem Gemeingebrauch dient (§ 3). Für die andern Zonen werden Baubeschränkungen angeordnet. In der III. Zone sind Bauten grundsätzlich verboten; Bauten für den landwirtschaftlichen Betrieb werden bewilligt, sofern sie sich gut in das Landschaftsbild einfügen (§ 12). In der IV. Zone können andere Bauten bewilligt werden, wenn keine nachteilige Beeinflussung des Landschaftsbildes oder eines im Interesse des Natur- und Heimatschutzes erhaltungswürdigen Objektes zu befürchten ist (§ 13 in Verbindung mit § 7, Abs. 3). Die Verordnung wurde in der Zürcher Gesetzessammlung publiziert, den davon betroffenen Grundeigentümern aber nicht einzeln eröffnet.

B.- Der Beschwerdeführer Paul Spiess, Ofenfabrikant in Adliswil, ist seit 1936 Eigentümer eines Bauerngutes im Weiler Habersaat (Gemeinde Äugst a /A) nördlich des Türlersees. Das dazu gehörende Land liegt, abgesehen von den Waldparzellen, ganz in den Zonen III (Landwirtschaftszone) und IV (Bauzone). Der Beschwerdeführer hat das Gut nie selbst bewirtschaftet. In den ersten Jahren verpachtete er es an Landwirte. 1945 hob er die Bewirtschaftung des Gutes als landwirtschaftliches Gewerbe auf. Er baute das Wohnhaus und das Ökonomiegebäude um und vermietet sie an Nichtlandwirte. Die Scheune benützt er für eigene Lagerzwecke. Den Heu- und Emdertrag des Wieslandes gibt er an Landwirte ab, den Obstertrag behält er für sich.

C.- Der Beschwerdeführer steht in Unterhandlungen mit einem Konsortium, dem er eine Landparzelle "Scheuermatt" zur Überbauung mit Wohnhäusern abtreten möchte. Das Konsortium ist beim Regierungsrat um Erteilung der für die Bauten erforderlichen Bewilligung eingekommen. Der Regierungsrat hat die Bewilligung verweigert.

Daraufhin hat der Beschwerdeführer dem Regierungsrat ein Gesuch um Einleitung des Expropriationsverfahrens eingereicht. Darin macht er geltend, das in Frage stehende Land sei als Bauland anzusprechen. Das Bauverbot komme einer materiellen Enteignung gleich. Der betroffene Grundeigentümer sei daher für die ihm zugefügten Eingriffe zu entschädigen, sofern die Verordnung aufrecht erhalten werde.

Der Regierungsrat hat das Gesuch am 27. Januar 1955 abgewiesen. Er geht davon aus, dass sich die Frage einer materiellen Enteignung höchstens durch das Bauverbot für andere als landwirtschaftliche Bauten (Zone III) stellen könnte. Das Bauverbot für Zone III beruhe unmittelbar auf den Vorschriften der Schutzverordnung. Die bauhindernde Eigentumsbeschränkung liege daher seit Inkrafttreten der Schutzverordnung auf dem Lande des Beschwerdeführers. Für die Frage, ob die Auferlegung des fraglichen Bauverbotes ohne Leistung einer Entschädigung materielle Enteignung wäre, müsse auf den Zeitpunkt des Inkrafttretens der Verordnung, also auf das Jahr 1944 abgestellt werden. Ein bisher ausgeübter oder wirtschaftlich verwerteter Gebrauch sei dem Gesuchsteller durch Auferlegung des Bauverbotes im Jahre 1944 nicht entzogen worden. Auch wären die Grundstücke des Beschwerdeführers im Jahre 1944 nicht als Bauland anzusprechen gewesen. Übrigens seien sie es auch heute nicht. Unter diesen Umständen seien die Voraussetzungen nicht erfüllt, welche die Annahme eines nur gegen Entschädigung zulässigen Eingriffes in das Eigentum des Gesuchstellers rechtfertigen würden, weshalb - unter dem Gesichtspunkte der Eigentumsgarantie - kein Anlass bestehe, den Expropriationsweg zu beschreiten.

D.- Hiegegen richtet sich die staatsrechtliche Beschwerde mit dem Antrag, den angefochtenen Entscheid wegen Verletzung der Eigentumsgarantie (Art. 4 KV) aufzuheben und den Regierungsrat anzuweisen, das formelle Enteignungsverfahren gegenüber dem Rekurrenten einzuleiten, eventuell festzustellen, dass dem Beschwerdeführer der Rechtsweg (vor den zürcherischen Zivilgerichten) für die Geltendmachung seiner Entschädigungsprüche offen steht. Zur Begründung wird im wesentlichen ausgeführt, das in der Schutzverordnung niedergelegte Bauverbot für andere als landwirtschaftliche Bauten (Zone III), das den grössten Teil des Grunbesitzes des Beschwerdeführers in Habersaat treffe, bewirke eine materielle Enteignung. Der Regierungsrat verletze die Eigentumsgarantie, wenn er die Einleitung des Enteignungsverfahrens zur Festsetzung der Entschädigung ablehne. Das Bundesgericht habe in einem neuern Entscheide erklärt, dass eine Verletzung der Eigentumsgarantie wegen materieller Enteignung erst dann mit der staatsrechtlichen Beschwerde zur Geltung gebracht werden könne, wenn dem Eigentümer gegen die Verweigerung der Entschädigung der Rechtsweg nicht mehr offen stehe (Urteil vom 18. Juni 1952 i.S. Bäggli).

Im Kanton Zürich ständen für die Entscheidung der Entschädigungsfrage zwei Rechtswege zur Verfügung, das Expropriationsverfahren nach Abtretungsgesetz und die Zivilklage. Über die Einleitung des Enteignungsverfahrens befinde ausschliesslich die Verwaltungsbehörde. Sie beurteile dabei vorfrageweise das Vorliegen materieller Enteignung. Lehne der Regierungsrat als oberste Verwaltungsbehörde in diesem Verfahren die Expropriation ab, so sei dieser ordentliche Rechtsweg endgültig abgeschnitten.

Dem Grundeigentümer stehe aber auch frei, seine Entschädigungsansprüche aus materieller Enteignung gemäss § 1 des Gesetzes vom 23. Juni 1831 über Streitigkeiten im Verwaltungsfach auf dem Wege der Forderungsklage vor den Zivilgerichten geltend zu machen, wobei der Zivilrichter die gleiche Vorfrage (Vorliegen materieller Enteignung) hier als Voraussetzung für den Entschädigungsanspruch zu entscheiden habe.

Jedes der beiden Verfahren bestehe unabhängig vom andern, und beide Verfahren können - wird in der Beschwerde angenommen - wenn Verletzung der Eigentumsgarantie geltend gemacht wird, in eine staatsrechtliche Beschwerde ausmünden.

Da beide Verfahren dem Grundeigentümer kumulativ zur Verfügung ständen, jedes Verfahren aber selbständig sei und einen verschiedenen Inhalt habe, habe das Bundesgericht über die vorliegende staatsrechtliche Beschwerde zu entscheiden. Im Falle der Gutheissung der Beschwerde komme der Beschwerdeführer, entsprechend seinem Wunsche und Begehren, zum Expropriationsverfahren. Im Falle der Abweisung sei ihm der Weg vor den zürcherischen Zivilgerichten nicht genommen. Es erscheine gegeben und zweckmässig, dass dies im Entscheide des Bundesgerichts festgehalten werde, damit nicht im spätern eventuellen Zivilprozess auch hierüber gestritten werden müsse.

E.- Der Regierungsrat des Kantons Zürich beantragt Abweisung des Hauptbegehrens, soweit damit die Aufhebung des angefochtenen Beschlusses verlangt wird, und Nichteintreten auf sämtliche übrigen Begehren. Zur Begründung wird u.a. ausgeführt, der Regierungsrat halte dafür, dass auf die Beschwerde einzutreten sei. Er habe aber alle Vorbehalte hinsichtlich der Zuständigkeit des Zivilrichters anzubringen. "Seit vom Bundesgericht die Grundsätze über die materielle Enteignung entwickelt wurden, ist es zu keinem kantonalen Gerichtsverfahren hierüber gekommen, namentlich auch nicht im Falle Schniter. Tatsache ist dagegen, dass der Beschwerdeführer nach unserem Beschluss vom 27. Januar 1955 keine Möglichkeit mehr hat, auf anderem Wege als dem von ihm nun eingeschlagenen im Expropriationsverfahren Entschädigung zu erhalten. Es ist auch einzuräumen, dass er aus verschiedenen Gründen ein Interesse an der Durchführung gerade dieses Verfahrens haben kann. Der Regierungsrat muss sich beispielsweise vorbehalten, in einem Zivilprozess nicht nur die Zuständigkeit des Richters zu bestreiten, sondern auch die Verjährungseinrede zu erheben. Auch sieht das kantonale Abtretungsgesetz die Möglichkeit eines Unfreiwilligkeitszuschlages vor; auf dem Zivilweg muss die Unfreiwilligkeit der Eigentumsbeschränkung unberücksichtigt bleiben. Im übrigen halten auch wir dafür, die Möglichkeit der staatsrechtlichen Beschwerde gegen einen Beschluss von der Art des hier angefochtenen sei vom Bundesgericht selbst im Urteil vom 18. Juni 1952 in Sachen Bäggli vorgesehen worden."

Das Bundesgericht hat die Beschwerde, soweit es darauf eintritt, abgewiesen

1. Staatsrechtliche Beschwerden gegen Entscheide, die kantonale Behörden in Anwendung kantonalen Rechts treffen, haben ausschliesslich kassatorischen Charakter. Sie können nur auf Aufhebung der angefochtenen Entscheidung gerichtet sein. Positive Anordnungen hat das Bundesgericht, dessen Aufgabe sich auf die Überprüfung des Vorwurfes der Verfassungswidrigkeit der konkreten Anordnung beschränkt, nicht zu treffen. Die Beschwerde ist daher von der Hand zu weisen, soweit damit etwas anderes als die Aufhebung des Entscheides des Regierungsrates beantragt wird.

2. Die Eigentumsgarantie nach Art. 4 der zürch. KV gewährleistet dem Bürger den Schutz seiner wohlerworbenen Privatrechte dahingehend, dass Zwangsabtretungen nur zulässig sind, wenn das öffentliche Wohl es erheischt, und dass dafür gerechte Entschädigung gewährt wird. Als solche Zwangsabtretung (Enteignung) gilt nach feststehender Praxis nicht allein die Entziehung von Eigentum oder andern Privatrechten, sondern es können darunter auch verwaltungsrechtliche oder polizeiliche Gebote oder Verbote fallen, durch die der Eigentümer einer Sache in der Verfügung über diese oder in deren Benutzung beschränkt wird. Wohl handelt es sich bei solchen Verfügungen, wenn sie auf gesetzlicher Grundlage beruhen, in der Regel um blosse Anwendung allgemeiner gesetzlicher Eigentumsbeschränkungen. Ausnahmsweise kann aber ihre Wirkung in einzelnen Fällen derart sein, dass sie als eigentlicher Eingriff in das durch die objektive Rechtsordnung umschriebene Eigentumsrecht anzusehen sind, materiell, wenn auch nicht der Form nach, als Enteignung erscheinen. Das trifft nach der Rechtsprechung des Bundesgerichtes in der Regel dann zu, wenn dem Eigentümer ein bisher rechtmässig ausgeübter oder wirtschaftlich verwerteter Gebrauch der Sache untersagt wird oder wenn das Verbot die Benützung der Sache in ausserordentlich hohem und empfindlichem Masse einschränkt und dabei ausnahmsweise ein einziger oder nur einzelne wenige Eigentümer so getroffen werden, dass diese ein allzu grosses Opfer zu Gunsten des Gemeinwesens bringen müssten, sofern sie keine Entschädigung erhielten (BGE 69 I 241f. und Zitate;BGE 74 I 150Erw. 2; ferner die nicht publ. Entscheide vom 19. März 1952 i.S. Schniter, Erw. 2, und vom 18. Juni 1952 i.S. Bäggli, Erw. 2).

Der Beschwerdeführer behauptet, die Anwendung der zum Schutze des Türlersees aufgestellten Baubeschränkungen auf seinen Grundbesitze im Weiler Habersaat, speziell auf sein Grundstück Scheuermatt, dessen Bebauung unter Berufung auf die Schutzverordnung verhindert worden ist, komme einer materiellen Enteignung gleich, es müsse dafür das Enteignungsverfahren zur Festsetzung der Entschädigung eingeleitet werden. Er erblickt in dem Entscheide des Regierungsrates, mit welchem zwar für den Fall materieller Enteignung die Entschädigungspflicht anerkannt, aber das Vorliegen materieller Enteignung verneint und deswegen die Eröffnung des Enteignungsverfahrens abgelehnt wird, eine Verletzung der in Art. 4 zürch. KV gewährleisteten Garantie.

3. Über die Frage, ob eine materielle Enteignung vorliegt oder nicht, wird im Kanton Zürich, wie der Beschwerdeführer zutreffend ausführt und der Regierungsrat wenigstens dem Grundsatze nach anerkennt, in verschiedenen und von einander formell unabhängigen Verfahren entschieden. Einerseits können die Verwaltungsbehörden, wenn sie einen Enteignungsfall im oben umschriebenen Sinne anordnen oder, z.B. auf Begehren des Betroffenen, feststellen, das Enteignungsverfahren zur Festsetzung der Entschädigung einleiten. Anderseits hat der von einem behördlichen Eingriff Betroffene die Möglichkeit, die öffentliche Entschädigung mit der Forderungsklage gemäss § 1 des Gesetzes vom 23. Juni 1831 über die Streitigkeiten im Verwaltungsfach bei den Zivilgerichten geltend zu machen (vgl.BGE 45 I 255f., Tatbestand sub A). In beiden Verfahren ist das Vorliegen materieller Enteignung Vorfrage für den Sachentscheid. In einem Falle, wo, wie hier, dem von einem behördlichen Eingriff Betroffenen unter dem Gesichtspunkte der Eigentumsgarantie lediglich ein Anspruch auf Entschädigung, und nicht ein Anspruch auf Rücknahme oder Änderung (Milderung) des Eingriffs zusteht, und wo ihm zur Geltendmachung seiner Forderung der Weg an den Richter geöffnet ist, liegt in der administrativen Ablehnung des Expropriationsverfahrens kein Verstoss gegen die Eigentumsgarantie. In der Ablehnung kommt lediglich zum Ausdruck, dass nach Auffassung der zuständigen Behörden kein Enteignungsfall vorliegt. Es wird aber nicht erklärt, dass für den Fall eines Tatbestandes materieller Enteignung die verfassungsmässige Entschädigung verweigert werde. Im angefochtenen Entscheid wird denn auch erklärt, dass sich der Kanton beim Vorliegen materieller Enteignung der Entschädigungspflicht nicht entziehen könnte. Es ist also für diesen Fall die Entschädigungspflicht ausdrücklich anerkannt.

Mit dem Entscheide des Regierungsrates ist manifest geworden, dass die Auffassungen über das Vorliegen dieses Tatbestandes auseinandergehen. Der Bürger, der seine Auffassung zur Geltung bringen, nämlich auf eine Entschädigung Anspruch erheben will, hat den Rechtsweg zu beschreiten, den ihm das kantonale Recht zur Verfügung stellt. Er hat den in Streitfällen massgebenden richterlichen Entscheid über seinen Anspruch und über die ihn begründende Vorfrage zu erwirken. Solange er diesen Weg nicht eingeschlagen hat, kann er sich nicht mit Grund wegen Verletzung der Eigentumsgarantie beschweren (vgl.BGE 68 I 157, Erw. 3 und Zitate). Eine Verletzung der Eigentumsgarantie wäre erst anzunehmen, wenn in dem Forderungsprozess vor den Zivilgerichten die verfassungsmässig garantierte Entschädigung bei Vorliegen eines Tatbestandes verweigert würde, der sich als materielle Enteignung erweist (nicht publ. Entscheide vom 22. März 1950 i.S. Messikommer; vom 19. März 1952 i.S. Schniter, Erw. 5, und vom 18. Juni 1952 i.S. Bäggli, Erw. 6; vgl. auchBGE 43 I 206,BGE 68 I 157, Erw. 3).

Hier hat der Beschwerdeführer von seinem Recht, den behaupteten Entschädigungsanspruch durch den Richter beurteilen zu lassen, nicht Gebrauch gemacht. Er beruft sich zu Unrecht auf die Eigentumsgarantie, da ihm der Kanton Zürich die Entschädigung gar nicht verweigern will, wenn materielle Enteignung wirklich vorliegen sollte. Die Beschwerde ist daher unbegründet.

4. Die hievon abweichende Auffassung in der Beschwerde geht von der Annahme aus, dass die beiden hievor erwähnten Verfahren dem Grundeigentümer kumulativ zur Verfügung stehen. Es wird dabei übersehen, dass das Enteignungsverfahren nicht dem Grundeigentümer zur Verfügung steht, sondern sich gegen den Grundeigentümer richtet. Die Enteignung ist ein Recht der öffentlichen Gewalt und dient dazu, die im öffentlichen Interesse angeordnete Inanspruchnahme von Privatrechten gegen den Willen des Grundeigentümers durchzusetzen. Sie wird von der Verwaltung angeordnet, wenn diese Privatrechte zwangsweise in Anspruch nehmen will. Der Grundeigentümer kann wenn er sich einem Eingriff der öffentlichen Gewalt ausgesetzt glaubt, die Einleitung der Expropriation beantragen. Die Verwaltungsbehörde wird einem derartigen Begehren stattgeben, wenn sie zu der Auffassung kommt, es liege ein die Expropriation erfordernder Eingriff vor. Verneint sie diese Frage, so muss sie die Einleitung der Expropriation ablehnen. Dem Grundeigentümer steht im Kanton Zürich in diesem Falle die Verfolgung seines Anspruchs auf Entschädigung im Zivilprozess offen. Im Zivilprozess beurteilt der Richter die Frage, ob der behördliche Eingriff materielle Enteignung bedeutet, frei, ohne Bindung an den vorausgegangenen Befund der Administrativbehörde. Dieser ist für den Richter der Standpunkt einer der Prozessparteien und als solcher zu würdigen. Das richterliche Urteil ist dann der massgebende Entscheid über Bejahung oder Verneinung materieller Enteignung. In Fällen, wo die Administativbehörde, sei es von Amtes wegen, sei es auf Begehren des von einem Eingriff Betroffenen, die Enteignung einleitet, bedarf es keines Richterspruches. Es bleibt dann offen, ob die Erledigung der Frage nach dem Vorliegen materieller Enteignung durch die Verwaltung richterlicher Überprüfung standhalten würde.

5. Die Bedenken, die in der Vernehmlassung des Regierungsrates vorgetragen werden, erscheinen unter dem Gesichtspunkte der Eigentumgarantie als unerheblich. Ob der Beschwerdeführer in einem Zivilprozess deshalb keinen Sachentscheid über den behaupteten Anspruch auf Entschädigung wegen materieller Enteignung wird erwirken können, weil, wie der Regierungsrat anzunehmen scheint, einer Forderungsklage heute Verjährung entgegenzuhalten wäre, ist keine Frage der Eigentumsgarantie. Sie hat daher hier unerörtert zu bleiben. Darauf, wie der Zivilrichter die Entschädigung festzusetzen haben wird, kann es für die grundsätzliche Frage nicht ankommen. Die Verfassung gewährleistet dem durch den Eingriff Betroffenen "gerechte Entschädigung". Sollte der Zivilrichter gegen die so eingeräumte Verfassungsgarantie, sei es durch ungerechtfertigte Ablehnung der Entschädigung oder durch willkürlich ungenügende Festsetzung einer solchen verstossen, so stände, wie schon wiederholt festgestellt wurde, dem Betroffenen das Recht zu, diesem Entscheide gegenüber die Beachtung der Eigentumsgarantie mit staatsrechtlicher Beschwerde zur Geltung zu bringen.

Sollte schliesslich der Zivilrichter seine Zuständigkeit zur Beurteilung von Entschädigungsklagen wegen materieller Enteignung ablehnen und demnach eine wesentliche Voraussetzung, auf der die heutige Praxis des Bundesgerichts beruht, sich nicht verwirklichen, so stände dem Beschwerdeführer immer noch die Möglichkeit offen, die Revision des vorliegenden Urteils zu beantragen gestützt auf den Nachweis, dass ihm, entgegen der.Annahme im Urteil, der Weg an den Zivilrichter nicht zur Verfügung stand (nicht publ. Urteil vom 20. März 1947 i.S. Reformierte Teilkirchgemeinde Möriken, Erw. 6).