Aus dem Tatbestand:

A.- Der Kanton Obwalden besitzt kein Baugesetz; er verfügt jedoch namentlich im EG ZGB über einzelne privat- und öffentlichrechtliche Bestimmungen, die das Bauen betreffen. Art. 132 Abs. 2 dieses Gesetzes ermächtigt den Regierungsrat, "zum Schutze und zur Erhaltung von Altertümern, Naturdenkmälern, Bäumen und seltenen Pflanzen, zur Sicherung der Landschafts- und Ortschaftsbilder und Aussichtspunkte vor Verunstaltung im Verordnungswege die nötigen Verfügungen zu treffen". Gestützt darauf hat der Regierungsrat am 8. November 1932 eine Verordnung über den Natur- und Heimatschutz und die Erhaltung von Altertümern und Kunstdenkmälern erlassen. Gemäss Art. 1 der Verordnung geniessen "in der freien Natur befindliche Gegenstände, denen ein wissenschaftliches Interesse oder ein bedeutender Schönheitswert zukommt," den staatlichen Schutz. Dieser erstreckt sich insbesondere auch auf Orts- und Landschaftsbilder. Art. 2 der Verordnung untersagt es, die in Art. 1 genannten Gegenstände ohne Bewilligung der zuständigen Behörde zu beseitigen, zu verunstalten oder in ihrer Wirkung zu beeinträchtigen.

Weitere Vorschriften über das Bauen sind verschiedenen Polizeigesetzen zu entnehmen. So hat der Grundeigentümer nach Art. 55 Abs. 5 der kantonalen Strassenverordnung vom 14. September 1935 vor Inangriffnahme von Neu- und Umbauten an öffentlichen Strassen ein Baugespann aufzustellen und ein Baugesuch einzureichen. Mit dem Bau darf erst nach Erledigung des Gesuchs begonnen werden.

Neben die kantonalen treten die gemeindlichen Vorschriften über das Bauwesen. Nach Art. 133 EG ZGB sind die Gemeinden berechtigt, Bebauungspläne und baupolizeiliche Vorschriften aufzustellen. Die Gemeinde Engelberg besass indes zu der hier massgebenden Zeit keine Bauordnung.

B.- Schärli, End und Birrer entschlossen sich als Käufer einer Parzelle an der Alten Gasse in Engelberg zum Bau eines Hauses mit acht Dreizimmerwohnungen, das über einem Sockelgeschoss vier Stockwerke aufweist und durch ein Flachdach abgeschlossen wird. Am 1. März 1962 unterbreiteten sie dem Gemeinderat von Engelberg ein Baugesuch mit Plänen. Der Gemeinderat gab zwar seinem Missbehagen über das Projekt Ausdruck; er sah aber keine Möglichkeit, sich dem Bauvorhaben zu widersetzen. Mit Verfügung vom 9. März 1962 verhielt er die Bauherrschaft zur Errichtung eines Baugespanns; unter dieser Voraussetzung und unter der Bedingung, dass die Anordnungen über die Ableitung des Abwassers und die feuerpolizeilichen Vorschriften eingehalten würden, werde die Baubewilligung im Sinne von Art. 55 Abs. 5 der kantonalen Strassenverordnung erteilt. Der Gemeinderat behalte sich jedoch den Widerruf der Baubewilligung vor, falls das Baugespann "unvorhergesehene, den Interessen der Öffentlichkeit zuwiderlaufende Abweichungen" aufzeigen sollte.

Diese Verfügung wurde der kantonalen Polizeidirektion und dem kantonalen Baudepartement schriftlich mitgeteilt. Die Bauherrschaft erstellte das vorgeschriebene Baugespann. Der Gemeinderat sah sich nicht veranlasst, auf Grund dieser Darstellung des Projekts die Baubewilligung zu widerrufen. Die Bauarbeiten wurden alsbald aufgenommen und rasch vorangetrieben. Anfangs Mai 1962 waren das Sockelgeschoss sowie zwei Stockwerke betoniert; das Mauerwerk des dritten Stockwerks war weit fortgeschritten.

In der zweiten Hälfte des Monats April 1962 war aus Kreisen des Fremdenverkehrs vergeblich versucht worden, die Bauherrschaft zu bewegen, auf ein Stockwerk zu verzichten und ein Giebeldach zu erstellen. Ein Vertreter dieser Kreise wandte sich darauf an den Regierungsrat mit dem Begehren um einstweilige Einstellung der Bauarbeiten und Anwendung der Heimatschutzvorschriften. Der Regierungsrat ordnete am 3. Mai 1962 die vorläufige Einstellung der Bauarbeiten an. Er fasste am 12. Juni 1962 endgültig über die Angelegenheit Beschluss. In Disp. 1 seines Entscheids verfügte er, dass über dem Sockelgeschoss nur drei Stockwerke gebaut werden dürften; der Abschluss sei nach Wahl der Bauherrschaft als Flachdach auszugestalten oder als Giebeldach mit der gleichen Neigung wie das Dach des Nachbarhauses. In der Begründung wird ausgeführt, der Regierungsrat sei in Übereinstimmung mit dem fachmännischen Urteil der Vertreter des Heimatschutzes der Ansicht, der Neubau würde, in der projektierten Form ausgeführt, das Orts- und Landschaftsbild beeinträchtigen Dass das Ortsbild bereits durch eine Reihe unschöner Bauten erheblich beeinträchtigt sei, schliesse Bestrebungen zum Schutze eines begrenzten, noch erhaltenswürdigen Gebiets im Umkreis des Kurparks nicht aus.

C.- Schärli, End und Birrer führen staatsrechtliche Beschwerde wegen Verletzung des Art. 4 BV mit dem Antrag, Disp. 1 des Beschlusses des Regierungsrats sei aufzuheben. Der Regierungsrat schliesst auf Abweisung der Beschwerde. Eine Instruktionskommission des Bundesgerichts hat den Neubau und verschiedene Vergleichsobjekte in Engelberg in Augenschein genommen.

1. Wie das Bundesgericht in ständiger Rechtsprechung erkannt hat, erfordern der zwingende Charakter des öffentlichen Rechts und die Natur der öffentlichen Interessen, dass ein Verwaltungsakt, der dem Gesetz nicht oder nicht mehr entspricht, nicht unabänderlich ist. Andererseits kann es ein Gebot der Rechtssicherheit sein, dass eine Verfügung, welche eine Rechtslage festgestellt oder begründet hat, nicht nachträglich wieder in Frage gestellt werde. Ob ein Verwaltungsakt von der Behörde zurückgenommen oder abgeändert werden kann, hängt daher, soweit darüber nicht positive gesetzliche Bestimmungen bestehen, von einer Abwägung der beiden sich gegenüberstehenden Gesichtspunkte ab: des Gebots der richtigen Durchführung des objektiven Rechts auf der einen und der Anforderungen der Rechtssicherheit auf der andern Seite. Das Postulat der Rechtssicherheit geht dabei dann vor, wenn durch den Verwaltungsakt subjektive Rechte zugunsten bestimmter Personen begründet werden, ferner wenn die Verfügung auf Grund eines Einsprache- und Ermittlungsverfahrens ergangen ist, dessen Aufgabe in der allseitigen Prüfung der öffentlichen Interessen und ihrer Abwägung gegenüber den entgegengesetzten Privatinteressen besteht, oder endlich, wenn der Private von der ihm durch die Verfügung eingeräumten Befugnis bereits Gebrauch gemacht hat (BGE 79 I 6b mit Verweisungen; BGE 87 I 511).

Nach dem Gesagten ist ein Widerruf der einmal erteilten Baubewilligung nach dem Beginn der Bauarbeiten zwar nicht schlechthin ausgeschlossen; es sind ihm aber enge Grenzen gesetzt. Hat der Bauherr im guten Glauben zu bauen begonnen, so darf die Behörde gemäss der verfassungsmässigen Eigentumsgarantie mit Rücksicht auf die Anforderungen der Rechtssicherheit und nach dem Grundsatz der Verhältnismässigkeit von Verwaltungsakten nur dann auf die Baubewilligung zurückkommen, wenn diese in besonders schwerwiegender Weise gegen das materielle Recht verstösst und damit wichtige öffentliche Interessen verletzt (ZBl 1960 S. 594 Erw. 2); ein solcher Widerruf darf zudem in der Regel nur gegen angemessene Entschädigung erfolgen (vgl. MÜLLER und FEHR, Das Baupolizeirecht in der Schweiz, S. 20; ZIMMERLIN, Bauordnung der Stadt Aarau, N. 6-8 zu § 13 und die dort genannte Lehre).

2. Der Kanton Obwalden besitzt kein Baugesetz und die Gemeinde Engelberg verfügte über keine Bauordnung, auf Grund derer die Behörden ein Baugesuch in umfassender Weise prüfen konnten. Der Gemeinderat von Engelberg konnte sich den Beschwerdeführern gegenüber lediglich über die strassenpolizeiliche Zulässigkeit des Neubaus aussprechen. Die so gefasste Baubewilligung wurde allen Ämtern zugestellt, welche für die Einhaltung der weiteren polizeilichen Vorschriften über das Bauen zu sorgen haben. Nach Ablauf einer gewissen Frist, welche jene Ämter zur Prüfung der Angelegenheit benötigten, durften die Beschwerdeführer deshalb trotz des Fehlens einer entsprechenden umfassenden Bescheinigung damit rechnen, dass ihr Bauvorhaben nicht nachträglich noch neuen baupolizeilichen Hindernissen begegnen werde. Insbesondere hatten sie von Seiten der mit dem Natur- und Heimatschutz betrauten Behörden keine Einwendungen mehr zu befürchten, da der Gemeinderat die Baubewilligung dem kantonalen Baudepartement mit dem ausdrücklichen Ersuchen zugestellt hatte, die Planunterlagen auch der kantonalen Natur- und Heimatschutzkommission zu unterbreiten. Wenn die Beschwerdeführer im Vertrauen darauf mit den Bauarbeiten begannen, dann erwuchs ihnen damit das Recht, den Bau gemäss den der Behörde vorgelegten Plänen zu vollenden.

3. Die Beschwerdeführer kamen bei der Vorbereitung der Planung zum Ergebnis, eine normale Rendite lasse sich bei tragbaren Mietzinsen nur erzielen, wenn auf dem teuren Bauland acht Dreizimmerwohnungen erstellt würden. Sie verteilten diese Wohnungen auf vier Stockwerke. Wäre vor Baubeginn gegen die Höhe des Bauvorhabens Einsprache erhoben worden, so hätte die Stockwerkszahl bei entsprechender Vergrösserung des Grundrisses ohne Einbusse an Wohnfläche vermindert werden können. Als der Regierungsrat am 3. Mai 1962 die vorläufige Einstellung der Bauarbeiten befahl, waren diese schon weit fortgeschritten; ausser dem Sockelgeschoss standen bereits zwei Stockwerke. Es war nicht mehr möglich, für den Raum, der infolge der von den Behörden verlangten Herabsetzung der Bauhöhe verloren gehen sollte, durch eine Umgestaltung des Grundrisses Ersatz zu schaffen.

Die Voraussetzungen für die Anwendung der Natur- und Heimatschutzbestimmungen waren demnach im Zeitpunkt, da der Regierungsrat sich der Sache annahm, wesentlich andere als vor Baubeginn. Angesichts der bedeutenden materiellen Interessen, die auf dem Spiele standen, konnten die Behörden nur mehr im Falle eines eigentlichen Notstandes in das Recht der Beschwerdeführer auf plangemässe Vollendung des Neubaus eingreifen. Ein solcher Fall ist dann anzunehmen, wenn ein Orts- oder Landschaftsbild von "bedeutendem Schönheitswert" (Art. 1 der Heimatschutzverordnung) durch ein in Ausführung begriffenes Bauwerk in nicht wiedergutzumachender Weise verunstaltet wird.

Das trifft hier offensichtlich nicht zu. Das Kurparkviertel wird in wesentlichen Teilen durch unschöne und schlecht aufeinander abgestimmte Bauten beherrscht, die zur Hauptsache aus der Jahrhundertwende stammen und nichts mit den herkömmlichen Bauformen der Talschaft gemein haben. Die Verhältnisse gestalten sich somit wesentlich anders als im Falle Matter (BGE 82 I 102 ff.), auf den sich der Regierungsrat beruft. Auf einen Schönheitswert können einzig die wenigen noch unverbauten Plätze, wie insbesondere der Kurpark, Anspruch erheben. Die Alte Gasse, an welcher der Neubau steht, ist entgegen dem, was ihr Name erwarten liesse, in ihrem unteren Abschnitt nicht von alten Häusern gesäumt; sie zeichnet sich durch nichts von vielen ähnlichen Strassen halb ländlichen, halb vorstädtischen Charakters aus. Obschon der Neubau in Grösse und Form von den Nachbarhäusern absticht, fällt er als an sich gut durchdachter Baukörper nicht derart aus dem Rahmen der bestehenden Überbauung, dass im Ernste von einer Verunstaltung gesprochen werden könnte. Zwischen den Neubau und den Kurpark schieben sich zwei bestehende Häuser. Zwar tritt von einem Teil des Parkes aus der Neubau hinter der Randbepflanzung in der Lücke zwischen jenen Häusern in Erscheinung, doch wird der Ausblick in diese Richtung von einem überhöht gelegenen unschönen alten Hotelbau beherrscht, so dass die wenigen sichtbaren Wandflächen des Neubaus kaum Beachtung finden. Entsprechendes gilt für den Blick von der viel begangenen Dorfstrasse aus. Der Neubau wird von dieser Hauptverkehrsader durch zwei Bauplätze getrennt, die in den nächsten Jahren überbaut werden dürften; bis dahin wird das Bild durch die in Strassennähe stehenden Bäume bestimmt und nicht durch den Bau der Beschwerdeführer.

Soweit in jenem Viertel überhaupt von einem schutzwürdigen Ortsbild die Rede sein kann, wird dieses mithin durch den Neubau nicht ernstlich beeinträchtigt. Es lässt sich darum schlechthin nicht vertreten, unter Berufung auf Vorschriften des Heimatschutzes nachträglich in die Rechtslage der Beschwerdeführer einzugreifen. Der angefochtene Beschluss ist in dieser Beziehung mit der (in der Beschwerde allerdings nicht ausdrücklich angerufenen) Eigentumsgarantie, den Anforderungen der Rechtssicherheit und dem Grundsatz der Verhältnismässigkeit von Verwaltungsakten unvereinbar; er ist insofern verfassungswidrig.

Wohl besteht ein dringendes Bedürfnis, das Bauen auch in Gegenden, die keinen besonderen Schönheits- oder Altertumswert haben, in geregelte Bahnen zu lenken. Wie das Bundesgericht schon bei früherer Gelegenheit (vgl. Urteil vom 26. April 1961 i.S. Jenni) betont hat, ist das aber nicht Aufgabe der kantonalen Heimatschutzbestimmungen, sondern der Bauvorschriften der Gemeinden. Gehen die kantonalen Instanzen dazu über, beim Fehlen kommunaler Bauvorschriften die Bestimmungen der Heimatschutzverordnung auch da in die Lücke treten zu lassen, wo diese dem Wesen der Sache nach nicht Platz greifen können, so schwächen sie damit den Willen der Gemeinden, selber für Ordnung zu sorgen. Das wird auf lange Sicht die Bestrebungen des Natur- und Heimatschutzes nicht fördern, sondern ihnen eher schaden.

Demnach erkennt das Bundesgericht:

Die Beschwerde wird gutgeheissen und Ziff. 1 des Beschlusses des Regierungsrates des Kantons Obwalden vom 12. Juni 1962 wird aufgehoben.