Aus dem Tatbestand:

A.- Das bernische Gesetz über die Bauvorschriften vom 26. Januar 1958 (BVG), in dessen Rahmen die Gemeinden Bauvorschriften erlassen können (Art. 1), bestimmt für Sonderbauvorschriften und Bebauungspläne folgendes:

"Art. 2. Liegen besondere Verhältnisse vor, können in Verbindung mit einem Baulinien- oder Zonenplan Sonderbauvorschriften und mit Zustimmung sämtlicher beteiligter Grundeigentümer Bebauungspläne aufgestellt werden, die für das betreffende Gebiet eine spezielle Ordnung baulicher Einzelheiten schaffen.

Sonderbauvorschriften sind nach den in diesem Gesetz für Baulinien- und Zonenpläne vorgeschriebenen Verfahren zu erlassen.

Die Vorschriften über die baulichen Einzelheiten können die Stellung der Häuser und ihre Gruppierung, die Reihenbildung, die Dachgestaltung, die Gebäude- und Grenzabstände, die Geschosszahl und andere Fragen der Bauweise zum Gegenstand haben. Mit Ausnahme der Vorschriften über Hochhäuser dürfen sie nicht gegen die Grundlagen der durch das Gemeindebaureglement aufgestellten Rechtsordnung verstossen."

Nach Art. 10 BVG werden die Sonderbauvorschriften und Bebauungspläne vom Gemeinderat nach Behandlung der Einsprachen der Gemeindeabstimmung unterbreitet (Abs. 5). Hernach sind sie vom Regierungsrat zu genehmigen, welcher auch über die unerledigt gebliebenen Einsprachen entscheidet (Art. 12).

Am 1. Januar 1971 trat das bernische Baugesetz vom 7. Juni 1970 (BauG) in Kraft, womit das BVG aufgehoben wurde. Das neue Gesetz umschreibt die Voraussetzungen für Sonderbauvorschriften, die nunmehr von der kantonalen Baudirektion genehmigt werden (Art. 44 BauG), wie folgt:

"Art. 39. Sonderbauvorschriften sollen der besseren Wahrung der öffentlichen, namentlich der wohnhygienischen und ortsplanerischen Interessen dienen. Sie sind nur für Gebiete zugelassen, die nach Lage und Grösse ein Abgehen von der baurechtlichen Grundordnung erlauben, ohne dass dadurch die nähere und weitere Umgebung wesentlich beeinträchtigt wird. Die architektonische Gestaltung der Bauten ist diesem Ziele unterzuordnen.

Das nach städtebaulichen Grundsätzen verantwortbare Mass der Nutzung darf nicht überschritten werden.

Die Sonderbauvorschriften dürfen nicht wesentliche nachbarliche Interessen verletzen, es sei denn, diese müssten aus triftigen Gründen des öffentlichen Wohls zurücktreten. Der Anspruch auf Lastenausgleich bleibt vorbehalten (Art. 51 ff.)."

Die Vollziehungsverordnung zum BauG vom 26. November 1970 (Bauverordnung) regelt in Art. 128 ff. den Erlass von Sonderbauvorschriften. Art. 131 betrifft die Ausnützungsziffer und bestimmt in Abs. 1:

"Die Ausnützung darf in Gebieten offener Bauweise mit 2geschossiger Überbauung 0,4, mit 3geschossiger Überbauung 0,6 und mit 4- und mehrgeschossiger Überbauung 0,8 nicht übersteigen; in diesen Ausnützungsziffern sind allenfalls zulässige Dachausbauten und Attikabauten einbezogen."

Die Bauordnung der Gemeinde Köniz vom 1. Juli 1935 (Bauo 35) stand bis zum 7. April 1970 in Kraft. Sie wurde von der Bauordnung vom 7. Dezember 1969 (Bauo 69) abgelöst.

B.- Joachim Mercier bekundete 1966 die Absicht, das ihm gehörende Stettlergut in Köniz, welches einen Halt von 16 550 m2 aufweist, überbauen zu lassen. Da der Gemeinderat von Köniz fand, dass eine Überbauung nach der Bauo 35 - bis zu 50 m lange Bauten von je zwei Geschossen mit Dachausbau - das Ortsbild nachteilig beeinflussen würde, beschloss er im Einvernehmen mit dem Grundeigentümer einen Baulinienplan mit Sonderbauvorschriften. Darnach wird das Stettlergut in zwei annähernd gleich grosse Teile aufgeteilt. Der südliche, ca. 80 m breite Teil, auf dem sich ein herrschaftliches Wohnhaus aus der ersten Hälfte des 18. Jahrhunderts mit kleinen Nebengebäuden befindet, wird als Grünfläche mit einem Bauverbot belegt. Der übrige Teil der Besitzung soll überbaut werden, und zwar sind in der Fallinie des Hanges in einem Abstand von ca. 15 m zwei etwa 40 m breite Terrassenhausgruppen vorgesehen, an welche talseitig eine Atriumhausgruppe über einem durchgehenden Untergescnoss anschliesst. Das Bauvolumen entspricht demjenigen einer zonengemässen Überbauung der ganzen Liegenschaft. Der Plan umfasst auch eine südwestlich angrenzende Parzelle, welche zur Freifläche für eine öffentliche Anlage bestimmt wird.

Der aufverschiedene Einsprachen hin bereinigte Baulinienplan Stettlergut mit Sonderbauvorschriften wurde von den Stimmberechtigten derGemeinde Köniz am 14. September 1969genehmigt.

C.- Am 7. Dezember 1969, bevor noch eine kantonale Instanz sich mit den Einsprachen gegen den Baulinienplan Stettlergut befasst hatte, nahmen die Stimmbürger von Köniz die neue Bauordnung (Bauo 69) samt neuem Zonenplan für die ganze Gemeinde an. Der Regierungsrat des Kantons Bern genehmigte die neue Bauordnung am 7. April 1970 mit dem Vorbehalt, dass unter anderem der Baulinienplan Stettlergut, sobald vom Regierungsrat genehmigt und in Rechtskraft erwachsen, in der Bauo 69 nachzutragen sei.

D.- Der Baulinienplan mit Sonderbauvorschriften für das Stettlergut wurde am 6. September 1971 von der Baudirektion des Kantons Bern unter verschiedenen Bedingungen genehmigt. Die Einsprachen wurden alle abgewiesen.

E.- Gegen diesen Genehmigungsbeschluss der Baudirektion führten zwei der Einsprecher, die Nachbarn Ulrich Rohrer und Paul Petersen, Beschwerde beim Regierungsrat des Kantons Bern. Sie machten hauptsächlich geltend, dass der angefochtene Baulinienplan mit Sonderbauvorschriften nicht hätte genehmigt werden dürfen, weil wegen der Massierung des ganzen Bauvolumens auf der einen Grundstückhälfte die nach dem neuen kantonalen Recht maximal zulässige Ausnützungsziffer überschritten werde. Der Regierungsrat des Kantons Bern wies die Beschwerde am 22. Februar 1972 ab. Er ging von der Anwendbarkeit des alten kantonalen Rechts aus, welchem Plan und Sonderbauvorschriften entsprächen, die auch zweckmässig seien.

F.- Ulrich Rohrer und Paul Petersen führen staatsrechtliche Beschwerde. Sie machen Verletzungen von Art. 4 und 22ter BV geltend und beantragen die Aufhebung des angefochtenen Regierungsratsentscheids. Das Bundesgericht weist die Beschwerde ab.

2. Die Beschwerdeführer sehen die behauptete Verletzung der Art. 22ter und 4 BV vor allem darin, dass der Baulinienplan mit Sonderbauvorschriften Stettlergut genehmigt wurde, obwohl er gegen zwingende Vorschriften von BauG und Bauverordnung verstosse. Sie gehen von der Anwendbarkeit des neuen kantonalen Baurechts aus, was damit begründet wird, dass die konstitutiv wirkende Genehmigung des Bebauungsplans durch die Baudirektion erfolgt sei, als das BauG bereits in Kraft war. Der Regierungsrat dagegen beruft sich im angefochtenen Entscheid auf das alte kantonale Recht. - Das neue Recht wurde nur in formeller Hinsicht angewendet, indem die Baudirektion statt wie früher der Regierungsrat Genehmigungsinstanz war (Art. 12 BVG, Art. 44 BauG). - Er begründet dies damit, dass wichtigste Abschnitte des Planungsverfahrens noch unter der Herrschaft des alten Rechts durchgeführt worden seien. Der Bebauungsplan sei zwar formell ein Erlass des kommunalen Gesetzgebers, doch diene er als Grundlage für die Bewilligung eines Einzelprojekts. Daraus folge, dass für die zeitliche Rechtsanwendung jener Vorgang des in mehreren Phasen sich abspielenden Planungsverfahrens ausschlaggebend sei, dem die grösste Tragweite zukomme. Das sei der Gemeindebeschluss, jedenfalls dann, wenn er wie im vorliegenden Fall auf einem zustimmenden Vorprüfungsbericht der Genehmigungsbehörde beruhe und mithin die Genehmigung vorwiegend nur noch formelle Bedeutung habe. Für die Anwendung des alten Rechts spreche schliesslich auch der Grundsatz von Treu und Glauben. Denn der Grundeigentümer habe den Vorprüfungsbericht der Baudirektion und den Gemeindebeschluss als grundsätzliches Einverständnis der zuständigen kantonalen und kommunalen Organe zu seinem Bauvorhaben auffassen dürfen. Er habe allenfalls noch mit nachbarlichen Einwänden rechnen müssen, nicht aber damit, dass ein Bauvorhaben in einem derart vorgerückten Stadium noch neuen Vorschriften unterworfen werde.

Ob der Bebauungsplan nach dem alten oder neuen kantonalen Baurecht zu beurteilen ist, prüft das Bundesgericht nur unter dem beschränkten Gesichtswinkel der Willkür, da ein besonders schwerer Eingriff in das Eigentum der Beschwerdeführer nicht in Frage steht (BGE 96 I 134 mit Verweisungen). Nach Art. 113 BauG sind mit dem Inkrafttreten dieses Gesetzes alle dazu in Widerspruch stehenden Vorschriften aufgehoben, worunter auch die Gemeindebauvorschriften fallen (ALDO ZAUGG, Kommentar zu Art. 113 BauG, N. 1). Die noch nicht rechtskräftigen Gemeindebauvorschr iften können somit nur dann als rechtmässig genehmigt werden, wenn sie mit dem BauG in Einklang stehen. Bebauungspläne bzw. Gestaltungspläne mit Sonderbauvorschriften sind Gemeindebauvorschriften im Sinne des BauG (Art. 13, Art. 41 ff. BauG). Wenn der Regierungsrat den Bebauungsplan Stettlergut dennoch nicht der Übergangsbestimmung des Art. 113 BauG unterstellte und ihn auf seine Vereinbarkeit mit dem alten Recht hin überprüfte, so ist dies angesichts der besonderen Natur des Bebauungsplans mit Sonderbauvorschriften jedoch nicht unhaltbar. Der Bebauungsplan unterscheidet sich nämlich dem Inhalte nach wesentlich von einem allgemeinen Bauvorschriftenerlass. Im Gegensatz zu diesem bestimmt er in der Regel die bauliche Ausnützung eines oder mehrerer Grundstücke aufgrund eines konkreten Bauprojektes. Dementsprechend halten Plan und Sonderbauvorschriften meist in weiterem Umfange bauliche Einzelheiten der vorgesehenen Bebauung fest als eine allgemeine Planvorschrift.

Diese Auffassung liegt auch der bernischen Baurechtsordnung zugrunde (Art. 2 BVG, Art. 40 BauG; Urteil des Verwaltungsgerichts des Kantons Bern vom 1. Juli 1963, in ZBl 65/1964, S. 523 ff.; ZAUGG, Komm. zu Art. 38 BauB N 2 b). Gerade beim hier zu beurteilenden Bebauungsplan wird in den Sonderbauvorschriften das Bauprojekt bis in Details wie Belichtung, Entlüftung und die architektonische Gestaltung der Bauten verbindlich umschrieben. Der Bebauungsplan hat deshalb materiell eine Bedeutung, die derjenigen der Baubewilligung nahe kommt. Der Grundeigentümer befindet sich in einer Interessenlage, die mit derjenigen im Baubewilligungsverfahren verglichen werden kann. Ein entsprechender Vertrauensschutz erscheint deshalb gerechtfertigt. Nach der bundesgerichtlichen Rechtsprechung werden denn auch in gewissen Fällen die aus dem Prinzip von Treu und Glauben für die Baubewilligung hergeleiteten Grundsätze herangezogen (BGE 94 I 343). Vorliegend hat sich der Regierungsrat offenbar an die speziell für Baubewilligungen massgebende Regelung des Art. 55 Abs. 1 BauG angelehnt, wonach Baugesuche nach dem zur Zeit ihrer Einreichung geltenden Recht zu beurteilen sind. Es ist zwar fraglich, ob der selbst für Baubewilligungen sehr weit gehende Art. 55 Abs. 1 BauG (vgl. IMBODEN, Schweiz. Verwaltungsrechtsprechung, 4. Aufl., Nr. 312 II) auf den Bebauungsplan mit Sondervorschriften schlechthin analog angewendet werden darf. Beim Bebauungsplan Stettlergut, der sich bereits vor dem letzten Verfahrensabschnitt der Genehmigung durch die kantonale Behörde befand, als das neue Recht in Kraft trat, lässt sich eine sinngemässe Anwendung dieser Vorschrift aber jedenfalls vertreten. Das Projekt für die Überbauung wurde nach dem alten kantonalen Baurecht (BVG) ausgearbeitet, vom Regierungsrat einer Vorprüfung unterzogen und von den Stimmbürgern der Gemeinde Köniz am 14. September 1969 angenommen. Zwar konnte der Bebauungsplan nicht in Kraft treten, solange er nicht von der zuständigen kantonalen Instanz genehmigt war (Art. 4 BVG, Art. 45 BauG). Wie sich aus den Akten ergibt, konnten die Beteiligten jedoch damit rechnen, dass die Genehmigung unter der Herrschaft des BVG erfolgen werde; selbst der Regierungsrat ging in seinem Genehmigungsbeschluss betreffend die neue Bauordnung von Köniz (Bauo 69) vom 7. April 1970 davon aus. Das neue kantonale Baugesetz (BauG) wurde vom Volk erst am 7. Juni 1970 angenommen, und es trat erst am 1. Januar 1971 in Kraft. Wenn nun der Regierungsrat den am 14. September 1969 angenommenen Bebauungsplan Stettlergut entgegen aller Voraussicht und aus Gründen, die nicht beim Beschwerdegegner lagen, bis dahin nicht genehmigt hatte, so brauchte diese Verzögerung nicht zu dessen Lasten zu gehen. Dieser konnte ein berechtigtes Vertrauen darauf haben, dass das Projekt bei der Genehmigung nicht noch nach den Gesichtspunkten einer neuen Baurechtsordnung beurteilt werde, zumal der Regierungsrat bereits im Vorprüfungsverfahren ohne einen entsprechenden Vorbehalt seine Zustimmung dazu gegeben hatte. Dass ein gewichtigeres öffentliches Interesse dem Schutz des Vertrauens des Grundeigentümers entgegenstehen würde (BGE 94 I 347), kann verneint werden, da die vorgesehene Überbauung des Stettlergutes keinesfalls in schwerwiegender Weise den planerischen Zielen des neuen kantonalen Baurechts widerspricht.

5. a) Die Beschwerdeführer machen vor allem eine Überschreitung der Ausnützungsziffer geltend. Sie berufen sich auf Art. 131 Bauverordnung, der für das fragliche Gebiet höchstens eine solche von 0,4 zulasse. Auf diese Bestimmung ist, da bloss das alte kantonale Baurecht zu berücksichtigen ist, nicht abzustellen. Das BVG und die kommunalen Bauordnungen - die mit dem neuen kantonalen Recht weiterhin in Kraft gebliebene Bauo 69 entspricht offenbar auch diesem - schreiben eine Ausnützungsziffer nicht ausdrücklich vor. Die Ausnützungsziffer ist indessen bloss eine Ausdrucksform zur Festlegung der Baudichte, die sonst durch die Grenz- und Gebäudeabstände, die Gebäudehöhe, die Stockwerkzahl, Gebäudelänge und Gebäudetiefe allein bestimmt würde. Die Rüge behält somit ihre Bedeutung.

Die Baudirektion hat im Genehmigungsbeschluss festgestellt, dass gemäss Plan und Sonderbauvorschriften die aufgrund der ganzen Landfläche des Stettlerguts errechnete Ausnützungsziffer 0'616 beträgt. Beim Vergleichsprojekt nach den für die Bauklasse IV der Bauo 35 geltenden Vorschriften (Grenz- und Gebäudeabstände, Gebäudehöhe usw.) beträgt sie 0'705, nach denjenigen der entsprechenden Zone W 2 der Bauo 690'664. Diese Zahlen sind unbestritten. Die Beschwerdeführer wenden jedoch ein, dass der Berechnung der zulässigen Baudichte bzw. der Ausnützungsziffer nicht die gesamte Grundfläche des Stettlerguts, sondern bloss der überbaubare Teil zugrundegelegt werden dürfe; die zulässige Baudichte müsse sich auf den überbaubaren Teil der Liegenschaft beziehen. Damit wird aber übersehen, dass an sich das ganze Stettlergut nach den für die Zone der Bauklasse IV bzw. W 2 geltenden Vorschriften überbaubar ist. Die Ausnützungsziffer beinhaltet nicht, dass die zulässige Baudichte in bestimmter Weise auf dem Grundstück zu verteilen ist. Dies ergibt sich vielmehr aus den Vorschriften über Grenzabstände, Gebäudehöhe und -länge und abstände usw., indem die zulässige Baudichte nur im Rahmen der durch diese Vorschriften gesetzten Grenzen auf dem Grundstück verteilt werden kann. Etwas anderes ist es, wenn ein Grundstück zum Teil bereits in einer weniger dicht oder gar nicht überbaubaren Zone liegt (BGE 92 I 106; Urteil des Zürcher Verwaltungsgerichts vom 24. Juni 1971 in ZBl 73/1972 S. 395 ff.). Allerdings folgt aus einer Verlagerung der für die gesamte Grundfläche zulässigen Baudichte auf einen Teil, dass das restliche Grundstück mit einem Bauverbot zu belegen ist. Das ist beim Stettlergut so vorgesehen, was sich zugleich auch mit dem öffentlichen Interesse an der Erhaltung einer Grünfläche trifft. Von einer Überschreitung der zulässigen Ausnützungsziffer bzw. Baudichte kann somit nicht gesprochen werden. Die in den Sonderbauvorschriften vorgesehene Verlagerung des ganzen Bauvolumens auf die nördliche Hälfte des Stettlerguts kann nur dann rechtswidrig sein, wenn die für die betreffende Zone geltenden Vorschriften über Bauweise, Gebäude- und Grenzabstände usw. in einem Masse nicht eingehalten werden, dass die Beeinträchtigung der Privatinteressen der Nachbarn durch das öffentliche Interesse nicht mehr gedeckt ist.