A.- Nach § 1 des luzernischen Gesetzes betreffend die Handänderungsgebühren (HGG) ist von der Kaufs- oder Schatzungssumme eine Handänderungsgebühr zu entrichten, wenn eine Liegenschaft an einen neuen Eigentümer übergeht, sei es durch Kauf, Tausch, Erbschaft oder Schenkung. Die "Gebühr" beträgt 11/2% des Kaufspreises bzw. der Katasterschatzung und fällt zu gleichen Teilen an den Staat und an die Einwohnergemeinde (§ 2 HGG).

§ 4 HGG bestimmt:

"Der Bezug einer Handänderungsgebühr findet nicht statt bei:

a) Liegenschaftserwerbungen durch den Staat oder durch Gemeinden für öffentliche oder gemeinnützige Zwecke;

b) Handänderungen zwischen Eltern und Kindern, zwischen Grosseltern und Grosskindern und zwischen Ehegatten;

c) freiwilligen Liegenschaftsteilungen und Auskäufen zwischen Geschwistern, sofern die Teilung ohne öffentliche Steigerung vorgenommen wird;

d) Rückkäufen durch den frühern Eigentümer, sofern der Rückkauf innert Jahresfrist, vom vorangegangenen Verkaufe an gerechnet, stattfindet;

e) Handänderungen, wobei die Kaufsumme den Betrag von Fr. 1000.-- nicht erreicht;

f) Handänderungen infolge Zwangsverwertung, wenn ein Hypothekaransprecher durch Gutbietung seines Titels Käufer wird;

g) Tauschverträgen um einzelne Grundstücke zum Zwecke der Güterzusammenlegung."

B.- Die Brüder Anton, Walter, Guido und Pius Zimmer mann waren im Rahmen einer einfachen Gesellschaft Gesamteigentümer der Liegenschaft Sonnhalden, Parzelle Nr. 441 in Vitznau/LU. Zudem waren Anton, Walter und Guido Zimmermann zu gleichen Teilen Miteigentümer des in derselben Gemeinde gelegenen Grundstückes Nr. 130 Oberstegli.

Um ihre vermögensrechtlichen Verhältnisse zu vereinfachen, schlossen die Brüder Zimmermann am 16. März 1968 folgende Rechtsgeschäfte:

Walter und Guido verkauften ihre Miteigentumsanteile am Grundstück Nr. 130 ihrem Bruder Anton, der damit zum Alleineigentümer wurde. Anton Zimmermann seinerseits trat aus der einfachen Gesellschaft aus, deren Gesellschafter Gesamteigentümer des Grundstücks Nr. 441 sind.

C.- Mit Entscheid vom 6. Mai 1968 unterwarf der Gemeinderat von Vitznau die beiden Rechtsgeschäfte der Handänderungsgebühr, die er auf Fr. 1'500.-- (11/2% der vertraglich vereinbarten Entschädigung von Fr. 100'000.--) bestimmte.

Die Brüder Zimmermann beschwerten sich gegen diese Verfügung beim Regierungsrat des Kantons Luzern, der den Rekurs am 28. August 1968 abwies. Zur Begründung führte er aus, die Beschwerdeführer stützten sich zu Unrecht auf § 4 lit. c HGG, um die Steuerfreiheit zu verlangen. Nicht jedes Teilungs- oder Auskaufsgeschäft zwischen Geschwistern, das gemeinschaftliches Eigentum an Liegenschaften betreffe, sei von der Handänderungsgebühr ausgenommen. Steuerfrei seien diese Geschäfte nach dem Willen des Gesetzgebers vielmehr nur dann, wenn die Liegenschaften den Geschwistern entweder durch Erbgang oder durch Schenkung oder anderes Geschäft unter Lebenden von den Eltern oder Grosseltern zugefallen seien. Diese Ansicht habe der Regierungsrat bisher in ständiger Praxis vertreten. Da die hier umstrittenen Grundstücke den Beschwerdeführern nicht von ihren Eltern oder Grosseltern zugefallen seien, komme eine Steuerbefreiung nicht in Betracht.

D.- Anton, Walter, Guido und Pius Zimmermann führen staatsrechtliche Beschwerde. Sie beantragen dem Bundesgericht, den angefochtenen Entscheid des Regierungsrates des Kantons Luzern wegen Verletzung von Art. 4 BV aufzuheben.

E.- Der Regierungsrat des Kantons Luzern und der Gemeinderat von Vitznau schliessen auf Abweisung der Beschwerde.

1. Zwar bezeichnet das luzernische Recht die hier umstrittene Abgabe als "Gebühr". Es handelt sich dabei aber nicht um eine Gebühr im Rechtssinne, d.h. um ein Entgelt für eine Tätigkeit der Verwaltung, sondern vielmehr unbestrittenermassen um eine Steuer. Steuern dürfen nach feststehender Lehre und Praxis nur erhoben werden, wenn hiefür eine gesetzliche Grundlage vorhanden ist. Missachtet das Gemeinwesen dieses Gebot, so liegt gleichzeitig eine Verletzung von Art. 4 BV vor (BGE 84 I 93 Erw. 2).

§ 4 HGG zählt die Tatbestände, die der Handänderungsgebühr nicht unterliegen, in lit. a-e abschliessend auf. Im vorliegenden Fall steht die Anwendung von lit. c des § 4 in Frage, wonach keine Steuer bezogen wird bei freiwilligen Liegenschaftsteilungen und Auskäufen zwischen Geschwistern, sofern die Teilung ohne öffentliche Steigerung vorgenommen wird. Der Regierungsrat bestreitet nicht, dass es sich bei den Rechtsgeschäften, die die Beschwerdeführer unter sich abgeschlossen haben, um solche im Sinne der genannten Gesetzesvorschrift handelt. Trotzdem hält er dafür, § 4 lit. c HGG sei hier nicht anwendbar, eine Steuerbefreiung mithin nicht gegeben. Die kantonale Instanz begründet diese Auffassung im wesentlichen damit, Steuerfreiheit könne nur dann angenommen werden, wenn das Grundstück, das Gegenstand des Teilungs- oder Auskaufsgeschäftes bildet, den Geschwistern durch Erbschaft oder Zuwendung unter Lebenden von ihren Eltern oder Grosseltern zugefallen sei, es sich also um eine sogenannte Erbliegenschaft handle. Dass diese Voraussetzung im vorliegenden Fall nicht erfüllt ist, stellen die Beschwerdeführer ihrerseits nicht in Abrede. Indessen bringen sie vor, das Gesetz mache die Steuerbefreiung nicht von der genannten Bedingung abhängig. Das verkenne der Regierungsrat, weshalb die angefochtene Besteuerung gegen Art. 4 BV verstosse.

Das Vorbringen der Beschwerdeführer findet eine Stütze im Wortlaut von § 4 lit. c HGG. Dieser unterscheidet nicht nach der Herkunft des Grundstückes, das, im gemeinschaftlichen Eigentum der Geschwister stehend, Gegenstand des Teilungs- oder Auskaufsgeschäftes bildet. Zu Recht behauptet der Regierungsrat nicht etwa, der Gesetzgeber habe sich in § 4 lit. c unklarer oder zweideutiger Begriffe bedient. Damit die kantonale Instanz die Steuerbefreiung des § 4 lit. c HGG dennoch nur im Falle von Grundstücken gewähren kann, die durch Erbgang oder Zuwendung unter Lebenden von den Eltern oder Grosseltern auf die Geschwister übergegangen sind, muss sie den klaren Gesetzeswortlaut ergänzen. Ob sie dieses Ziel auf dem Wege der Lückenfüllung oder demjenigen der blossen Auslegung erreiche (vgl. MEIER-HAYOZ, Komm. zu Art. 1 ZGB N. 255 ff., 54 ff.; IMBODEN, Schweiz. Verwaltungsrechtsprechung, 3. Aufl., Nr. 241 III), lässt sich dem angefochtenen Entscheid nicht mit Sicherheit entnehmen, braucht hier aber nicht entschieden zu werden. Wie sich aus dem Folgenden ergibt, sind beide Arten des Vorgehens mit Art. 4 BV nicht vereinbar.

2. Der Regierungsrat hält dafür, der Begriff des Auskaufes finde nur Anwendung bei der Auflösung erbrechtlich entstandenen gemeinsamen Eigentums. Der Begriff der Teilung hänge damit eng zusammen. In dieser erbrechtlichen Beziehung sei der innere Grund für die Steuerfreiheit zu erblicken, die § 4 lit. c HGG gewähren wolle. Die kantonale Instanz ist also der Ansicht, der Wortlaut von § 4 lit. c HGG gebe den Sinn dieser Steuerbefreiungsvorschrift nicht richtig wieder, weil er nicht nach der Herkunft des betreffenden Grundstückes unterscheide. Wollte man darin, dass der Gesetzgeber die nach Auffassung des Regierungsrates notwendige Verdeutlichung nicht vornahm, eine Gesetzeslücke sehen, dann wäre es der kantonalen Instanz unter dem Gesichtspunkt von Art. 4 BV verwehrt, eine solche Lücke zu füllen. Nach der Praxis des Bundesgerichts ist ein derartiges Vorgehen immer dann untersagt, wenn damit neue Besteuerungstatbestände geschaffen werden, die nicht ausdrücklich im Gesetz vorgesehen sind (vgl. BGE 84 I 94). Einen solchen neuen Steuertatbestand schafft die rechtsanwendende Behörde auch dann, wenn sie einer Befreiungsvorschrift einschränkende Bedingungen anfügt, die sich im klaren Wortlaut der Bestimmung nicht finden.

3. Eine Verfassungswidrigkeit liegt aber auch vor, wenn man davon ausgeht, der Regierungsrat sei mit der vorgenommenen Ergänzung des Wortlautes von § 4 lit. c HGG im Rahmen der Auslegung geblieben. Nach der Rechtsprechung des Bundesgerichts darf die rechtsanwendende Behörde vom klaren Gesetzeswortlaut ohne Verletzung des Art. 4 BV nur dann abweichen, wenn triftige Gründe dafür bestehen, dass er nicht den wahren Sinn der Bestimmung wiedergibt. Solche Gründe können sich aus der Entstehungsgeschichte, aus Grund und Zweck der Vorschrift und aus dem Zusammenhang mit andern Gesetzesbestimmungen ergeben (BGE 87 I 16, BGE 90 I 214 /5). Entgegen der Ansicht des Regierungsrates bestehen im vorliegenden Fall keine derartigen Gründe, weshalb auch unter diesem Gesichtspunkt eine Verletzung des Legalitätsprinzips anzunehmen ist.

a) Um seine Auffassung zu stützen, wonach sinnvoll nur die Steuerbefreiung bei Teilung und Auskauf von gemeinsamem Eigentum sei, das die Geschwister von Eltern oder Grosseltern geerbt oder gekauft hätten, bringt der Regierungsrat in der Beschwerdeantwort einmal vor, nach der Gesetzgebung, die im Zeitpunkt des Inkrafttretens des HGG gegolten habe, hätten sich die Begriffe des Auskaufes und der Teilung nur auf Erbengemeinschaften beziehen können.

Selbst wenn man annähme, diese Behauptung treffe zu - was nicht dargetan wurde - übersieht die kantonale Instanz einen wesentlichen Punkt: Die Erbengemeinschaft zwischen Geschwistern setzt nämlich nicht notwendigerweise voraus, dass die betreffenden Grundstücke ihnen erbweise von ihren Eltern oder Grosseltern zugefallen sind. Vielmehr können die Geschwister die Grundstücke auch gemeinsam von andern Personen geerbt haben (z.B. von ihren Onkeln oder Tanten). Ginge man übrigens davon aus, die Begriffe "Teilungen und Auskäufe" setzten nach altem luzernischen Zivilrecht notwendigerweise den Bestand einer sogenannten Erbliegenschaft voraus, dann wäre schwer verständlich, warum der luzernische Gesetzgeber in dem unter der Herrschaft des schweizerischen Zivilgesetzbuches im Jahre 1919 erlassenen Wertzuwachssteuergesetz dieselben Begriffe verwendete. Jedenfalls folgt unter solchen Umständen aus dem Hinweis auf die Entstehungsgeschichte nicht, dass triftige Gründe für eine vom Wortlaut abweichende Auslegung vorliegen.

b) Der Regierungsrat macht sodann geltend, die Befreiungsvorschrift der lit. c von § 4 müsse im Zusammenhang mit der lit. b des gleichen Paragraphen ausgelegt werden, die alle Handänderungen zwischen Eltern und Kindern, zwischen Grosseltern und Grosskindern sowie zwischen Ehegatten als steuerfrei erkläre. Sollte indessen der Gesetzgeber wirklich beabsichtigt haben, in lit. c nur die Teilungsgeschäfte betreffend diejenigen Grundstücke von der Steuer auszunehmen, die den Geschwistern von ihren Grosseltern oder Eltern zufielen, dann hätte er angesichts der gewählten Formulierung zwei wesentliche Tatsachen übersehen. Einmal sind nicht alle Enkel des Erblassers notwendigerweise auch Geschwister, und doch haben Teilungsgeschäfte sowohl zwischen Enkeln als auch zwischen Kindern und Enkeln des Erblassers im Kanton Luzern als steuerfrei zu gelten (vgl. nicht veröffentlichtes Urteil vom 22. Juni 1944 i.S. Meyer-Keller). Zweitens unterscheiden sich die in lit. b und c von § 4 HGG verwendeten Begriffe zum Teil derart voneinander, dass sich der von der kantonalen Instanz gewünschte sachliche Zusammenhang zum mindesten nicht zwangslos daraus ergibt. Lit. b befreit die "Handänderungen", also klarerweise alle Geschäfte dieser Art (d.h. diejenigen unter Lebenden, von Todes wegen, durch Erbgang), die zwischen den im Gesetz erwähnten Blutsverwandten und Ehegatten stattfinden. Demgegenüber geniessen nach dem klaren Wortlaut von lit. c nur jene Teilungs- und Auskaufsgeschäfte Steuerfreiheit, die zwischen Geschwistern stattfinden und Grundstücke betreffen, welche im gemeinschaftlichen Eigentum dieser Geschwister standen. Gemeinsam ist den beiden Vorschriften somit einzig, dass sich beide auf verwandtschaftliche Verhältnisse beziehen. Es konnte dem Gesetzgeber kaum entgangen sein, dass er einen Zusammenhang zwischen lit. b und c, wie ihn die kantonale Instanz auf dem Wege der Auslegung erreichen will, durch entsprechend ausgestaltete Begriffe hätte augenscheinlich machen müssen. Wenn er das nicht getan hat, so wohl deshalb, weil er der Befreiungsvorschrift von lit. c nicht jenen engen Sinn beilegte, den ihr der Regierungsrat im angefochtenen Entscheid zuerkennt. Triftige Gründe, um vom klaren Gesetzeswortlaut abzuweichen, lassen sich jedenfalls auch in diesem Punkte nicht anführen.

c) Unbehelflich ist ferner der Hinweis des Regierungsrates auf die Gesetzesnovelle vom 28. Juli 1919 betreffend teilweise Abänderung des Steuergesetzes vom 30. November 1892, die sich auf die Wertzuwachssteuer bezieht. Zwar lauten die lit. d und e von § 29 dieses Gesetzes wörtlich gleich wie § 4 lit. b und c HGG. In § 29 lit. c des alten Wertzuwachssteuergesetzes werden aber auch alle Handänderungen von der Steuer befreit, die auf Grund des Erbrechts erfolgen. Trotzdem befreit das genannte Gesetz in lit. d (alle) Handänderungen zwischen Eltern und Kindern, zwischen Grosseltern und Grosskindern sowie zwischen Ehegatten und in lit. e die freiwilligen Liegenschaftsteilungen und Auskäufe zwischen den Geschwistern, sofern die Teilung ohne öffentliche Steigerung erfolgt. In dieser Regelung (vgl. auch die entsprechende Botschaft vom 29. Juli 1913) kommt der Wille des Gesetzgebers klar zum Ausdruck, neben der Befreiung nach Erbrecht auch eine solche für alle Arten von Handänderungen unter Verwandten zu gewähren. Der gleiche Hang des Gesetzgebers zur Unterscheidung offenbart sich übrigens noch deutlicher auch im Gesetz vom 31. Oktober 1961 über die Grundstückgewinnsteuer, das die Novelle aus dem Jahre 1919 ablöste (vgl. § 4 Ziff. 8 und 9 dieses Gesetzes). Auch daraus ergibt sich klar, dass dem luzernischen Gesetzgeber die Unterscheidung zwischen einer Steuerbefreiung von Handänderungen auf Grund des Erbrechtes und solchen gestützt auf verwandtschaftliche Beziehungen stets gegenwärtig war.

Wenn nun der Regierungsrat der Steuerbefreiung nach § 4 lit. c ausschliesslich erbrechtlichen Charakter zuerkennen will, dann setzt er voraus, dass der Gesetzgeber ausgerechnet in jener Vorschrift Unterscheidungen nicht traf, die er sonst nach dem Gesagten stets getroffen hatte. Aus einer derartigen Vermutung, die der Wirklichkeit kaum entsprechen dürfte, lassen sich zwingende Gründe für ein Abweichen vom klaren Wortlaut des Gesetzes ebenfalls nicht herleiten.

d) Die kantonale Instanz legt Gewicht darauf, dass ohne lit. c von § 4 HGG der geschwisterlose Erbe, dem "eine elterliche Liegenschaft ohne Erbengemeinschaft" zufalle, "gegenüber Erbanfällen an mehrere Nachkommen bevorzugt" wäre. Zwar ist § 4 lit. c geeignet, auch eine derartige unterschiedliche Behandlung zu beheben, was die Beschwerdeführer mit Recht nicht bestreiten. Daraus folgt aber nicht, dass der Vorschrift, die von der Steuer (alle) Liegenschaftsteilungen ausnimmt, sofern sie zwischen Geschwistern und ohne öffentliche Steigerung stattfinden, nur jener enge erbrechtliche Sinn zukommt. Der Regierungsrat hat nicht nur diesen Nachweis nicht erbracht, er hat nach dem Gesagten auch nicht dargetan, dass die sich an den Wortlaut anlehnende Auslegung, welche die Beschwerdeführer fordern, zu einem unvernünftigen Ergebnis führe.

4. Ist aber weder das Ausfüllen einer Lücke noch eine Auslegung, die vom klaren Gesetzeswortlaut abweicht, im vorliegenden Fall zulässig, dann fehlt der angefochtenen Besteuerung die gesetzliche Grundlage. Die Beschwerde ist mithin gutzuheissen und der angefochtene Entscheid wegen Verletzung des Art. 4 BV aufzuheben.

Die kantonale Instanz behauptet nicht, ihre bisherige Praxis, auf die sie sich beruft, sei zum Gewohnheitsrecht geworden.

Ob die angefochtene Besteuerung sich auf Gewohnheitsrecht stützen liesse - was übrigens zweifelhaft wäre (vgl. BGE 94 I 310) -, braucht deshalb nicht geprüft zu werden.

Demnach erkennt das Bundesgericht:

Die Beschwerde wird gutgeheissen und der angefochtene Entscheid vom 29. August 1968 aufgehoben.