A.- Der Vertrag zwischen der Schweiz und Liechtenstein über den Anschluss des Fürstentums Liechtenstein an das schweizerische Zollgebiet vom 29. März 1923/1. Januar 1924 (im folgenden Zollvertrag genannt) bestimmt in:

Art. 22 Die im Fürstentum Liechtenstein stationierten schweizerischen Beamten und Angestellten sind, sofern sie das Schweizerbürgerrecht besitzen, von allen Steuern und Personalleistungen befreit mit Ausnahme:

1. der indirekten Steuern,

2. der Grundsteuern.

Art. 23

Die im Fürstentum Liechtenstein stationierten schweizerischen Beamten und Angestellten und ihre mit ihnen in gemeinsamem Haushalte lebenden Angehörigen, soweit sie schweizerische Staatsangehörige sind, haben ihren zivilrechtlichen Wohnsitz in Buchs.

Das Gesetz des Kantons St. Gallen über die Staats- und Gemeindesteuern (StG) bestimmt im Abschnitt über die Steuer pflicht in:

Art. 5

Wer seinen Wohnsitz im Kanton hat, ist unbeschränkt steuerpflichtig. Er hat die Steuern von seinem gesamten Einkommen, Gewinn oder Ertrag und von seinem gesamten Vermögen oder Kapital zu entrichten.

Das Bundesrecht über das Verbot der Doppelbesteuerung und die Staatsverträge bleiben vorbehalten.

Art. 6

Der Wohnsitz der natürlichen Personen befindet sich am Mittelpunkt ihrer persönlichen und wirtschaftlichen Verhältnisse.

B.- Der Beschwerdeführer ist als Beamter der schweizerischen Zollverwaltung seit dem März 1965 in Schaanwald (Fürstentum Liechtenstein) stationiert und wohnt daselbst mit seiner Familie. Die Steuerkommission Buchs veranlagte ihn mit Wirkung seit dem 10. März 1965 mit einem steuerpflichtigen Einkommen von Fr. 20'300.-- und mit einem Vermögen von Fr. 45'000.--. Er erhob unter Berufung auf die Bestimmungen des Zollvertrages Einsprache, wurde aber damit abgewiesen. Ebenso wies die kantonale Verwaltungsrekurskommission die dagegen erhobene Beschwerde am 24. August 1966 ab, im wesentlichen mit der Begründung: Art. 22 des Zollvertrages bezwecke die Abgrenzung allenfalls konkurrierender Ansprüche der beiden Steuerhoheiten, in dem Sinne, dass die in Liechtenstein stationierten schweizerischen Beamten liechtensteinischer Staatszugehörigkeit dieser Steuerhoheit unterstellt bleiben, die schweizerischen Beamten ihr dagegen entzogen seien. Daraus folge nicht, dass die Schweiz auf die Besteuerung ihrer eigenen Beamten verzichte, zumal diese und ihre Familien den zivilrechtlichen Wohnsitz in Buchs hätten. Er bilde den Anknüpfungspunkt für die Erhebung direkter Steuern. Daran ändere nichts, dass die üblichen materiellen Voraussetzungen für die Begründung eines zivilrechtlichen Wohnsitzes nicht vorlägen. Denn Art. 5 Abs. 2 StG behalte eine abweichende Ordnung durch Staatsverträge vor.

Der Betroffene führte Beschwerde an das kantonale Verwaltungsgericht. Dieses wies die Beschwerde mit Entscheid vom 3. April/9. Juni 1967 ab. Es geht davon aus, das Steuergesetz enthalte keine Grundlage, um den Beschwerdeführer der st. gallischen Steuerhoheit zu unterstellen. Es ergebe sich hiefür auch nichts aus den Bestimmungen des Zollvertrages. Dagegen seien die in Liechtenstein stationierten schweizerischen Zollbeamten von jeher in Buchs besteuert worden. Es liege nahe anzunehmen, anlässlich der Revision des Steuergesetzes habe man nicht beachtet, dass das Gesetz für deren Besteuerung keine Anhaltspunkte biete; in der Beratung wäre davon gesprochen worden, wenn beabsichtigt gewesen wäre, die bereits gefestigte Übung zu beseitigen. Habe doch der Gesetzgeber auch diejenigen Personen, die kraft des eidgenössischen Garantiegesetzes ihr politisches und bürgerliches Domizil im Kanton besitzen, durch eine besondere Vorschrift der Steuerhoheit des Kantons unterstellt. Wenn aber das Gesetz eine Lücke enthalte, seien die Voraussetzungen für die Entstehung von Gewohnheitsrecht erfüllt.

C.- Mit der staatsrechtlichen Beschwerde wird beantragt, die Urteile des Verwaltungsgerichts und der Verwaltungsrekurskommission wegen Verletzung von Art. 4 BV und der kantonalen Verfassung (Art. 54 und 55) aufzuheben und festzustellen, dass der Beschwerdeführer gegenüber dem Kanton St. Gallen und der Gemeinde Buchs nicht steuerpflichtig sei.

D.- Das Verwaltungsgericht, die kantonale Steuerverwaltung und die Gemeinde Buchs beantragen die Abweisung der Beschwerde. Die Steuerverwaltung hält eventuell an der Steuerhoheit auf Grund von Art. 5 StG fest.

1. Nach Art. 54 KV erlässt und erläutert der Grosse Rat die Gesetze unter Vorbehalt der verfassungsmässigen Souveränitätsrechte des Volkes (Abs. 1). Gesetze sind danach Erlasse, welche die Pflichten der Privaten, der öffentlichen Körperschaften, der Gemeinden und des Staates sowie die organischen Einrichtungen des Staates, des Gerichts- und Verwaltungswesens allgemein und bleibend bestimmen. Der ebenfalls angerufene Art. 55 KV überträgt dem Grossen Rat alle andern Hoheitsrechte des Staates, insbesondere das Recht, nach den jeweiligen Gesetzen und Verordnungen die erforderlichen Abgaben und Steuern zu erheben (Ziff. 7).

Damit wird zwar der Grundsatz ausgesprochen, dass die Gesetze auf dem Wege der Gesetzgebung zu erlassen sind, die Entstehung von Gewohnheitsrecht jedoch nicht ausgeschlossen. Ein derartiger Ausschluss würde übrigens der allgemeinen Erkenntnis widersprechen, dass auch das Gewohnheitsrecht eine originäre Rechtsquelle darstellt, die trotz eines gewissen Vorranges des formell zustande gekommenen Gesetzes der Gesetzesstufe zuzurechnen ist (BGE 83 I 248).

Die st. gallische Verfassung steht deshalb der Entstehung von Gewohnheitsrecht nicht entgegen.

2. Die Auffassung des Verwaltungsgerichts, wonach das Gewohnheitsrecht auch auf dem Gebiet des öffentlichen Rechts als Rechtsquelle anzuerkennen ist, und es zwar Lücken des geschriebenen Rechts auszufüllen, jedoch positive Rechtssätze nicht zu ändern oder aufzuheben vermag, entspricht der herrschenden Lehre und im besondern auch der Praxis des Bundesgerichtes. Demnach ist das Vorhandensein einer echten Lücke Voraussetzung dafür, dass Gewohnheitsrecht, d.h. gesetzesergänzendes Gewohnheitsrecht entstehen kann, während für die Bildung derogierenden Gewohnheitsrechtes kein Platz ist, weder dann, wenn dieses einer ausdrücklichen Gesetzesbestimmung widersprechen würde, noch, wenn ein rechtspolitischer Mangel des Gesetzes, d.h. eine unechte Lücke angenommen werden müsste. Der Richter darf nur dort zur Aufstellung neuer Rechtssätze schreiten, wo kein Zweifel besteht, dass dem Gesetz keine Norm entnommen werden kann, und wo sich für einen neuen Sachverhalt auch auf dem Wege analoger Anwendung bestehender Rechtssätze keine Lösung finden lässt.

Dass die auf diese Weise sich ergebende Ordnung der Dinge allenfalls nicht die zweckmässigste sein sollte, ändert nichts (BGE 73 I 346,BGE 74 II 109, BGE 83 I 246 mit Verweisungen, BGE 84 I 89; IMBODEN, Schweizerische Verwaltungsrechtsprechung, 2. Auflage No 33; HÖHN, Gewohnheitsrecht im Verwaltungsrecht S. 36 und die hier genannte Literatur; ferner die Literaturhinweise bei GIACOMETTI, Allgemeine Lehren des rechtsstaatlichen Verwaltungsrechts, S. 170 Note 116; bezüglich der Ausfüllung von VerfassungslückenBGE 74 I 176; AUBERT, Traité de droit constitutionnel suisse Ziff. 321 f.). Ob die gegenteilige Annahme, die Bildung von derogierendem Gewohnheitsrecht sei zulässig, vor dem Verbot der Willkür standhält, hat das Bundesgericht früher für den Fall offen gelassen, dass Interessen des Bürgers nicht geschädigt würden, weil im Gebiet des Verwaltungsrechts die Grenze zwischen Gesetz und gesetzesergänzender Verordnung fliessender sei als im Gebiet des Zivil- und Strafrechts. Später hat es seine Auffassung präzisiert. Den durch lang andauernde Übung entstandenen Rechtssatz anzuerkennen, wenn er nicht in Freiheit und Eigentum des Bürgers eingreift, sondern bloss organisatorischer Natur ist, verstosse nicht gegen Art. 4 BV (das nicht veröffentlichte Urteil vom 6. Februar 1901 i.S. Thunerhof einerseits; anderseits die Urteile vom 23. Juni 1934 i.S. Mattenberger, 27. September 1935 i.S. Labhardt, vom 16. Oktober 1948 i.S. Wild und vom 20. Januar 1949 i.S. Forrer). Offen blieb zunächst, ob auch öffentlichrechtliche Pflichten, insbesondere Steuern und Abgaben auf gewohnheitsrechtlichem Wege begründet werden können.

Zur Frage, ob es vor Art. 4 BV auch haltbar sei, beim Fehlen einer echten Gesetzeslücke Gewohnheitsrecht anzunehmen, oder ob solches sogar contra legem entstehen könne, braucht nicht Stellung genommen zu werden. Denn das Verwaltungsgericht nimmt mit der herrschenden Lehre an, Voraussetzung für die Bildung von Gewohnheitsrecht sei eine echte, auszufüllende Lücke. Zu entscheiden ist bloss, ob die weitere Annahme des Urteils vor dem Verbot der Willkür standzuhalten vermag, das st. gallische Steuergesetz enthalte eine Lücke, wenn es die im Fürstentum Liechtenstein stationierten schweizerischen Zollbeamten der st. gallischen Steuerhoheit nicht ausdrücklich unterwirft.

3. Das Schweigen des Gesetzes ist im Verwaltungsrecht nicht ohne weiteres als negative Entscheidung auszulegen.

Ergänzungen sind dort zulässig, wo eine offensichtliche Notwendigkeit besteht und nicht aus dem Fehlen einer bestimmten Vorschrift auf eine Absicht des Gesetzgebers zu schliessen ist (IMBODEN, Schweizerische Verwaltungsrechtsprechung, 2. Auflage No. 33 III a und die hier genannten Entscheidungen). Deshalb wird im allgemeinen die sinngemässe Herübernahme zivilrechtlicher Institute in das Verwaltungsrecht als zulässig anerkannt. Gleiches gilt, wo das Verwaltungsrecht unvollständig ist, wo aber die Nichtausfüllung einer Gesetzeslücke zu einer Rechtsverweigerung führen kann (BGE 74 I 107; GULDENER, Schweiz. Zivilprozessrecht, 2. Auflage S. 49). Dagegen ist in andern Verwaltungsbereichen, wo die Vollständigkeit des geschriebenen Rechts eher zu vermuten ist, Zurückhaltung geboten und deshalb das Fehlen einer Vorschrift eher als negative Vorschrift auszulegen. Als ein derartiger Bereich gilt z.B. die Haftung des Staates für Handlungen seiner Organe. Die Übernahme zivilrechtlicher Institute rechtfertigt sich dafür nicht (BGE 63 II 30). Im Gebiet des Steuerrechts, wo die ausdehnende Auslegung als zulässig betrachtet wird, liegt dagegen keine echte Lücke vor, wenn Tatbestände fehlen, die zu einer Besteuerung Anlass geben (BGE 64 I 315,BGE 72 I 310,BGE 76 I 210, BGE 84 I 94). Durch Gewohnheitsrecht können dem Bürger nicht neue Steuern oder andere steuerrechtliche Verpflichtungen auferlegt werden (BLUMENSTEIN, System des Steuerrechts, 2. Auflage S. 13; GIACOMETTI, Allgemeine Lehren des rechtsstaatlichen Verwaltungsrechts, S. 174 zu Note 142). Das Bundesgericht hat dies (im Urteil BGE 84 I 95 Erw. 4) zwar zunächst noch als zweifelhaft bezeichnet, jedoch ausgeführt, dass die Gründe, welche die Zulassung ergänzenden Gewohnheitsrechtes auch im Gebiet des öffentlichen Rechts rechtfertigen, nämlich eine echte Gesetzeslücke und das unabweisliche Bedürfnis nach einer Regelung, kaum je gegeben seien, wenn Bestand und Umfang einer Abgabepflicht in Frage stehen. Offen gelassen hat es darin nur, ob die streitige Abgabe auf Grund eines Gewohnheitsrechts erhoben werden kann, weil an die Bildung solchen Gewohnheitsrechts besonders strenge Anforderungen zu stellen wären, die nicht erfüllt seien.

Wenn die Pflicht zur Tragung einer Abgabe nicht durch Gewohnheitsrecht eingeführt werden darf, fällt das Gewohnheitsrecht als Rechtsquelle auch nicht in Betracht, falls der Gesetzgeber es unterlassen hat, bestimmte Personen der Steuerhoheit zu unterwerfen. Denn wenn es als fundamentaler Rechtsgrundsatz zu gelten hat, dass eine Steuer oder Abgabe nicht ohne eine positive Gesetzesvorschrift erhoben werden darf, kann der Bürger im Wege des Gewohnheitsrechts auch nicht einer Steuerpflicht unterstellt werden, wenn er nach den Bestimmungen, welche die Unterwerfung ordnen, nicht unter die Steuerpflicht fällt. Dass der Gesetzgeber einzelne andere Personen, auf welche die allgemeinen Vorschriften über die Unterstellung nicht zutreffen, besonders dem Gesetz unterwirft, spricht nicht für die Zulässigkeit der Unterstellung von Personen in ähnlicher Lage, die das Gesetz nicht erfasst. Die Vorschrift von Art. 7 StG, wonach der Wohnsitz derjenigen Personen, deren politisches und bürgerliches Domizil durch das Bundesgesetz über die politischen und polizeilichen Garantien zu Gunsten der Eidgenossenschaft geregelt wird, sich nach jenen Vorschriften richtet, gestattet also nicht den Schluss, das Gesetz enthalte für Personen, deren Lebensmittelpunkt sich nicht im Kanton St. Gallen befindet, eine echte Lücke, die durch Gewohnheitsrecht ausgefüllt werden könne.

Die Auffassung des Verwaltungsgerichts, das st. gallische Steuergesetz enthalte eine echte Lücke, wenn es die unter den Zollvertrag fallenden schweizerischen Zollbeamten, welche im Fürstentum Liechtenstein stationiert sind, der Besteuerung nicht ausdrücklich unterwirft, was es erlaube, das Gesetz im Wege der Lückenausfüllung auf sie anzuwenden, ist offensichtlich unrichtig und deshalb vor Art. 4 BV nicht haltbar. Das führt zur Gutheissung der Beschwerde.

4. Für den Fall, dass das Urteil des Verwaltungsgerichts, das ein Gewohnheitsrecht annimmt, nicht Bestand haben würde, beantragt die kantonale Steuerverwaltung, die Beschwerde eventuell deshalb abzuweisen, weil sich die Steuerhoheit aus Art. 5 StG ergebe.

Das Urteil des Verwaltungsgerichts ersetzt dasjenige der Verwaltungsrekurskommission. Stellt es doch fest, dass der Beschwerdeführer der Steuerpflicht nicht gestützt auf Art. 5 (in Verbindung mit Art. 6) StG unterworfen ist. Damit bezeichnet das Verwaltungsgericht es als unzulässig, die Steuerpflicht auf das positive Steuergesetz zu stützen. Lehnt aber die letzte kantonale Behörde die Gründe, die zu substituieren wären, ausdrücklich ab, kann das Bundesgericht diese Gründe der angefochtenen Entscheidung nicht selbst substituieren (BGE 91 I 38; BIRCHMEIER, Organisation der Bundesrechtspflege zu Art. 87 S. 353). Weder die Behörde selbst, noch die Gegenpartei können sich bei solcher Beurteilung darauf berufen, dass sich die Aufhebung eines Entscheides auf Grund von Art. 4 BV nur dann rechtfertigt, wenn der Beschwerdeführer im Ergebnis willkürlich behandelt wird, nicht schon, wenn bloss die Begründung des Entscheides nicht Bestand hat.

Demnach erkennt das Bundesgericht:

Die Beschwerde wird gutgeheissen und der Entscheid des Verwaltungsgerichts des Kantons St. Gallen vom 3. April 1967 aufgehoben.