A.- Nach Art. 26 des st. gallischen Gesetzes über den Marrktverkehr und das Hausieren vom 28. Juni 1887 erlässt der Regierungsrat die zum Vollzug dieses Gesetzes notwendige Verordnung. Die am 8. Mai 1942 erlassene Vollzugsverordnung (VV) bestimmt in Art. 16:

"Der Betrieb von automatischen Apparaten, durch welche Waren an öffentlichen Orten, Wirtschaften, Bahnhöfen usw. verkauft werden, ist ebenfalls patentpflichtig.

Die Gebühr beträgt Fr. 10.- bis Fr. 120.-- pro Jahr und Apparat."

Entsprechende Besitmmungen, jedoch mit anderen Gebührenansätzen, waren schon in den Vollzugsverordnungen vom 3. Juli 1903 und vom 31. Dezember 1920 enthalten.

B.- Der Beschwerdeführer Jean Kuhn betreibt eine Kolonialwarenhandlung in St. Margrethen. Im Jahre 1957 stellte er in dieser Gemeinde auf privatem Grund einen Warenverkaufsautomaten auf. Die Gemeindeverwaltung teilte ihm am 23. August 1957 mit, dass dieser Automat patentpflichtig sei, und verlangte auf Grund des zitierten Art. 16 VV eine Gebühr für den Staat sowie eine gleich hohe Gebühr für die Gemeinde. Kuhn erhob hiegegen beim Regierungsrat des Kantons St. Gallen Beschwerde mit dem Antrag auf Aufhebung der Gebührenauflage und auf Feststellung, dass für Warenautomaten auf Privatgrund keine Patentgebühren geschuldet seien. Zur Begründung machte er vor allem geltend, dass Art. 16 VV keine gesetzliche Grundlage habe und im vorliegenden Falle übrigens auch deshalb nicht anwendbar sei, weil sich der Automat nicht an einem öffentlichen Ort, sondern auf Privatgrund befinde.

Der Regierungsrat wies die Beschwerde durch Beschluss vom 28. Februar 1958 ab, im wesentlichen aus folgenden Gründen:

1. Nach der Praxis der Bundesbehörden zu Art. 31 BV seien die Kantone befugt, die Aufstellung von Warenautomaten einer polizeilichen Aufsicht sowie einer Besteuerung, die allerdings nicht prohibitiv sein dürfe, zu unterwerfen.

Der Beschwerdeführer stelle dies nicht in Abrede, bestreite aber, dass im Kanton St. Gallen die erforderliche gesetzliche Grundlage vorhanden sei. Der Wortlaut des Gesetzes vom 28. Juni 1887 und des Nachtragsgesetzes vom 31. Dezember 1894 erfasse in der Tat die Warenautomaten nicht. Nach dem Sinn dieser Gesetze seien jedoch die ausserordentlichen, vom normalen Ladenverkauf abweichenden Verkaufsarten einer besonderen Aufsicht und Besteuerung zu unterwerfen. Im Hmnblick auf diesen Sinnzusammenhang zwischen Hausierhandel und Warenautomaten habe der Regierungsrat bereits im Jahre 1927 eine Beschwerde gegen die Patentpflicht für Automaten abgewiesen (St. gall. Verwaltungspraxis Bd. II Nr. 701).

2. Wenn man trotz dieses Sinnzusammenhangs in den erwähnten Gesetzen keine genügende Grundlage für Art. 16 VV erblicke, so habe die Patentpflicht jedenfalls eine gewohnheitsrechtliche Grundlage.

a) Das Gewohnheitsrecht sei nach der Rechtsprechung des Bundesgerichts auch im Gebiete des öffentlichen Rechts als Rechtsquelle anerkannt, wenn auch im Hinblick auf die Rechtssicherheit grosse Zurückhaltung geboten sei. Das st. gall. Gesetz von 1887 über den Hausierhandel und das Nachtragsgesetz von 1894 seien, von der Erhöhung der Patenttaxen abgesehen, trotz der seitherigen wirtschaftlichen Entwicklung nie revidiert worden, was der Entstehung von Gewohnheitsrecht von vorneherein günstig gewesen sei. In den Vollzugsverordnungen seien die Warenautomaten seit 1903 patentpflichtig erklärt worden. Der im Jahre 1935 aufgestellte Entwurf eines neuen Warenhandelsgesetzes habe die Patentpflicht ausdrücklich vorgesehen; das Volk habe dieses Gesetz zwar verworfen, jedoch nicht wegen der Patentpflicht für Automaten, die nicht umstritten gewesen sei.

b) Die Voraussetzungen für die Entstehung von Gewohnheitsrecht seien erfüllt. Eine Praxis von nahezu 55 Jahren genüge auch den strengsten Anforderungen, zumal da die Patentpflicht nicht nur vereinzelt, sondern von Jahr zu Jahr in einer Mehrzahl von Fällen zur Anwendung gelangt sei und durch Aufnahme in die Vollzugsverordnung die allgemein verbindlichen Erlassen eigene generelle Wirkung und Publizität erhalten habe. Ebenso sei die erforderliche Rechtsüberzeugung gegeben. Der Regierungsrat habe sich seit 1903 als zur Anordnung der Patentpflicht befugt erachtet, und die Betroffenen hätten, von einer vereinzelten Bestreitung im Jahre 1927 abgesehen, die Patentpflicht anerkannt, indem sie Bewilligungen einholten und die Gebühren bezahlten. Dazu komme, dass die Patenttaxen aus Warenautomaten seit Jahrzehnten einen Bestandteil der Staats- und Gemeindeeinnahmen bildeten und ihre Erhebung, unter der stillschweigenden Voraussetzung ihrer Rechtmässigkeit, indirekt in den jährlichen Budgetbeschlüssen des Grossen Rates gutgeheissen worden sei. Der Einwand, dass das Gewohnheitsrecht auf dem Gebiete der Besteuerung nicht neues Recht schaffen könne, wäre unbehelflich, da es hier um die ausdehnende Anwendung der in der Hausiergesetzgebung aufgestellten Patentpflicht gehe.

3. Der Beschwerdeführer bestreite die Patentpflicht auch deshalb, weil sein Automat auf privatem Boden stehe. Art. 16 VV treffe jedoch zu, sobald ein Automat an einem jedermann zugänglichen Orte stehe.

C.- Gegen diesen Entscheid hat Jean Kuhn staatsrechtliche Beschwerde erhoben. Er macht geltend, die von ihm verlangte Steuer für den Warenautomaten habe keine gesetzliche Grundlage, sei deshalb willkürlich und verletze Art. 4 BV. Ferner wirft er dem Regierungsrat Verletzung der Art. 27, 47, 65 und 101 KV vor. Die Begründung dieser Rügen ist, soweit notwendig, aus den nachstehenden Erwägungen ersichtlich.

D.- Der Regierungsrat des Kantons St. Gallen beantragt die Abweisung der Beschwerde.

1. Art. 16 VV erklärt den Betrieb von Warenverkaufsautomaten für patentpflichtig (Abs. 1) und setzt die dafür zu entrichtende Gebühr auf Fr. 10.- bis Fr. 120.-- pro Jahr und Apparat fest (Abs. 2). Die Frage der Patentpflicht, d.h. ob Art. 16 Abs. 1 VV verfassungsmässig sei, ist nicht Gegenstand der vorliegenden staatsrechtlichen Beschwerde. Diese richtet sich ausschliesslich gegen die Gebühr, die gestützt auf Art. 16 Abs. 2 VV vom Beschwerdeführer verlangt wird für den Betrieb des Automaten, den er in St. Margrethen aufgestellt hat.

2. Die Höhe dieser Gebühr ist den Akten nicht zu entnehmen. Indessen behauptet der Beschwerdeführer nicht, sie überschreite den Rahmen von Art. 16 Abs. 2 VV. Es ist daher davon auszugehen, dass sie zwischen je Fr. 10.- bis Fr. 120.-- für den Staat und für die Gemeinde beträgt. Ob es sich dabei um eine Gebühr im Rechtssinne d.h. um ein Entgelt für eine Tätigkeit der Verwaltung, oder um eine (Gewerbe-) Steuer handle, braucht nicht geprüft zu werden. Sie stellt jedenfalls keine blosse Kanzleitaxe dar und darf daher nur erhoben werden, wenn eine gesetzliche Grundlage dafür besteht. Das wird vom Regierungsrat mit Recht nicht bestritten. Der Grundsatz, dass ein den Bürger belastender Verwaltungsakt nicht ohne gesetzliche Grundlage erlassen werden darf (BGE 65 I 300), gilt im Rechtsstaat allgemein und wird namentlich mit Bezug auf Steuern und andere öffentliche Abgaben von Bundesgericht in ständiger Praxis gehandhabt (BGE 33 I 390, BGE 56 I 514, BGE 67 I 26 /27, BGE 80 I 327), und zwar nicht nur da, wo er ausdrücklich in kantonalen Verfassungen aufgestellt wird (BGE 52 I 213 /4, BGE 82 I 27 /28). Es handelt sich um einen feststehenden allgemeinen Rechtsgrundsatz, dessen Missachtung einen Verstoss gegen Art. 4 BV bildet.

Der Regierungsrat behauptet nicht, dass ihm eine selbständige Rechtsverordnungskompetenz zusehe, die ihn zum Erlass von Art. 16 Abs. 2 VV berechtigt habe. Er leitet die Befugnis dazu aus der in § 26 des Gesetzes von 1887 über den Marktverkehr und das Hausieren enthaltenen Ermächtigung zum Erlass der zum Vollzug notwendigen Verordnung ab und beruft sich für den Fall, dass dieses Gesetz als Grundlage nicht genügen sollte, auf Gewohnheitsrecht.

3. Das Gesetz von 1887 regelt den Marktverkehr und das Hausieren und umschreibt in Art. 4 (ergänzt durch Art. 7 des Nachtragsgesetzes von 1894) im einzelnen diejenigen Formen der Gewerbeausübung, die als Hausieren zu gelten haben und für welche daher die in Art. 16 des Gesetzes festgesetzten Patenttaxen zu entrichten sind. Da der Warenverkauf durch Automaten dabei nicht erwähnt wird, kann sich Art. 16 Abs. 2 VV jedenfalls nicht auf den Wortlaut des Gesetzes stützen. Der Regierungsrat bestreitet das nicht, glaubt aber, sich auf den Sinn des Gesetzes berufen zu können, der - wie er behauptet - über den Wortlaut hinaus dahin gehe, die ausserordentlichen, vom gewöhnlichen Ladenverkauf abweichenden Verkaufsarten einer besondern Aufsicht und Besteuerung zu unterwerfen. Dieser Standpunkt erweist sich indessen als unhaltbar. Nach der Rechtsprechung des Bundesgerichts ist zwar die ausdehnende Auslegung auch im Steuerrecht anwendbar (BGE 72 I 310, BGE 76 I 210) und darf eine Vollzugsverordnung das Gesetz sinngemäss ergänzen, wo dieses stillschweigt oder eine Lücke enthält (BGE 64 I 315 und dort zitierte Urteile). Indessen liegt darin, dass ein Steuergesetz gewisse Tatbestände, die Anlass zur Besteuerung geben können, nicht erwähnt, keine Lücke, die durch eine Vollzugsverordnung ausgefüllt werden könnte. Die in Art. 4 des Gesetzes von 1887 enthaltene Aufzählung der als Hausieren zu betrachtenden Arten der Gewerbeausübung muss, jedenfalls was die Besteuerung betrifft, als abschliessend gelten und kann nur den Sinn haben, dass sich die Abgabepflicht auf diese Tatbestände beschränkt. Auch bei weitester Auslegung gestattet das Gesetz nicht, den Warenverkauf durch Automaten, der mit den in Art. 4 genannten Tätigkeiten keinerlei Ähnlichkeit aufweist, zu besteuern. Die Berufung des Regierungsrates auf das einen Spielapparat betreffende Urteil des Bundesgerichts vom 22. Dezember 1954 i.S. Willimann (BGE 80 I 350 ff.) ist unbehelflich.

Es ging dort nicht um die Besteuerung eines solchen Apparates, sondern um das Verbot, damit um Geld zu spielen, und die Befugnis des Regierungsrates zum Erlass dieses Verbotes konnte, wie das Bundesgericht in der (nicht veröffentlichten) Erwägung 3 a ausgeführt hat, aus verschiedenen, weit gefassten Gesetzesbestimmungen abgeleitet werden. Art. 16 Abs. 2 VV wäre nur rechtsbeständig, wenn der darin wie schon in den entsprechenden Bestimmungen der Vollzugsverordnungen von 1903 und 1920 enthaltene Grundsatz der Gebührenpflicht für Warenverkaufsautomaten als Gewohnheitsrecht gelten könnte.

4. Wie das Bundesgericht in BGE 83 I 247 unter Hinweis auf frühere Urteile ausgeführt hat, ist das Gewohnheitsrecht grundsätzlich auch auf dem Gebiete des öffentlichen Rechts als Rechtsquelle anzuerkennen. Dabei ist jedoch, wie dort und schon früher (BGE 73 I 345 /6) hervorgehoben wurde, grosse Zurückhaltung geboten, was unter anderm bedeutet, dass an die Voraussetzungen für die Entstehung von Gewohnheitsrecht, d.h. an die Regelmässigkeit und lange Dauer der Übung und an die ihr zugrunde liegende Rechtsüberzeugung, strenge Anforderungen zu stellen sind. Die Urteile, in denen das Bundesgericht das Bestehen eines Gewohnheitsrechts im öffentlichen Recht bejaht oder doch in Erwägung gezogen hat, betreffen sodann vorwiegend andere Teile dieses Rechtsgebietes. Im Steuerrecht wurden gewohnheitsrechtliche Normen, soweit ersichtlich, nur in zwei Fällen anerkannt. Einmal hat die staatsrechtliche Kammer im (amtlich nicht publizierten, aber in MBVR 1 S. 470 ff. abgedruckten) Urteil vom 6. Februar 1901 i.S. AG Hotels Thunerhof und Bellevue eine die Vorschrift eines kantonalen Steuergesetzes über die Bemessungsperiode abändernde, die Steuerpflichtigen aber nicht benachteiligende, mehr als 30-jährige Praxis als gewohnheitsrechtlich gelten lassen, während in einem ähnlichen Falle (nicht veröffentl. Urteil vom 16. September 1948 i.S. Wild) eine erst 7-jährige Praxis als ungenügend bezeichnet wurde; sodann hat die verwaltungsrechtliche Kammer in BGE 56 I 37 ff. eine durch die Praxis eingeführte Ausdehnung des Anspruchs auf Rückerstattung bezahlter Militärsteuerbeträge als gewohnheitsrechtlichen Bestandteil des Bundesrechtes anerkannt. Ob auch steuerrechtliche Pflichten des Bürgers durch Gewohnheitsrecht begründet und neue Steuern durch solches eingeführt werden können, was BLUMENSTEIN (Steuerrecht S. 23/24 und System S. 13) mit Nachdruck bestreitet, wurde noch nie entschieden und erscheint als zweifelhaft. Die Gründe, welche die Zulassung ergänzenden Gewohnheitsrechts auch im Gebiete des öffentlichen Rechts rechtfertigen, nämlich das Bestehen einer (echten) Lücke im Gesetz und das unabweisliche Bedürfnis nach einer Regelung (vgl. BGE 73 I 346, FLEINER, Institutionen S. 87), dürften, soweit der Bestand oder Umfang von Abgabepflichten in Frage steht, kaum je gegeben sein und treffen jedenfalls vorliegend nicht zu, da die gesetzliche Ordnung, wie bereits in Erw. 3 ausgeführt wurde, keine Lücke enthält. Ob gleichwohl wenigstens ohne Willkür angenommen werden könnte, eine Abgabe wie die streitige Patentgebühr auf Warenverkaufsautomaten könne auf Grund eines Gewohnheitsrechts erhoben werden, braucht nicht entschieden zu werden, da an die Bildung solchen Gewohnheitsrechts besonders strenge Anforderungen zu stellen wären, die im vorliegenden Falle nicht erfüllt sind.

Der Betrieb von Warenverkaufsautomaten wurden im Kanton St. Gallen erstmals in der VV von 1903 patent- und gebührenpflichtig erklärt. Seither haben die Behörden die Erfüllung dieser Pflichten in ständiger Praxis verlangt und auch in allen Fällen durchgesetzt; eine einzige Beschwerde hat der Regierungsrat im Jahre 1927 abgewiesen (st. gall. Verwaltungspraxis Bd. II Nr. 701). Eine so lange Übung dürfte, was die Dauer betrifft, für die Bildung von Gewohnheitsrecht selbst dann genügen, wenn wie hier die Begründung einer Abgabepflicht in Frage steht. Auch eine noch so gefestigte und langjährige Übung erzeugt jedoch nur Gewohnheitsrecht, wenn die Rechtsüberzeugung hinzutritt; auf diese kommt es entscheidend an (BGE 83 I 248 /9 und dort zitiertes Schrifttum; EGGER N. 28 zu Art. 1 ZGB).

Die Entstehung von Gewohnheitsrecht auf dem Gebiet des öffentlichen Rechts setzt voraus, dass nicht nur die rechtsanwendenden Behörden, sondern auch die vom angewandten Grundsatz Betroffenen davon überzeugt sind, dass dieser auch wirrklich Recht ist (PETERS, Lehrbuch der Verwaltung S. 80). Für die Bildung von Gewohnheitsrecht als Grundlage einer Abgabepflicht kann das jedoch nicht genügen, sondern muss verlangt werden, dass die Rechtsüberzeugung bei der ganzen Rechtsgemeinschaft oder doch bei einem beträchtlichen Teil derselben besteht (vgl. FORSTHOFF, Verwaltungsrecht, 6. Auflage S. 132, wo für das Gewohnheitsrecht im Verwaltungsrecht generell eine "von der Allgemeinheit getragene Rechtsüberzeugung" verlangt wird). Das ist im vorliegenden Falle nicht dargetan. Wie sich aus den mit der Beschwerdeantwort vorgelegten Aufstellungen des st. gall. Patentamtes ergibt, gab es bis vor kurzem nur einige wenige Abgabepflichtige. So waren in den Jahre 1935-1951 im Durchschnitt zwar jährlich 77 Warenverkaufsautomaten der Patent- und Gebührenpflicht unterworfen, von denen jedoch 72 der Schweiz. Automatengesellschaft AG in Bern und nur 5 vereinzelten andern Firmen gehörten; erst seit 1952 d.h. in einem für die Bildung von Gewohnheitsrecht ausser Betracht fallenden Zeitraum, hat die Zahl dieser Firmen starrk zugenommen, bis 1957 auf 200. Waren demnach noch während der 17-jährigen Periode von 1935-1951 nur 6 Firmen, darunter an erster Stelle eine nicht im Kanton St. Gallen niedergelassene Unternehmung, von der Abgabepflicht betroffen, so war, selbst wenn Art. 16 Abs 2 VV von allen als verbindlich betrachtet wurde, diese Rechtsüberzeugung zu wenig verbreitet, um ein Gewohnheitsrecht zu begründen. Dafür, dass die erforderliche Rechtsüberzeugung in weiteren Kreisen bestanden hätte, fehlen genügende Anhaltspunkte, zumal da ein Entwurf für ein neues Warenhandelsgesetz, der die Abgabepflicht ausdrücklich vorsah, im Jahre 1938 von der Mehrheit der Stimmberechtigten verworfen worden ist. Der Umstand, dass die Vollzugsverordnungen des Regierungsrates jeweils in der Gesetzessammlung publiziert worden sind, vermag eine Rechtsüberzeugung der Allgemeinheit ebensowenig darzutun wie die Aufnahme der Patentgebühren in das jährlich dem Grossen Rat vorgelegte Staatsbudget.

5. Ist demnach der regierungsrätliche Entscheid, durch den die vom Beschwerdeführer bestrittene Abgabepflicht bestätigt wurde, mangels gesetzlicher Grundlage wegen Verletzung von Art. 4 BV aufzuheben, so braucht nicht geprüft zu werden, ob die weiteren, vom Beschwerdeführer erhobenen Rügen begründet wären.

Demnach erkennt das Bundesgericht:

Die Beschwerde wird gutgeheissen und der Beschluss des Regierungsrates des Kantons St. Gallen vom 28. Februar 1958 aufgehoben.