Aus dem Tatbestand:

A.- Der deutsche Staatsangehörige Alfred X war im Januar 1934 mit einem gültigen deutschen Reisepass zu Studienzwecken in die Schweiz eingereist. Nach Abschluss seines Studiums war er mit fremdenpolizeilicher Bewilligung an verschiedenen schweizerischen Arbeitsplätzen tätig. Am 20. April 1940 wurde er auf Weisung des damaligen Polizeikommandanten des Kantons Y vor Ablauf seiner fremdenpolizeilichen Aufenthaltsbewilligung durch Polizeibeamte an die deutsche Grenze gestellt. Seither ist er verschollen.

B.- Arthur und Theodor X, Brüder des Verschollenen, verlangten nach dem Krieg wiederholt bei den Behörden des betreffenden Kantons Einsicht in die Akten, die die Ausweisung betreffen. Sie behaupteten, ihr Bruder sei als Beauftragter einer deutschen Widerstandgruppe in der Schweiz tätig gewesen, nachdem er vor seiner Einreise bis anfangs Dezember 1933 wegen angeblicher hochverräterischer Betätigung in deutschen Konzentrationslagern interniert gewesen sei. Kurz nach seiner Ausweisung aus der Schweiz, am 26. April 1940, seien Freunde von der Berliner Polizeibehörde zur Identifizierung seiner Leiche vorgeladen worden.

Die zuständigen Behörden des Kantons Y haben Theodor X schriftliche und mündliche Auskünfte aus den Akten erteilt und teilweise Akteneinsicht gewährt. Es fand auch eine persönliche Aussprache zwischen Theodor X und dem Polizeidirektor des Kantons Y statt. In diesen Auskünften wurde darauf hingewiesen, Alfred X sei an die Grenze verbracht worden, weil er durch seine an den Tag gelegte politische Einstellung untragbar geworden sei; er habe über die Schweiz und ihre Armee geschimpft und sich anmassend aufgeführt. Man habe sich des Eindrucks nicht erwehren können, er sei ein Spitzel. Obwohl er sich als Sozialist ausgegeben habe, habe er wiederholt bemerkt, er könne jederzeit wieder ins nationalsozialistische Deutschland zurückehren. Mit Beschluss vom 14. April 1966 hat der Regierungsrat des Kantons Y das Gesuch um volle Akteneinsicht abgelehnt.

Nachdem Theodor X in einer neuen Eingabe weiterhin auf eigener Akteneinsicht bestanden hatte, ergänzte der Regierungsrat die bisher erteilten Auskünfte, hielt aber grundsätzlich an seinem früheren Beschluss fest. Der Regierungsrat versicherte, dass sich aus den Akten keine Indizien für die Vermutung des Gesuchstellers ergäben, deutsche Stellen seien an der Ausweisung beteiligt gewesen. Vielmehr habe es sich um schweizerische Persönlichkeiten gehandelt, die den Polizeiorganen gegenüber das Verhalten von Alfred X als undurchsichtig bezeichnet hätten. Dass die "Ausweisung ohne weitere Erhebungen" erfolgt sei, entspreche zwar nicht dem Rechtsempfinden des Regierungsrates, müsse aber aus der damaligen Notsituation heraus verstanden werden. Zudem habe nicht mit einem tragischen Ausgang gerechnet werden müssen, weil Alfred X nicht als Flüchtling in die Schweiz gekommen sei und ihm noch am 6. September 1939 das deutsche Konsulat einen langfristigen Pass ausgestellt habe; dies sei nur bei solchen Deutschen der Fall gewesen, die als absolut zuverlässig galten oder die im Dienste des deutschen Staates standen. Im übrigen hätten die fremdenpolizeilichen Vorgänge während des Krieges die Staatssicherheit betroffen, und die entsprechenden Akten seien noch heute geheim.

C.- In einem Wiedererwägungsgesuch an den Regierungsrat verlangten Arthur und Theodor X erneut volle Akteneinsicht. Wiederum äusserten sie den Verdacht, deutsche nationalsozialistische Stellen hätten ihren Bruder direkt oder indirekt bei den Polizeibehörden des betreffenden Kantons denunziert, um seine Ausweisung aus der Schweiz zu erwirken und auf diese Weise seiner in Deutschland habhaft zu werden. Damit hätten sich jene deutschen Agenten des Mordes schuldig gemacht. Volle Akteneinsicht sei daher auch deshalb notwendig, um diese Personen zu identifizieren, zu überführen und in Deutschland zu bestrafen.

Der Regierungsrat hat das Wiedererwägungsgesuch am 22. Februar 1968 abgewiesen.

D.- Arthur und Theodor X führen staatsrechtliche Beschwerde und beantragen darin, den angefochtenen Entscheid aufzuheben. Zur Begründung machen sie im wesentlichen geltend, ihr Bruder sei widerrechtlich an die Grenze gestellt worden und die Verweigerung der verlangten Akteneinsicht verletze Art. 4 BV.

Der Regierungsrat schliesst auf Abweisung der Beschwerde.

E.- Der Regierungsrat hat die Akten, in die die Beschwerdeführer Einsicht nehmen möchten, dem Bundesgericht auf dessen Ersuchen hin zur vertraulichen Behandlung zugestellt.

Das Bundesgericht zieht in Erwägung:

1.- Das Recht zur staatsrechtlichen Beschwerde steht nach Art. 88 OG Bürgern (Privaten) und Korporationen bezüglich solcher Rechtsverletzungen zu, die sie durch allgemein verbindliche oder sie persönlich treffende Erlasse oder Verfügungen erlitten haben. Legitimiert zur Beschwerde ist nach der Rechtsprechung, wer mit hinreichenden Gründen die Verletzung eines eigenen, rechtlich erheblichen, in der Regel aktuellen Interesses auf einem Gebiete behauptet, das die von ihm angerufene Verfassungsbestimmung beschlägt (vgl. BGE 91 I 185 E. 1, 413 E. 3).

Die Verweigerung voller Akteneinsicht verletzt nach Auffassung der Beschwerdeführer den Art. 4 BV. Diese Verfassungsbestimmung umfasst grundsätzlich auch das Akteneinsichtsrecht in Verwaltungssachen (BGE 83 I 155 E. 5). Es wird somit die Verletzung eines unmittelbar aus Art. 4 BV fliessenden Rechtes behauptet, was auch Ausländer zur staatsrechtlichen Beschwerde berechtigt (BGE 92 I 15).

Aus der Darstellung des Regierungsrates ergibt sich, dass Alfred X am 20. April 1940 vor Ablauf seiner Aufenthaltsbewilligung zwangsweise polizeilich aus der Schweiz nach Deutschland ausgeschafft worden ist, und dass diese Anordnung getroffen wurde, weil er sich als nationalsozialistischer Spitzel verdächtig gemacht haben soll. Die Polizei stützte sich dabei auf Aussagen schweizerischer Auskunftspersonen. Ob die Massnahme begründet oder geboten war, ist in diesem Verfahren nicht zu entscheiden. Jedenfalls aber hatte Alfred X schon unmittelbar aufgrund von Art. 4 BV einen Anspruch darauf, zu seiner Verteidigung vom Ergebnis der Ermittlungen Kenntnis zu nehmen und dazu Stellung zu beziehen. Die entsprechenden Akten waren ihm zu diesem Zwecke zu öffnen, soweit nicht die Rücksicht auf ein besonderes Geheimhaltungsinteresse des Staates oder Dritter ausnahmsweise der Einsicht in einzelne Aktenstücke oder Teile derselben entgegenstand (BGE 92 I 263). Alfred X wurde offensichtlich überhaupt keine Verteidigungsmöglichkeit eingeräumt. Das ergibt sich sowohl aus der unwidersprochen gebliebenen Darstellung der Beschwerdeführer, ihr Bruder sei unmittelbar nach seiner Verhaftung ohne Verhör und ohne Gelegenheit zur Verteidigung, im bewachten Auto sofort an die deutsche Grenze gebracht worden, wie aus der Zugabe des Regierungsrates, die Ausweisung sei "ohne weitere Erhebungen" erfolgt.

Die gleichen Rechte wie dem Verfahrensbeteiligten selber sind mit dessen Tod oder Verschollenheit seinen nächsten Angehörigen zuzubilligen. Wie oben dargelegt, gehört dazu grundsätzlich auch das Akteneinsichtsrecht. Alfred X, über dessen Schicksal die Akten keine Gewissheit verschaffen, ist nach den Parteidarstellungen als verschollen zu betrachten. Beide Beschwerdeführer als seine Brüder sind deshalb entgegen der Auffassung des Regierungsrates nicht unbeteiligte Dritte, sondern dem ursprünglichen Verfahrensbeteiligten Alfred X hinsichtlich dessen Rechte im Verfahren gleichgestellt. Die Verweigerung der Akteneinsicht trifft sie somit in ihren eigenen, rechtlich erheblichen Interessen. Auf die Beschwerde ist daher einzutreten.

2.- Für das geltend gemachte Akteneinsichtsrecht berufen sich die Beschwerdeführer nicht auf besondere Bestimmungen des eidg. oder kantonalen Rechtes, sondern ausschliesslich auf Art. 4 BV. Der unmittelbar aus dieser Vorschrift fliessende Anspruch auf rechtliches Gehör gewährleistet indessen im Verwaltungsverfahren kein unbeschänktes Akteneinsichtsrecht. Ein solches besteht nach der bisherigen Praxis nur zur Wahrung der Rechte des Beteiligten im betreffenden Verfahren; es entfällt nach dessen Abschluss. Sodann findet es seine Grenzen an den berechtigten Geheimhaltungsinteressen des Staates oder Dritter, insbesondere auch von Auskunftspersonen (vgl. BGE 92 I 263, 83 I 155 E. 5 je mit Hinweisen, nicht veröffentlichte Urteile vom 8. Juli 1963 i.S. Michel, E. 1, vom 19. Oktober 1963 i.S. Kümin E. 4 b, vom 9. Juli 1964 i.S. Gonda E. 2, vom 30. September 1965 i.S. Stauffer E. 2; TINNER, Das rechtliche Gehör, ZSR 1964 II, S. 346 f., 379 f., 399).

a) Im vorliegenden Fall ist das Verfahren, dessen Akten die Beschwerdeführer einsehen möchten, im Jahre 1940 dadurch tatsächlich beendet worden, dass die kantonalen Polizeibehörden Alfred X an die Grenze stellten. Freilich wurde das Verfahren in verfassungswidriger Weise beendet. Der Regierungsrat räumt selber ein, dass dem Ausgewiesenen die ihm vorgeworfenen Anschuldigungen (die die Ausweisung bewirkten) nicht bekannt gegeben wurden, X sich dazu also nicht äussern konnte. Auch eine solche Beendigung des Verfahrens ändert jedoch nichts daran, dass nach bisheriger Praxis kein Akteneinsichtsrecht mehr besteht.

Indessen kann an der Auffassung, der aus Art. 4 BV fliessende Anspruch auf Akteneinsicht erlösche in jedem Fall mit dem Abschluss des Verfahrens, nicht festgehalten werden. Diese Auffassung wurde denn auch in der Literatur kritisiert (vgl. IMBODEN, Schweiz. Verwaltungsrechtsprechung, 3. Aufl. Nr. 613 Ziff. V a.E.). Zu den grundlegenden Geboten des Rechtsstaates, die durch Art. 4 BV geschützt werden, zählt nicht nur der Anspruch auf rechtliches Gehör und das daraus fliessende Recht auf Akteneinsicht während des Verfahrens. Vielmehr verlangt der verfassungsmässig gewährleistete Grundsatz der Rechtsgleichheit unter anderem auch, dass jeder Bürger seine Rechte stetsfort mit allen von der Rechtsordnung zugelassenen Mitteln wahren könne. In diesem Sinne hat das Bundesgericht einer Prozesspartei, die ohne Beeinträchtigung des notwendigen Lebensunterhaltes für sich und ihre Familie die Prozesskosten nicht zu bestreiten vermag, in einem für sie nicht aussichtslosen Zivilprozess das Recht der unentgeltlichen Prozessführung zugebilligt. Eine umfassende Wahrung der Rechte kann nun aber auch gebieten, dass der Bürger die Akten eines abgeschlossenen Verfahrens einsehe. Allerdings ist dieser Anspruch - im Gegensatz zu demjenigen des Beteiligten auf Einsicht in die Akten eines hängigen Verfahrens - nur dann gegeben, wenn der Rechtsuchende ein schutzwürdiges Interesse glaubhaft macht.

In der Regel wird in erster Linie derjenige schutzwürdige Interessen glaubhaft machen können, der seinerzeit am nunmehr abgeschlossenen Verfahren beteiligt war. Zu denken ist z.B. an den Fall, wo ein Verurteilter Revision verlangen und zu diesem Zwecke die Akten des abgeschlossenen Strafverfahrens einsehen will. Ausnahmsweise können jedoch auch schutzwürdige Interessen Dritter auf dem Spiele stehen. So im Falle der Beschwerdeführer, die als Brüder des verschollenen Alfred X gegen unbekannte deutsche Agenten vorgehen wollen, von denen sie vermuten, dass sie möglicherweise die Ausweisung durch schweizerische Behörden mitveranlasst haben, um den Genannten nach dem Grenzübertritt umzubringen. Entgegen der Auffassung des Regierungsrates steht den Beschwerdeführern demnach grundsätzlich das unmittelbar aus Art. 4 BV fliessende Recht zu, die Akten des Verfahrens einzusehen, das zur Ausweisung ihres verschollenen Bruders geführt hat.

b) Auch hinsichtlich der Akten eines abgeschlossenen Verfahrens besteht indessen kein uneingeschränktes Akteneinsichtsrecht. Dieses findet auch hier seine Grenzen an öffentlichen Interessen des Staates oder berechtigten Geheimhaltungsinteressen privater Dritter. Ob solche Interessen demjenigen an der Gewährung des unmittelbar aus Art. 4 BV abgeleiteten Akteneinsichtsrechts entgegenstehen, prüft der Staatsgerichtshof frei, geht es doch um die Tragweite einer Verfassungsnorm. Eine derartige Interessenabwägung kann jedoch nur in Kenntnis der Akten erfolgen, für die ein Geheimhaltungsinteresse geltend gemacht wird. Um das Geheimhaltungsinteresse, auf das sich der Regierungsrat beruft, beurteilen zu können, hat das Bundesgericht die Akten beigezogen, die die Beschwerdeführer einsehen möchten. Der Beizug musste naturgemäss zur vertraulichen Prüfung erfolgen, damit die Entscheidung nicht im Sinne der Öffnung der Akten tatsächlich vorweggenommen werde. Diesem Verfahren haftet der Makel an, dass dem Gericht bekannt wird, was einer Prozesspartei unbekannt bleibt. Dem steht vom rechtsstaatlichen Gesichtspunkt aus der überwiegende Vorteil gegenüber, dass der Richter nicht auf die Angaben der Verwaltungsbehörde über ihr behauptetes Geheimhaltungsinteresse angewiesen ist, sondern dieses aufgrund eigener Aktenkenntnis selber beurteilen kann. Diese richterliche Überprüfungsmöglichkeit liegt im Interesse der Partei, welche die Akteneinsicht fordert. Der erwähnte Nachteil, ohne den die richterliche Überprüfung nicht durchzuführen ist, muss deshalb in Kauf genommen werden.

3.- Die Prüfung der beigezogenen Akten ergibt, dass die Verweigerung der Akteneinsicht insofern gerechtfertigt war, als wesentliche private Interessen die Geheimhaltung erfordern. Wie der Regierungsrat zutreffend ausführte, ist die Ausweisung von Alfred X tatsächlich auf Meldungen verschiedener als zuverlässig bekannter schweizerischer Persönlichkeiten zurückzuführen. Die Meldungen, in denen das Verhalten des Ausgewiesenen als anmassend und undurchsichtig qualifiziert wurde, erfolgten Mitte April 1940, in einer Zeit höchster politischer und militärischer Bedrohung der schweizerischen Unabhängigkeit durch das nationalsozialistische Deutschland. Kurz vorher waren Dänemark und Norwegen von den Armeen des Dritten Reiches überfallen worden. Die Furcht, das nächste Opfer zu sein, war in der Schweiz verbreitet. Unter diesen Umständen ist davon auszugehen, dass die genannten Meldungen über das Verhalten von Alfred X aus Sorge um die Sicherheit der Schweiz, also aus achtenswerten Beweggründen erstattet wurden. Die Auskunftspersonen haben deshalb Anspruch darauf, dass ihre Namen nicht preisgegeben werden; dies umso mehr, als sie annehmen durften, ihre Angaben würden von der zuständigen Behörde überprüft und diese entscheide in rechtsstaatlicher und den Verhältnissen angemessener Weise. Die Auskunftspersonen hatten nicht damit zu rechnen, dass X ohne weitere Erhebungen an die deutsche Grenze gestellt werden würde. Der Regierungsrat hat die Akteneinsicht deshalb zu Recht verweigert.

4.- Dem verständlichen Bedürfnis der Beschwerdeführer, die Gründe für die Ausweisung ihres Bruders zu erfahren, sowie ihrem berechtigten Interesse an dessen Rehabilitierung kann anderseits dadurch Rechnung getragen werden, dass ihnen im vorliegenden Entscheid das wesentliche Ergebnis der Aktenprüfung bekannt gegeben wird.

a) Die Vermutung der Beschwerdeführer, es seien deutsche Amtsstellen oder nationalsozialistische Organisationen an der Ausweisung von Alfred X beteiligt gewesen, ist unbegründet. In der Tat finden sich in den Akten keinerlei Anhaltspunkte für einen derartigen direkten oder auch nur indirekten Zusammenhang.

b) Ob das zuständige deutsche Konsulat in der Schweiz Alfred X am 6. September 1939 tatsächlich einen langfristigen deutschen Reisepass ausgestellt hat, ergibt sich aus den Akten nicht. Zuverlässig geht daraus lediglich hervor, dass X bei seiner Ausweisung Besitzer eines deutschen Reisepasses war. Ausstellende Behörde, Ausstellungsdatum und Geltungsdauer sind nicht feststellbar.

c) In den erwähnten Auskünften privater Dritter wurden Alfred X ausser anmassendem Auftreten Äusserungen folgender Art zugeschrieben und zur Last gelegt: Obwohl er sich als Sozialist ausgebe, erkläre er, jederzeit nach Deutschland zurückkehren zu können, was auffällig sei. Er äussere sich ständig in ablehnendem Sinne über die schweizerische Demokratie, die keine Demokratie sei. Die Schweizer würden im entscheidenden Augenblick von der Regierung und den Offizieren, die alle faschistisch seien, verraten. Die Schweiz solle sich wehren, aber vorher Revolution machen. In der Schweiz stecke man Emigranten in Zuchthäuser. Er, X, würde lieber nach Deutschland gehen, als sich hier internieren zu lassen.

Da diese Auskünfte nicht überprüft wurden und Alfred X nicht dazu Stellung nehmen konnte, muss ihr Wahrheitsgehalt dahingestellt bleiben. Die Akten geben keine Auskunft darüber, ob solche Äusserungen dem X zu Recht oder zu Unrecht zugeschrieben worden sind.

5.- Nach dem Gesagten ist zwar die vorliegende Beschwerde abzuweisen. Indessen entsprechen die vorstehenden Erwägungen (insbesondere Erw. 4 hievor) dem Begehren der Beschwerdeführer in einem gewissen Sinne. Aus diesem Grunde und in Anbetracht der Besonderheit des vorliegenden Falles ist von einer Gerichtsgebühr abzusehen (OG Art. 154).

Die Beschwerde wird im Sinne der Erwägungen abgewiesen.