A.- Im Ehelichkeitsanfechtungsprozess, den Peter Glaus gegen seine frühere Ehefrau Anna Ines Signer-Boltshauser und das Kind Corinne angestrengt hatte, stellte das Zivilgericht des Kantons Basel-Stadt mit Urteil vom 17. Juni 1974 fest, das Kind sei nicht die eheliche Tochter des Klägers. Hinsichtlich der Kosten bestimmte es, die Mutter habe die ordentlichen Kosten sowie ihre eigenen ausserordentlichen Kosten und diejenigen des Klägers zu tragen. Dem Kind wurden die eigenen ausserordentlichen Kosten, also diejenigen der Beistandschaft, auferlegt.

Lic.iur. Alfons Ziegler, der am 21. März 1969 zum Beistand des Kindes ernannt worden war und dessen Interessen im Anfechtungsprozess gewahrt hatte, liess der Vormundschaftsbehörde Basel-Stadt am 25. Juni 1974 eine Aufstellung über seine Bemühungen zukommen und ersuchte die Behörde, ihm das Honorar zu überweisen. Mit Beschluss vom 21. November 1974 setzte darauf die Vormundschaftsbehörde das Honorar auf Fr. 1'800.-- fest und verpflichtete gleichzeitig "gemäss Art. 272 ZGB und § 45 EG zum ZGB" die Mutter, das dem Beistand zustehende Honorar zu bezahlen.

B.- Gegen diesen Beschluss beschwerten sich sowohl der Beistand als auch die Mutter beim Justizdepartement des Kantons Basel-Stadt. Während der Beistand eine Erhöhung des ihm zugesprochenen Honorars verlangte, beantragte die Mutter, der Beschluss sei wegen sachlicher Unzuständigkeit der Vormundschaftsbehörde und wegen Verletzung des Grundsatzes der Gewaltenteilung aufzuheben. Am 11. Juli 1975 wies das Justizdepartement beide Beschwerden ab. Ein Rekurs der Mutter gegen diesen Entscheid wurde vom Regierungsrat des Kantons Basel-Stadt mit Beschluss vom 27. Januar 1976 abgewiesen.

C.- Mit der vorliegenden Nichtigkeitsbeschwerde beantragt Anna Ines Signer-Boltshauser die Aufhebung des Beschlusses des Regierungsrates. Ihrem Gesuch um Gewährung der aufschiebenden Wirkung wurde mit Verfügung vom 22. März 1976 entsprochen.

Der Regierungsrat und der Beistand beantragen in ihren Vernehmlassungen die Abweisung der Beschwerde. Die Vormundschaftsbehörde liess sich nicht vernehmen, obwohl ihr dazu Gelegenheit geboten wurde.

1. Der angefochtene Beschluss ist in einer Zivilsache ergangen. Er ist letztinstanzlich, da gemäss § 11 Ziff. 7 des Gesetzes über die Verwaltungsrechtspflege des Kantons Basel-Stadt vom 14. Juni 1928 der Rekurs an das kantonale Verwaltungsgericht ausgeschlossen ist. Mangels Erreichung des Streitwertes von Fr. 8'000.-- ist er sodann nicht berufungsfähig. Die Nichtigkeitsbeschwerde ist daher zulässig (Art. 68 Abs. 1 OG).

2. Mit der Nichtigkeitsbeschwerde kann nur die Anwendung kantonalen bzw. ausländischen Rechts an Stelle des massgebenden eidgenössischen Rechts oder die Verletzung bundesrechtlicher Zuständigkeitsvorschriften gerügt werden (Art. 68 Abs. 1 lit. a und b OG). Soweit die Beschwerdeführerin geltend macht, der angefochtene Beschluss verstosse gegen den "verfassungsmässigen Grundsatz der Gewaltenteilung", mit der Begründung, die Kostenverteilung im Anfechtungsurteil vom 17. Juni 1974 dürfe durch die Vormundschaftsbehörde nicht abgeändert werden, ist daher auf die Beschwerde nicht einzutreten.

3. Zur Hauptsache wird in der Beschwerde gerügt, Vormundschaftsbehörde und Regierungsrat seien nicht zuständig gewesen, die Beschwerdeführerin zur Leistung einer Beistandsentschädigung für das Kind zu verpflichten; sie hätten bundesrechtliche Vorschriften über die sachliche Zuständigkeit der Behörden verletzt.

Die Vormundschaftsbehörde stützte ihre Zuständigkeit auf § 45 EG ZGB des Kantons Basel-Stadt. Nach dieser Bestimmung werden Streitigkeiten über die Unterhaltsansprüche minderjähriger und entmündigter ehelicher Kinder gegen ihre Eltern von der Vormundschaftsbehörde entschieden, vorbehältlich der richterlichen Zuständigkeit bei der Festsetzung von Alimentationsbeiträgen in Ehestreitigkeiten. Im vorliegenden Fall geht es allerdings nicht um den Unterhaltsanspruch eines ehelichen Kindes gegen seine Eltern, sondern um den Honoraranspruch des Beistandes eines ausserehelichen Kindes gegen dessen Mutter. Dass § 45 EG ZGB auch die Erledigung derartiger Streitigkeiten der Vormundschaftsbehörde zuschieben will, liegt nicht ohne weiteres auf der Hand. Im Rahmen einer Nichtigkeitsbeschwerde ist das Bundesgericht indessen an die Auslegung des kantonalen Rechts durch die kantonalen Behörden gebunden. Es hat daher davon auszugehen, dass nach basel-städtischem Recht die Vormundschaftsbehörde zuständig ist zur Beurteilung der Frage, ob die Mutter das Honorar des Beistandes ihres ausserehelichen Kindes im Anfechtungsprozess bezahlen müsse. Wenn die Beschwerdeführerin diese Auslegung des kantonalen Rechts hätte anfechten wollen, hätte sie staatsrechtliche Beschwerde wegen Verletzung von Art. 58 Abs. 1 BV erheben müssen.

4. Zu prüfen bleibt indessen, ob es überhaupt zulässig sei, solche Streitigkeiten von der Vormundschaftsbehörde beurteilen zu lassen. Das Bundesrecht enthält hierüber keine ausdrückliche Vorschrift. In Art. 417 Abs. 2 ZGB wird einzig statuiert, das Honorar des Beistandes werde von der Vormundschaftsbehörde festgesetzt. Daraus kann nicht geschlossen werden, die Vormundschaftsbehörde sei von Bundesrechts wegen auch zuständig zur Beurteilung der Frage, ob das Honorar auf einen unterhaltspflichtigen Dritten überwälzt werden dürfe. Fehlt es aber an einer bundesrechtlichen Zuständigkeitsordnung, so ist es grundsätzlich Sache der Kantone, die zuständige Behörde zu bezeichnen. Das ergibt sich aus Art. 64 Abs. 3 BV, wonach die Organisation der Gerichte und das gerichtliche Verfahren den Kantonen vorbehalten sind (vgl. auch Art. 52 SchlT ZGB). Da das Bundesrecht nicht vorschreibt, solche Streitigkeiten müssten vom Richter beurteilt werden, können die Kantone nach Art. 54 Abs. 2 SchlT ZGB auch eine Verwaltungsbehörde als zuständig erklären.

Wie das Bundesgericht in BGE 98 II 168 ff. entschieden hat, dürfen aber Angelegenheiten, die sachlich der streitigen Gerichtsbarkeit angehören, nur unter der Voraussetzung den Verwaltungsbehörden zugewiesen werden, dass der Streit im Zweiparteienverfahren beurteilt wird. In jenem Fall hatte das Bundesgericht zu prüfen, ob die Zuständigkeit zur Festsetzung der Unterhaltsbeiträge, welche die Eltern für die ihnen nach Art. 284 oder 285 ZGB weggenommenen Kinder zu leisten haben, den vormundschaftlichen Behörden übertragen werden dürfe. Dabei führte es aus, die Kantone seien zwar an sich frei, die in Frage stehende Aufgabe diesen Behörden zuzuweisen. Dagegen dürften sie diesfalls nicht einfach das Verfahren für anwendbar erklären, das die vormundschaftlichen Behörden bei Erfüllung der ihnen nach Bundesrecht obliegenden, in den Bereich der sog. nichtstreitigen Gerichtsbarkeit fallenden Aufgaben befolgen. Vielmehr müssten die Kantone dem Umstand Rechnung tragen, dass Gegenstand der zu treffenden Entscheidung ein privatrechtlicher Anspruch auf Vermögensleistungen sei, der nach Bundesrecht durch eine Klage gegen die Eltern geltend zu machen sei. Das Verfahren müsse also notwendigerweise ein Verfahren zwischen zwei Parteien sein. Nur wenn das Verfahren so ausgestaltet werde, dürften die Kantone die Beurteilung von Unterhaltsansprüchen einer Verwaltungsbehörde übertragen (BGE BGE 98 II 174; vgl. auch BGE 86 I 333; GULDENER, Grundzüge der freiwilligen Gerichtsbarkeit der Schweiz, S. 98 ff.).

5. Die vorliegende Auseinandersetzung ist sachlich eine Angelegenheit der streitigen Gerichtsbarkeit. Streitig ist die Frage, ob die Beschwerdeführerin das Honorar des Beistandes ihres ausserehelichen Kindes im Ehelichkeitsanfechtungsprozess bezahlen müsse. Der Kanton Basel-Stadt durfte die Beurteilung dieses Streites nach dem Gesagten nur unter der Voraussetzung der Vormundschaftsbehörde übertragen, dass er hiefür ein Zweiparteienverfahren vorsah. Ein solches Verfahren hat indessen nicht stattgefunden. Der Beistand hat nie eine Klage gegen die Beschwerdeführerin erhoben, sondern er hat in seinem Schreiben vom 25. Juni 1974 einzig die Vormundschaftsbehörde ersucht, ihm das Honorar zu bezahlen. Auch der Beschwerdeführerin wurde nie klar gesagt, dass gegen sie eine Forderung geltend gemacht werde. Im Gespräch wurde sie zwar darauf hingewiesen, dass sie die Beistandskosten zu tragen habe. Dabei wurde jedoch der zu bezahlende Betrag nur grössenordnungsweise angegeben. Die Vormundschaftsbehörde hat die Beschwerdeführerin somit offensichtlich nur durch einseitige Verfügung zur Bezahlung des Beistandshonorars verpflichtet. Dieses Vorgehen genügt den Anforderungen nicht, die von Bundesrechts wegen an ein streitiges Verfahren zu stellen sind.

6. In BGE 98 II 175 hat das Bundesgericht ausgeführt, eine Verwaltungsbehörde, die in einem Zivilstreit ihre Zuständigkeit in Anspruch nehme, ohne den bundesrechtlichen Anforderungen an das Verfahren zu genügen, verletze bundesrechtliche Vorschriften über die sachliche Zuständigkeit der Behörden. Es betrachtete daher in jenem Entscheid den Nichtigkeitsgrund von Art. 68 Abs. 1 lit. b OG als erfüllt. Dementsprechend hat sich im vorliegenden Fall die Beschwerdeführerin einzig auf diesen Nichtigkeitsgrund berufen. Indessen ist es weniger die Zuständigkeit der Vormundschaftsbehörde als solche, die mit dem Bundesrecht in Widerspruch steht, als das von der Behörde angewendete Verfahren. Die Missachtung des Vorranges des Bundesrechts vor dem kantonalen Verfahrensrecht füllt aber unter den Nichtigkeitsgrund von Art. 68 Abs. 1 lit. a OG (vgl. BGE 101 II 45 f., 99 II 163, BGE 96 II 435; BIRCHMEIER, Bundesrechtspflege, S. 254 ff.). Der angefochtene Entscheid ist daher auf Grund dieser Bestimmung aufzuheben. Dass die Beschwerdeführerin nur den Nichtigkeitsgrund der Verletzung eidgenössischer Zuständigkeitsvorschriften anrief, kann ihr nicht schaden, konnte sie sich doch dabei auf BGE 98 II 175 stützen.

Demnach erkennt das Bundesgericht:

Die Beschwerde wird gutgeheissen und der Beschluss des Regierungsrates des Kantons Basel-Stadt vom 27. Januar 1976 aufgehoben.