A.- Die geschiedene Marlis S. bezieht seit 1. Dezember 1983 eine Ergänzungsleistung zur Invalidenrente. Von ihren insgesamt vier Kindern wurden zwei, Sandra und Urs, in die Berechnung der Ergänzungsleistung eingeschlossen, was sich so auswirkte, dass die für Marlis S. als Alleinstehende geltende Einkommensgrenze jeweils um zweimal den für Waisen massgebenden Grenzbetrag erhöht wurde.

Die 1975 geborene Sandra S. wohnt seit 1982 in der Grossfamilie A.-B., einer nicht im Sinne der kantonalen Heimgesetzgebung anerkannten Institution. Ab Inkrafttreten der 2. EL-Revision am 1. Januar 1987 berücksichtigte die Ausgleichskasse des Kantons St. Gallen den Aufenthalt von Sandra S. in der heilpädagogischen Grossfamilie in der Weise, dass sie vom jährlichen Wohngeld von Fr. 7'200.-- 30% (= Fr. 2'160.--), vermindert um den Mietzinsselbstbehalt von Fr. 800.--, somit Fr. 1'360.--, zum Abzug zuliess. Auf dieser Grundlage wurde ab 1. Januar 1987 die Ergänzungsleistung an Marlis S. festgesetzt.

Nachdem die Ausgleichskasse am 25. April 1990 erneut angefragt hatte, ob die Grossfamilie A.-B. nunmehr von der kantonalen Aufsicht als Heim anerkannt sei, was von der Gemeindedirektion des Kantons Appenzell Ausserrhoden verneint wurde, beanstandete die Politische Gemeinde K., welche Marlis S. und die Tochter Sandra unterstützt, dass die Kosten des Aufenthalts in der Grossfamilie A.-B. nicht in die EL-Berechnung einbezogen wurden. Sie machte geltend, die Grossfamilie sei Mitglied des Vereins heilpädagogischer Grossfamilien und von der Invalidenversicherung anerkannt. Die Ausgleichskasse setzte indessen nur Fr. 6'317.-- (= 30% der Aufenthaltskosten von Fr. 23'725.-- [365 Tage à Fr. 65.--], abzüglich Mietzinsselbstbehalt von Fr. 800.--) in die EL-Berechnung ein, was bei Ausgaben von Fr. 44'412.-- und Einnahmen von Fr. 24'204.-- eine Ergänzungsleistung von Fr. 20'208.-- im Jahr oder Fr. 1'684.-- im Monat ab Juni 1990 ergab. Davon wurden Fr. 1'086.-- der Mutter und Fr. 598.-- für Sandra S. der Fürsorgebehörde ausbezahlt (Verfügung vom 6. September 1990).

B.- Die von der Gemeinde K. hiegegen erhobene Beschwerde, welche sich allein gegen die Berücksichtigung von lediglich 30% der für Sandra S. entstehenden Pensionskosten in der Grossfamilie A.-B. richtete, wurde vom Versicherungsgericht des Kantons St. Gallen nach Durchführung eines zweifachen Schriftenwechsels gutgeheissen. Aufgrund der von der Gemeinde K. beigebrachten Unterlagen erachtete das Gericht den Heimcharakter der heilpädagogischen Grossfamilie im Sinne der kantonalen Gerichtspraxis als gegeben und wies die Sache unter Aufhebung der Verfügung vom 6. September 1990 an die Ausgleichskasse zurück, damit sie die EL-Berechnung unter Berücksichtigung der Kosten für den Aufenthalt der Tochter Sandra S. in der Grossfamilie A.-B. nach den für Heimbewohner gültigen Vorschriften vornehme (Entscheid vom 3. Oktober 1991).

C.- Die Ausgleichskasse des Kantons St. Gallen führt Verwaltungsgerichtsbeschwerde mit dem Rechtsbegehren, der vorinstanzliche Entscheid sei aufzuheben und es sei die Verfügung vom 6. September 1990 wiederherzustellen. Sie vertritt sinngemäss die Auffassung, als Heim im Sinne des EL-Rechts könnten nur Einrichtungen betrachtet werden, die nach der kantonalen Heimgesetzgebung als solche anerkannt seien. Selbst wenn von der (weitergehenden) kantonalen Gerichtspraxis ausgegangen werde, seien die Voraussetzungen für eine Anerkennung der Grossfamilie A.-B. als Heim im Sinne des EL-Rechts nicht erstellt. Die Vorinstanz habe zwar die Organisationsform der Grossfamilie eingehend untersucht, eine Abklärung der räumlichen Verhältnisse sei dagegen unterblieben.

Während die Politische Gemeinde K. eine Stellungnahme des Vereins heilpädagogischer Grossfamilien einreicht, beantragt das Bundesamt für Sozialversicherung (BSV) Gutheissung der Verwaltungsgerichtsbeschwerde.

1. a) Gemäss Art. 2 Abs. 1 und 5 ELG haben in der Schweiz wohnhafte Schweizer Bürger, denen eine Rente oder eine Hilflosenentschädigung der Alters- und Hinterlassenenversicherung oder mindestens eine halbe Rente der Invalidenversicherung zusteht, Anspruch auf Ergänzungsleistungen, soweit ihr anrechenbares Jahreseinkommen einen bestimmten Grenzbetrag nicht erreicht. Dabei entspricht die jährliche Ergänzungsleistung dem Unterschied zwischen der massgebenden Einkommensgrenze und dem anrechenbaren Jahreseinkommen (Art. 5 Abs. 1 ELG).

Nach Art. 4 Abs. 1 lit. b ELG (in der ab 1. Januar 1990 gültigen und hier anwendbaren Fassung gemäss Art. 2 der Verordnung 90 über Anpassungen bei den Ergänzungsleistungen zur AHV/IV vom 12. Juni 1989) können die Kantone vom Einkommen einen Abzug von höchstens Fr. 7'000.-- bei Alleinstehenden und Fr. 8'400.-- bei Ehepaaren und Personen mit rentenberechtigten oder an der Rente beteiligten Kindern zulassen für den Mietzins, soweit er bei Alleinstehenden Fr. 800.-- und bei den andern Bezügerkategorien Fr. 1'200.-- im Jahr übersteigt. Die Kantone können ferner für die Nebenkosten einen jährlichen Pauschalbetrag von höchstens Fr. 600.-- bei Alleinstehenden und höchstens Fr. 800.-- bei den andern Bezügerkategorien in den Mietzinsabzug einschliessen (Art. 4 Abs. 1 lit. c ELG, Art. 3 der Verordnung 90). Von dieser Ermächtigung hat der Kanton St. Gallen Gebrauch gemacht (Art. 3 ELV/SG; sGS 351.51).

b) Mit der auf den 1. Januar 1987 in Kraft getretenen Änderung des ELG vom 4. Oktober 1985 (2. EL-Revision) hat der Gesetzgeber u.a. die versicherungsrechtliche Stellung der AHV- und IV-Rentner verbessert, die aus sozialen oder medizinischen Gründen in einem Heim leben müssen oder denen zu Hause oder im Spital hohe Krankheits- oder Zahnarztkosten erwachsen (vgl. Botschaft des Bundesrates zur 2. Revision des ELG vom 21. November 1984, BBl 1985 I 102). Dies geschah dadurch, dass die in Art. 2 Abs. 1 ELG für den Anspruch auf Ergänzungsleistungen statuierten Grenzbeträge des anrechenbaren Einkommens gemäss Abs. 1bis dieser Bestimmung um einen Drittel erhöht werden für die Vergütung von Kosten, die durch Heimaufenthalt, Krankheit, Pflege oder Hilfsmittel entstehen. Mit Art. 1a ELV hat der Bundesrat besondere Vorschriften über die Festsetzung der Ergänzungsleistung bei Bewohnern von Heimen und Heilanstalten erlassen. Nach Abs. 1 dieser Bestimmung entspricht die Ergänzungsleistung bei Alleinstehenden, die dauernd oder für längere Zeit in einem Heim oder einer Heilanstalt leben, der Differenz zwischen den Ausgaben (Tagestaxe, Betrag für persönliche Auslagen, Abzüge gemäss ELG) und den gemäss ELG anrechenbaren Einkommensteilen; sie darf jedoch die erhöhte Einkommensgrenze für Alleinstehende nach den Art. 2 Abs. 1bis und 4 Abs. 1 lit. d ELG nicht übersteigen. Gemäss Art. 4 Abs. 1 lit. b ELG kann Bewohnern von Heimen und Heilanstalten kein Mietzinsabzug gewährt werden.

Die Kantone können die Kosten, die wegen des Aufenthaltes in einem Heim oder einer Heilanstalt berücksichtigt werden, begrenzen und den Betrag festlegen, der den Heimbewohnern für persönliche Auslagen überlassen wird (Art. 2 Abs. 1bis zweiter Satz ELG). Sie können die Einkommensgrenzen gemäss Art. 2 Abs. 1bis ELG bis zu einem weiteren Drittel erhöhen (Art. 4 Abs. 1 lit. d ELG). Ferner können sie den Vermögensverzehr bei Altersrentnern in Heimen und Heilanstalten auf höchstens einen Fünftel erhöhen (Art. 4 Abs. 1 lit. e ELG). Der Kanton St. Gallen hat auch von diesen Bestimmungen Gebrauch gemacht und in Art. 1 Abs. 1 ELV/SG die Einkommensgrenzen für die Vergütung von Kosten, die durch Heimaufenthalt, Krankheit, Pflege oder Hilfsmittel entstehen, auf Fr. 22'836.-- für Alleinstehende und für minderjährige Bezüger einer IV-Rente, Fr. 34'260.-- für Ehepaare, Fr. 38'400.-- für Ehepaare in Heimen und Fr. 11'420.-- für Waisen festgesetzt. In Anwendung von Art. 2 Abs. 1bis zweiter Satz ELG bestimmt Art. 3ter ELV/SG, dass die anrechenbare Tagespauschale bei Aufenthalt in einem Altersheim höchstens Fr. 90.-- und bei Aufenthalt in einem Pflegeheim, einem Invalidenwohnheim oder einer Heilanstalt höchstens Fr. 140.-- beträgt. Nach Art. 3quater ELV/SG wird bei Aufenthalt in einem Pflegeheim oder einer Heilanstalt für persönliche Auslagen eine Monatspauschale von Fr. 250.-- angerechnet.

2. Streitig ist, ob Sandra S., welche sich in der Grossfamilie A.-B. aufhält, der Status einer Heimbewohnerin zuzuerkennen ist mit der Folge, dass von der entsprechend erhöhten Einkommensgrenze auszugehen und die Tagespauschale bis zum Höchstbetrag von Fr. 140.-- anzurechnen ist.

a) Der Begriff des Heimaufenthaltes bzw. des Heims im Sinne des EL-Rechts wird weder im Gesetz noch in der Verordnung näher umschrieben. Anlässlich der Vorberatungen des Gesetzesentwurfs zur 2. EL-Revision wurde die Frage des Heimbegriffs zwar aufgeworfen, jedoch nicht näher beantwortet in der Meinung, dass unterschiedliche kantonale Regelungen in diesem Bereich unvermeidlich seien (Protokoll der Kommission des Ständerats, Sitzung vom 29. Januar 1985, S. 12; Protokoll der Kommission des Nationalrats, Sitzung vom 16. August 1985, S. 7, 10). Es blieb daher der Verwaltungs- und Gerichtspraxis überlassen, entsprechende Richtlinien aufzustellen. In Rz. 5051 der Wegleitung über die Ergänzungsleistungen zur AHV und IV (WEL), gültig ab 1. Januar 1987, hat das BSV den Heimbegriff dahingehend umschrieben, dass als Heim Einrichtungen gelten, die im Rahmen der kantonalen Ordnung Kranke, Betagte oder Invalide aufnehmen und eine adäquate Betreuung gewähren. Rz. 288 der EL-Mitteilungen Nr. 78 vom 10. Juli 1987 sieht des weitern vor, dass die Berechnung der Ergänzungsleistung für Heimbewohner auch in Fällen angewendet werden kann, in denen sich ein Versicherter in einer heimähnlichen Einrichtung (beispielsweise Pflegefamilie, heilpädagogische Grossfamilie, Invaliden-Wohngemeinschaft und andere Institutionen) aufhält, welche die notwendige kantonale oder kommunale Bewilligung für Pflege und Betreuung von Drittpersonen besitzt.

b) Im Rahmen der Zielsetzung der mit der 2. EL-Revision eingeführten Regelung für Heimbewohner kann nicht unbeachtet bleiben, dass neue Formen der Heimbetreuung an Bedeutung gewonnen haben, indem heimähnliche Strukturen teilweise an die Stelle der klassischen Heime getreten sind. Die Verwaltungsweisungen schliessen daher zu Recht nicht aus, dass auch heimähnliche Institutionen, wie Pflegefamilien, heilpädagogische Grossfamilien und Invaliden-Wohngemeinschaften, den Heimbegriff gemäss ELG erfüllen können. Entgegen der Auffassung von Ausgleichskasse und BSV lässt sich die Anerkennung jedoch nicht auf Einrichtungen beschränken, die eine kantonale oder kommunale Bewilligung zur Pflege und Betreuung von Drittpersonen besitzen. Denn es wäre mit dem bundesrechtlichen Charakter der gemäss ELG für Heimbewohner geltenden Regelung nicht vereinbar, den Heimbegriff im Sinne des EL-Rechts ausschliesslich von einem formalen Kriterium des kantonalen Heim- bzw. Fürsorgerechts abhängig zu machen. Die vorinstanzliche Gerichtspraxis sieht daher zu Recht vor, dass eine Qualifikation als Heim oder heimähnliche Institution im Sinne des EL-Rechts unter bestimmten Voraussetzungen auch dann erfolgen kann, wenn es an einer Anerkennung nach kantonalem Heimrecht fehlt. In Übereinstimmung mit der Vorinstanz ist bei heimähnlichen Institutionen, die aus formellen Gründen (beispielsweise mangels einer bestimmten Zahl von betreuten Personen) vom Anwendungsbereich der kantonalen Heimgesetzgebung nicht erfasst werden, entscheidend auf die Heimbedürftigkeit der betreuten Person sowie darauf abzustellen, ob die in Frage stehende Institution die Heimbedürftigkeit in adäquater Weise zu befriedigen vermag. Dies beurteilt sich vorab danach, ob die hiefür erforderlichen organisatorischen, infrastrukturellen und personellen Voraussetzungen gegeben sind. Nicht entscheidend ist die Zahl der betreuten Personen; sie kann jedoch ein Indiz dafür bilden, dass es sich bei einer Einrichtung um ein Heim oder eine heimähnliche Institution gemäss Art. 2 Abs. 1bis ELG und Art. 1a ELV handelt.

Die von der Ausgleichskasse gerügte Praxis des kantonalen Versicherungsgerichts erweist sich mithin als bundesrechtskonform. Von einer unzulässigen Privilegierung neuartiger Betreuungs- und Wohnformen gegenüber herkömmlichen Heimen kann schon deswegen nicht gesprochen werden, weil die Anrechenbarkeit der Tagestaxe unabhängig von der Art des Heimes masslich beschränkt werden kann, von welcher Möglichkeit auch der Kanton St. Gallen Gebrauch gemacht hat.

c) Zu keinem andern Ergebnis vermögen die von der Beschwerdeführerin geltend gemachten verfahrensmässigen Schwierigkeiten zu führen. Dem Einwand der fehlenden gesetzlichen Grundlage für die Vornahme eigener Abklärungen ist zunächst entgegenzuhalten, dass sich die Ausgleichskasse als EL-Durchführungsstelle auf Art. 13 Abs. 1 ELG berufen kann, wonach die Verwaltungs- und Rechtspflegebehörden des Bundes, der Kantone und Gemeinden verpflichtet sind, den mit der Ausrichtung von Leistungen im Sinne dieses Gesetzes betrauten öffentlichen Organen alle erforderlichen Auskünfte unentgeltlich zu erteilen. Des weitern ist zu beachten, dass die Durchführung der EL-Ordnung den kantonalen Ausgleichskassen oder besondern kantonalen Durchführungsstellen obliegt (Art. 6 Abs. 1 ELG). Diesen gegenüber sind die mit dem Heimwesen betrauten kantonalen Verwaltungsstellen regelmässig zu Amtshilfe verpflichtet. So verhält es sich auch hinsichtlich des für das Heimwesen zuständigen Sozialdienstes des Departements des Innern des Kantons St. Gallen, welcher nach Art. 5 des kantonalen Verwaltungsrechtspflegegesetzes vom 16. Mai 1965 (sGS 951.1) der Ausgleichskasse Rechtshilfe zu leisten hat. Hat die Ausgleichskasse somit Anlass zu Zweifeln, ob der Heimaufenthaltscharakter einer auswärtigen Unterbringung bejaht werden kann, so ist es ihr aufgrund der genannten Bestimmungen möglich, einer Fachstelle einen entsprechenden Abklärungsauftrag zu erteilen, sei es im Rahmen der erstmaligen Festsetzung oder im Rahmen einer periodischen Überprüfung des EL-Anspruchs (Art. 30 ELV).

3. a) Der Vorinstanz ist auch darin beizupflichten, dass die Voraussetzungen für eine Anerkennung des Aufenthalts von Sandra S. in der Grossfamilie A.-B. als Heimaufenthalt im Sinne des EL-Rechts als erfüllt zu betrachten sind. Dass eine Heimbedürftigkeit besteht, kann nicht zweifelhaft sein, nachdem Sandra S. von der Vormundschaftsbehörde in der Grossfamilie untergebracht worden ist, dort den Sonderschulunterricht besucht hat und seit August 1991 eine erstmalige berufliche Ausbildung absolviert, in deren Rahmen die Invalidenversicherung für die invaliditätsbedingten Mehrkosten der Unterbringung in der Grossfamilie A.-B. aufkommt (Mitteilung der Ausgleichskasse des Kantons St. Gallen vom 24. September 1991). Es besteht sodann kein Grund, die Geeignetheit des Aufenthalts in der Grossfamilie A.-B. in Frage zu stellen. Sandra S. geniesst eine den persönlichen Verhältnissen angepasste Betreuung und Erziehung durch das Leiterpaar der Grossfamilie, welches über eine sozialpädagogische und psychologische Ausbildung verfügt. Nach den Feststellungen der Vorinstanz, welche von der Ausgleichskasse nicht konkret bestritten werden, verfügt die Grossfamilie im Rahmen des Vereins heilpädagogischer Grossfamilien über die notwendigen organisatorischen und infrastrukturellen Voraussetzungen, um der Heimbedürftigkeit der betreuten Kinder in adäquater Weise Rechnung zu tragen. Wie der von der Gemeinde K. eingereichten Stellungnahme des Vereins heilpädagogischer Grossfamilien vom 17. Dezember 1991 zu entnehmen ist, entsprechen auch die räumlichen Verhältnisse weitgehend denjenigen eines Heims. Sandra S. hält sich somit nicht einfach in einer Pflegefamilie, sondern zumindest in einer heimähnlichen Institution auf. Ohne dass es weiterer Abklärungen in dem von der Ausgleichskasse genannten Sinne bedürfte, ist daher festzustellen, dass der Aufenthalt von Sandra S. in der heilpädagogischen Grossfamilie A.-B. als Heimaufenthalt gemäss Art. 2 Abs. 1bis ELG und Art. 1a ELV zu qualifizieren ist.

b) Zu prüfen bleibt, welche Rechtsfolgen sich aus der Anerkennung der heilpädagogischen Grossfamilie als Heim im Sinne des EL-Rechts für die Ermittlung des EL-Anspruchs ergeben. Diesbezüglich ist die Vorinstanz von einer unzutreffenden Grundlage ausgegangen, wenn sie prüfte, ob Marlis S. in der EL-Berechnung bei den Auslagen die Einkommensgrenze für Alleinstehende oder der für alleinstehende Heimbewohner gültige Grenzbetrag von Fr. 22'836.-- (Art. 2 Abs. 1bis und Art. 4 Abs. 1 lit. d ELG in Verbindung mit Art. 1 Abs. 1 Ziff. 1 ELV/SG) angerechnet werden kann. Nicht die anspruchsberechtigte Marlis S. ist Heimbewohnerin, sondern das in die EL-Berechnung fallende Kind Sandra, weshalb nicht die für die Mutter massgebliche Einkommensgrenze für Alleinstehende, sondern der für das Kind geltende Waisenrenten-Grenzbetrag (Fr. 6'850.--) um zweimal einen Drittel zu erhöhen und zur Einkommensgrenze für Alleinstehende der anspruchsberechtigten Mutter hinzuzurechnen ist.

Die Vorinstanz hat die Sache somit zu Recht an die Ausgleichskasse zurückgewiesen. Die Begründung des Rückweisungsentscheides ist indessen dahin zu präzisieren, dass in die Berechnung der Ergänzungsleistung von Marlis S. neben der Einkommensgrenze für Alleinstehende von Fr. 13'700.-- und dem Waisenrenten-Grenzbetrag für den Sohn von Fr. 6'850.-- der um zweimal einen Drittel erhöhte Waisenrenten-Grenzbetrag für die Tochter Sandra von Fr. 11'420.-- (Art. 1 Abs. 2 Ziff. 4 ELV/SG) einzubeziehen ist, was Fr. 31'970.-- ergibt. In diesem Rahmen hat die Ausgleichskasse unter Berücksichtigung der weiteren Aufwandposten und in Gegenüberstellung zu den anrechenbaren Einkünften über den Anspruch auf Ergänzungsleistungen, einschliesslich der Vergütung der Heimaufenthaltskosten von Sandra S., neu zu verfügen.

Demnach erkennt das Eidg. Versicherungsgericht:

Die Verwaltungsgerichtsbeschwerde wird im Sinne der Erwägungen abgewiesen.