A.- X, selbständige Physiotherapeutin, beschäftigt in ihrem Institut drei Mitarbeiter als Physiotherapeuten. Am 23. Januar 1985 teilte der Schweizerische Physiotherapeuten-Verband dem Verband der Krankenkassen im Kanton Zürich mit, diese drei Personen gälten nicht als diplomiert im Sinne der Ausführungsgesetzgebung zum KUVG, weil sie lediglich Diplome als Gymnastiklehrer oder Masseur und medizinische Bademeister vorweisen würden. Gegenüber der Paritätischen Vertrauenskommission "Schweizerischer Physiotherapeuten-Verband - Konkordat der Schweizerischen Krankenkassen/SUVA" beanstandete der Kantonale Krankenkassenverband, X habe seit Jahren in Missachtung von Art. 6 Abs. 4 des seit 1. Januar 1978 gültigen Physiotherapie-Tarifes 100%, der vereinbarten Taxen in Rechnung gestellt und vergütet erhalten, und nicht nur 50%, wie dies bei Leistungen von nicht diplomiertem Personal mit Ausnahme einiger weniger Positionen tarifvertraglich vereinbart sei. Die Paritätische Vertrauenskommission antwortete dem kantonalen Verband am 27. August 1985, die drei Personen könnten tatsächlich nicht als diplomiert im Sinne der Ausführungsgesetzgebung zum KUVG betrachtet werden, weshalb für ihre Verrichtungen nur 50% der vereinbarten Taxen in Rechnung gestellt werden dürften. Sofern bisher dafür ein höherer Ansatz verrechnet worden sein sollte, sei es Sache der betroffenen Krankenkassen, zu versuchen, die Angelegenheit mit X gütlich zu erledigen. Sei dies nicht möglich, stehe den Parteien die Anrufung des Schiedsgerichts nach Art. 25 KUVG offen, habe die Paritätische Vertrauenskommission doch keine Kompetenz, Rückzahlungen zu verfügen.

Am 13. November 1985 erhob der Kantonale Krankenkassenverband namens von 17 ihm angeschlossenen Krankenkassen Klage beim Schiedsgericht in Krankenversicherungsstreitigkeiten des Kantons Zürich mit dem Begehren, X sei zu verurteilen, unrechtmässig verrechnete Beträge in Höhe von insgesamt Fr. 252'344.10 zurückzuerstatten.

X liess antwortweise auf Abweisung der Klage schliessen; widerklageweise stellte sie das Rechtsbegehren, es sei festzustellen, dass der Mitarbeiter D. im Sinne von Art. 6 Abs. 4 des Physiotherapie-Tarifes diplomiert sei, und es seien die klagenden Krankenkassen zu verpflichten, sämtliche von D. im Institut von X ausgeführten Verrichtungen zu 100% zu vergüten.

B.- Das Schiedsgericht beschränkte das Prozessthema auf die grundsätzliche Frage der Rückerstattungspflicht als solcher, weil ein erheblicher Teil der eingeklagten Forderung verjährt sei. In diesem Sinne stellte das Schiedsgericht in der Besetzung Obergerichtsvizepräsident Dr. iur. M. als Obmann und Dr. iur. Y, Z, K. und S. als weitere Richter in Gutheissung der Klage fest, dass X für die von den drei Mitarbeitern erbrachten Leistungen nur 50% der vereinbarten Taxen beanspruchen könne und dass sie zur Rückzahlung des verrechneten Mehrbetrages an die klagenden Krankenkassen verpflichtet sei; die Widerklage wies das Schiedsgericht ab (Entscheid vom 5. Oktober 1987).

C.- X führt Verwaltungsgerichtsbeschwerde mit dem Hauptantrag, es sei der angefochtene Entscheid "als nichtig" aufzuheben und die Sache an die Vorinstanz zur erneuten Beurteilung durch unbefangene Richter zurückzuweisen.

Während der Krankenkassenverband auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, beantragt das Bundesamt für Sozialversicherung deren Gutheissung, weil die ohne vorgängige Rücksprache bzw. Verwarnung erfolgte Einleitung eines Rückerstattungsverfahrens bei den gegebenen Umständen als unverhältnismässig bezeichnet werden müsse.

1. a) Streitigkeiten zwischen Kassen einerseits und Ärzten, Apothekern, Chiropraktoren, Hebammen, medizinischen Hilfspersonen, Laboratorien oder Heilanstalten anderseits sind durch ein für das ganze Kantonsgebiet zuständiges Schiedsgericht zu entscheiden (Art. 25 Abs. 1 KUVG). Die Kantone bezeichnen das Schiedsgericht und regeln das Verfahren; der schiedsgerichtlichen Behandlung eines Streitfalles hat ein Vermittlungsverfahren vorauszugehen, sofern nicht schon eine vertraglich eingesetzte Schlichtungsinstanz geamtet hat. Das Schiedsgericht setzt sich zusammen aus einem neutralen Vorsitzenden und entsprechend den zu behandelnden Fällen aus je einer Vertretung der Kassen und der Ärzte, Apotheker, Chiropraktoren, Hebammen, medizinischen Hilfspersonen, Laboratorien oder Heilanstalten in gleicher Zahl (Art. 25 Abs. 4 KUVG).

b) Nach § 2 der zürcherischen Verordnung über das Schiedsgericht in Krankenversicherungsstreitigkeiten vom 10. Dezember 1964 (GS 832.11) ernennt das Obergericht des Kantons Zürich den Obmann und dessen Stellvertreter (Abs. 1). Die Direktion des Gesundheitswesens wählt auf Vorschlag der Krankenkassen und der betreffenden Berufsverbände der anderen Parteien die erforderliche Zahl von Schiedsrichtern, und zwar je in besonderen Gruppen für Krankenkassen, Ärzte, Apotheker, Chiropraktoren, Hebammen, medizinische Hilfspersonen, Laboratorien und Heilanstalten (Abs. 2). Von dieser Befugnis hat die kantonale Direktion des Gesundheitswesens mit der Verfügung vom 29. Dezember 1983 über die Wahl von Schiedsrichtern für das Schiedsgericht in Kranken- und Unfallversicherungsstreitigkeiten Gebrauch gemacht. Soweit die Verordnung über das Schiedsgericht vom 10. Dezember 1964 nichts Abweichendes anordnet, sind das Gerichtsverfassungsgesetz und die Vorschriften der Zivilprozessordnung über das ordentliche Prozessverfahren ergänzend anwendbar (§ 4 Abs. 1).

2. a) Nach Art. 58 Abs. 1 (erster Teilsatz) BV darf niemand seinem verfassungsmässigen Richter entzogen werden. Diese Verfassungsnorm verleiht dem einzelnen einen Anspruch auf richtige Besetzung des Gerichts. Dazu gehört wesentlich, dass im konkreten Verfahren unvoreingenommene Richter mitwirken, welche die nötige Gewähr für eine unabhängige und unparteiische Beurteilung der Streitsache bieten (BGE 114 Ia 54, 144 Erw. 3b, 155, 113 Ia 63 Erw. 3a, 408 Erw. 2a und 416 Erw. 2a, 112 Ia 292 Erw. 3).

b) Das Eidg. Versicherungsgericht hat mit Bezug auf Art. 25 Abs. 1 KUVG entschieden, dass in dieser Bestimmung ein bundesrechtlicher Anspruch auf eine richtige Besetzung des Gerichts bzw. einen unbefangenen Richter enthalten ist. Das Schiedsgericht gemäss Art. 25 Abs. 1 KUVG hat dieselbe Gewähr für Unparteilichkeit zu bieten wie andere staatliche Gerichte (siehe auch die Praxis zur zivilprozessualen Schiedsgerichtsbarkeit BGE 113 Ia 409, 105 Ia 247). Das Gebot der Unparteilichkeit gilt für den Vorsitzenden und die übrigen Richter in gleichem Masse. Diese haben deshalb in Ausstand zu treten, wenn sie mit einer Partei in einer Weise verbunden sind, welche die Besorgnis der Befangenheit begründet (BGE 114 V 294 Erw. 3).

c) Die nähere Ausgestaltung des Verfahrens obliegt allerdings den Kantonen (Art. 25 Abs. 4 a. A. KUVG). Mit den entsprechenden kantonalen Bestimmungen hat sich das Eidg. Versicherungsgericht grundsätzlich nicht zu befassen (Art. 128 in Verbindung mit Art. 97 Abs. 1 OG und Art. 5 Abs. 1 VwVG). Es hat gegebenenfalls nur zu prüfen, ob ihre Anwendung zu einer Verletzung von Bundesrecht (Art. 104 lit. a OG), insbesondere des Willkürverbots gemäss Art. 4 Abs. 1 BV geführt hat (vgl. BGE 114 V 86 Erw. 4a, BGE 111 V 49 Erw. 3 und 54 Erw. 4c, BGE 110 V 58 Erw. 3a und 362 Erw. 1b).

3. a) Die Beschwerdeführerin macht im Hauptstandpunkt geltend, laut Rubrum des angefochtenen Entscheides seien als Schiedsrichter neben anderen Dr. iur. Y und Z aufgeführt. Sie habe in Erfahrung bringen können, dass es sich bei Z um den geschäftsführenden Direktor der Krankenkasse handle, welche im vorliegenden Verfahren mit Fr. 52'072.05 die höchste Rückerstattungsforderung gestellt habe. Des weitern habe sie eruieren können, dass Dr. Y Mitglied der Geschäftsleitung der Kasse sei, welche ihr gegenüber eine Rückforderung von Fr. 25'678.85 geltend mache. Das verstosse gegen Ausschluss- bzw. Ablehnungsgründe des kantonalen Gerichtsverfassungsgesetzes, auf welches die erwähnte Verordnung vom 10. Dezember 1964 verweise, weshalb der angefochtene Entscheid aufzuheben sei.

b) Die Beschwerdegegnerinnen betrachten die Rüge der Beschwerdeführerin zunächst unter dem Gesichtspunkt der erforderlichen bundesrechtlichen Verfügungs- bzw. Entscheidgrundlage als unzulässig, weil der geltend gemachte Verstoss gegen kantonale Verfahrensvorschriften über die Besetzung des Gerichts nicht mit Verwaltungsgerichtsbeschwerde angefochten werden könne. Das trifft hier zu (Erw. 2c), weshalb auf die Rüge der Verletzung von kantonalem Verfahrensrecht nicht einzutreten ist. - Die Beschwerdegegnerinnen übersehen jedoch, dass im Rahmen der Rechtsanwendung von Amtes wegen zu prüfen ist, ob das Schiedsgericht nach den einschlägigen bundesrechtlichen Vorschriften und Grundsätzen über Ausschliessung und Ablehnung von Justizpersonen richtig besetzt war. Insofern ist auf die Verwaltungsgerichtsbeschwerde einzutreten.

4. a) Die Beschwerdegegnerinnen betrachten die Vorbringen über die ungehörige Besetzung des Gerichts im weiteren als prozessual unzulässig. Denn die Beschwerdeführerin habe im vorinstanzlichen Verfahren gewusst, dass die Schiedsrichter Dr. Y und Z mitwirken würden, weshalb der heutige Einwand schon vor Schiedsgericht hätte erhoben werden müssen. Die nachträgliche Berufung auf einen prozessualen Mangel sei rechtsmissbräuchlich, wenn sich ein Beschwerdeführer im Verlaufe des vorinstanzlichen Verfahrens damit stillschweigend abgefunden habe, wie das Eidg. Versicherungsgericht in RSKV 1982 Nr. 505 S. 201 entschieden habe.

b) Es ist richtig, dass die Ablehnung eines Richters so früh wie möglich geltend zu machen ist. Wer eine ungehörige Besetzung des Gerichts feststellt und dagegen keinen Einspruch erhebt, sondern sich stillschweigend auf den Prozess einlässt, verwirkt grundsätzlich den Anspruch auf Anrufung der verletzten Verfahrensbestimmung (BGE 114 V 62 Erw. 2b; vgl. auch BGE 112 Ia 340 Erw. 1c; BGE 111 Ia 74 Erw. 2b und 261 Erw. 2a). Voraussetzung einer Verwirkung ist jedoch, dass die Einlassung im vorinstanzlichen Verfahren in Kenntnis des gerügten Mangels erfolgt ist. Die blosse Tatsache, dass im vorinstanzlichen Verfahren keine Rüge erhoben wurde, kann daher für sich allein noch nicht bedeuten, dass der erst letztinstanzlich erhobene Einspruch verspätet oder gar rechtsmissbräuchlich ist (nicht veröffentlichte Erw. 2b von BGE 114 V 292, publiziert in RKUV 1988 Nr. K 781 S. 342 Erw. 2b).

c) Die Beschwerdeführerin macht geltend, sie habe erst im nachhinein erfahren, dass Dr. Y und Z Mitglieder der Geschäftsleitung verfahrensbeteiligter Krankenkassen sind. Die Akten enthalten tatsächlich keine Hinweise auf die Zugehörigkeit der beiden Schiedsrichter zu einer bestimmten Krankenkasse. Insbesondere fehlen solche Angaben in der vorinstanzlichen Eingabe vom 26. März 1986, mit welcher die heutigen Beschwerdegegnerinnen auf Anordnung des Schiedsgerichtsvorsitzenden und nach Massgabe der einschlägigen kantonalen Erlasse "Dr. iur. Y" und "Z" als Schiedsrichter vorgeschlagen haben, dies ohne jeden Hinweis auf deren berufliche Tätigkeit. Auch anderweitig spricht nichts dafür, dass die Aussage der Beschwerdeführerin tatsachenwidrig ist. Es ist daher nicht erstellt, dass die Einlassung im vorinstanzlichen Verfahren in Unkenntnis des heute gerügten Mangels erfolgte. Daher kann die Geltendmachung der Befangenheit nicht als verspätet oder rechtsmissbräuchlich bezeichnet werden.

Zwar hätte die Beschwerdeführerin durch Nachforschungen die Stellung der beiden Schiedsrichter im schweizerischen Krankenkassenwesen ohne weiteres in Erfahrung bringen können. Sie war indes zu Beginn oder im Laufe des vorinstanzlichen Verfahrens nicht gehalten, nach möglichen Einwendungen gegen die beiden Schiedsrichter zu fahnden. Vielmehr durfte sie die Eigenschaft ihrer Unparteilichkeit voraussetzen und hatte deshalb nicht zum vornherein das Gegenteil zu argwöhnen (in diesem Sinne nicht veröffentlichte Erw. 2b von BGE 114 V 292, publiziert in RKUV 1988 Nr. K 781 S. 343 Erw. 2b). Die Einwendungen in der Verwaltungsgerichtsbeschwerde zur Besetzung des Schiedsgerichts sind demzufolge zulässig.

5. a) Nach der Rechtsprechung ist Befangenheit anzunehmen, wenn Umstände vorliegen, die geeignet sind, Misstrauen in die Unparteilichkeit eines Richters zu erwecken. Bei der Befangenheit handelt es sich allerdings um einen innern Zustand, der nur schwer bewiesen werden kann. Es braucht daher für die Ablehnung eines Richters nicht nachgewiesen zu werden, dass dieser tatsächlich befangen ist. Es genügt vielmehr, wenn Umstände gegeben sind, die den Anschein der Befangenheit und die Gefahr der Voreingenommenheit zu begründen vermögen. Bei der Beurteilung des Anscheins der Befangenheit und der Gewichtung solcher Umstände kann jedoch nicht auf das subjektive Empfinden einer Partei abgestellt werden. Das Misstrauen in den Richter muss vielmehr in objektiver Weise als begründet erscheinen (BGE 114 Ia 54 /55 Erw. 3b, 144 Erw. 3b, 155 Erw. 3, BGE 113 Ia 409, BGE 112 Ia 293 Erw. 3a mit Hinweisen).

b) Mit Art. 25 Abs. 4 KUVG wollte der Gesetzgeber den Krankenkassen und den in dieser Bestimmung genannten Medizinalpersonen und -institutionen die Möglichkeit einräumen, für die Beurteilung von Streitigkeiten gemäss Art. 25 Abs. 1 KUVG Richter ihres Vertrauens zu entsenden (BGE 114 V 295 Erw. 3d; siehe auch Votum Pettavel in Sten.Bull. 1909, S. 422). Da in diesen Prozessen für ein sachgerechtes Urteil häufig Branchenkenntnisse erforderlich sind, kann das besondere Vertrauen gerade auch dadurch begründet werden, dass als Schiedsrichter Personen amten, die dem Gericht die spezifische Sachkunde der von ihnen vertretenen Interessengruppe vermitteln können. Die schiedsgerichtliche Mitwirkung solcher Personen ist daher grundsätzlich zulässig, und es ist nicht zu beanstanden, wenn die Krankenkassen als Schiedsrichter ausgewiesene Praktiker ihres Fachs bezeichnen. Zwar mag dieser Schiedsrichter, aufgrund seiner engen Beziehung zum Kassenwesen, sich vornehmlich dafür einsetzen, dass in einem Prozess Forderungen und Bedürfnissen der Versicherer Rechnung getragen wird. Ebenso wird er sich wohl bemühen, die Umstände zur Geltung zu bringen, die für die im Streite stehenden Kassen sprechen. Das trifft indessen für die Gegenseite ebenfalls zu, wenn etwa die Praxisführung eines Arztes oder eines Physiotherapeuten Streitgegenstand und ein frei praktizierender Arzt oder Physiotherapeut als Schiedsrichter eingesetzt ist. Solche Schiedsrichter werden daher kaum in gleicher Weise unabhängig sein wie der Richter eines anderen staatlichen, nicht paritätisch zusammengesetzten Gerichts. Das ist jedoch als Ausfluss des vom Gesetzgeber gewollten Konzepts von Art. 25 Abs. 4 KUVG hinzunehmen, welches im Schiedsgericht ein Gegenüber von zwei Interessenkreisen vorsieht. Allerdings darf sich der Schiedsrichter nicht als Parteianwalt im Richterkleid verstehen und einseitig nur die Interessen der ihm beruflich nahestehenden Partei wahrnehmen. Unter dieser Voraussetzung kann die besagte Mitwirkung nicht als parteiische Ausübung des Richteramtes gewertet werden (BGE 114 V 295 Erw. 3d).

c) Ein Kassenfunktionär hat jedoch als Schiedsrichter in den Ausstand zu treten, wenn er mit einer Partei - über die blosse Zugehörigkeit zu den Krankenkassenkreisen oder die persönliche Kassenmitgliedschaft hinaus - in einer Weise verbunden ist, welche objektiv Misstrauen an seiner Unparteilichkeit weckt.

Besorgnis der Befangenheit ist insbesondere dann gerechtfertigt, wenn der Schiedsrichter bei einer Kasse, die im betreffenden Prozess als Klägerin oder Beklagte auftritt, Funktionen innehat. Ein solcher Schiedsrichter steht für die Gegenpartei aus begreiflichen Gründen im Verdacht, am Obsiegen dieser Kasse ein unmittelbares Interesse zu haben (siehe in diesem Zusammenhang auch den Ablehnungsgrund des besonderen Pflicht- oder Abhängigkeitsverhältnisses gemäss Art. 23 lit. b in fine OG). Dabei kommt es bei Forderungsstreitigkeiten nicht darauf an, ob die betreffende Kasse mit einem grossen oder kleinen Betrag am Rechte steht oder ob der Forderungsbetrag gemessen am Geschäftsaufkommen der Kasse erheblich oder unerheblich ist. Auch bei kleinen Forderungsbeträgen kann der grundsätzliche Aspekt gegenüber dem rein finanziellen weit überwiegen und damit genügend Anlass bilden, als Schiedsrichter einseitig die Interessen der eigenen Kasse zu verteidigen. Sodann ist mit der Möglichkeit der Befangenheit nicht nur dann zu rechnen, wenn als Schiedsrichter ein Organmitglied einer aktiv- oder passivlegitimierten Kasse mitwirkt; das gleiche gilt auch bei jedem Funktionär dieser Kasse; denn Kassenmitarbeiter sind nicht weniger als Organe dem Verdacht ausgesetzt, dass sie sich mit den Interessen "ihrer" Kasse identifizieren. Überdies können bei diesen Funktionären, auch wenn sie in keiner Weise beeinflusst sind und die Kasse auf jegliche Einwirkung über das arbeitsvertragliche Abhängigkeitsverhältnis verzichtet, persönliche Motive wie etwa das Streben nach einem gewissen Leistungs- und Erfolgsausweis gegenüber ihrer Arbeitgeberin beteiligt sein.

Das Eidg. Versicherungsgericht übersieht nicht, dass diese Grundsätze in Rückforderungsprozessen wegen unwirtschaftlicher Behandlung bei der Bestellung von Schiedsrichtern aus Kassenverwaltungen Schwierigkeiten bereiten können, wenn eine grosse Zahl von Kassen am Rechte steht. Das ist indessen hinzunehmen. Denn die dargelegte Konzeption des Schiedsgerichts nach Art. 25 KUVG (Erw. 5b) bedeutet keineswegs, dass das Gesetz den Versicherern ein uneingeschränktes Recht auf Bestellung von Schiedsrichtern aus Kassenverwaltungen zugesteht. Die blosse Sachkunde eines solchen Schiedsrichters kann und darf nicht wichtiger sein als der verfassungsmässige und gesetzliche Anspruch auf eine Rechtsprechung, welche dem Anschein der Parteilichkeit entgeht.

d) Der im vorliegenden Fall als Schiedsrichter tätig gewordene Z ist der geschäftsführende Direktor der klagenden Krankenkassen. Dr. iur. Y ist Mitglied der Geschäftsleitung einer andern, im vorinstanzlichen Verfahren ebenfalls als Klägerin auftretenden Kasse. Beide sind demzufolge nach dem Gesagten als befangen zu betrachten. Dies führt zur Aufhebung des angefochtenen Entscheides und zur Rückweisung der Sache an die Vorinstanz, damit sie in richtiger Besetzung über die Rückforderungsklage erneut entscheide.