A.- Die Firma S. AG, Zürich (nachstehend Firma), befährt mit Schiffen, welche im Register der schweizerischen Seeschiffe eingetragen sind und die Schweizer Flagge zeigen, die hohe See. Für die Besatzung dieser Schiffe heuert sie Angehörige verschiedener Staaten an, im besonderen Deutsche und Österreicher. Für die ausländische Mannschaft hatte die Firma während Jahren mit der Ausgleichskasse der Zürcher Arbeitgeber, welcher sie angeschlossen ist, nicht über paritätische Sozialversicherungsbeiträge abgerechnet.

Am 14. März 1986 erliess die Ausgleichskasse je eine Nachzahlungs- und Verzugszinsverfügung über paritätische AHV/IV/EO- und AlV-Beiträge für die Jahre 1983 bis 1985. Den Verfügungen lag eine kasseneigene Einschätzung der an die ausländischen Besatzungsmitglieder ausgerichteten Entgelte zugrunde.

B.- Beschwerdeweise liess die Firma die vollständige, allenfalls teilweise Aufhebung dieser Verfügungen beantragen.

Gestützt auf eine Arbeitgeberkontrolle vom 23./24. Juli 1986, bei welcher die genauen Lohnsummen ermittelt wurden, hob die Ausgleichskasse die angefochtene Nachzahlungsverfügung pendente lite auf und setzte die strittigen Beiträge für 1983 bis 1985 am 13. August 1986 neu fest. Die Beiträge betrafen ausschliesslich bundesdeutsche und österreichische Staatsangehörige.

Mit Entscheid vom 20. Oktober 1986 hob die Rekurskommission in teilweiser Gutheissung der Beschwerde die Nachzahlungsverfügung vom 13. August 1986 hinsichtlich des Jahres 1983 gestützt auf den Grundsatz von Treu und Glauben auf und wies die Akten an die Ausgleichskasse zurück, damit sie die Beitragsforderung für die Jahre ab 1984 im Sinne der Erwägungen neu festlege.

C.- Mit Verwaltungsgerichtsbeschwerde beantragt das Bundesamt für Sozialversicherung (BSV) insoweit die Aufhebung des vorinstanzlichen Entscheides, als darin die Beitragspflicht der Firma für das Jahr 1983 verneint wird; ferner sei von einer Rückweisung der Akten an die Ausgleichskasse abzusehen.

Die Firma lässt sich auf Abweisung der Beschwerde vernehmen,; allenfalls sei diese nur insoweit gutzuheissen, als die Nacherfassung von AHV- und IV-Beiträgen ab 1983 beantragt werde; indessen sei sie abzuweisen, soweit sie sich auch auf die Nacherfassung von EO- und AlV-Beiträgen beziehe. Die Ausgleichskasse schliesst sinngemäss auf Gutheissung der Beschwerde.

1. und 2. - (Ausführungen darüber, dass sich eine Beitragspflicht für die ausländischen Seeleute landesrechtlich nicht begründen lässt.)

3. a) Nach Art. 7 Abs. 1 des Abkommens zwischen der Schweizerischen Eidgenossenschaft und der Bundesrepublik Deutschland über Soziale Sicherheit vom 25. Februar 1964 gelten für die Besatzung eines Seeschiffes, das die Flagge einer Vertragspartei führt, deren Rechtsvorschriften. Gestützt darauf ist die Beitragspflicht der Firma für die von ihr beschäftigten bundesdeutschen Seeleute ohne Frage zu bejahen, und zwar, entsprechend dem sachlichen Geltungsbereich des Abkommens, für die AHV und IV (Art. 2 Ziff. 2 lit. a und b). Das schweizerisch-österreichische Abkommen über Soziale Sicherheit vom 15. November 1967 kennt die Flaggenklausel nicht.

In BGE 112 V 337 hat das Eidg. Versicherungsgericht festgestellt, dass aufgrund der Gleichbehandlungsklausel in den Abkommen mit Belgien, der Bundesrepublik Deutschland und Frankreich der Angehörige eines Vertragsstaates, der in einem Drittstaat für einen in der Schweiz domizilierten Arbeitgeber tätig ist und von diesem entlöhnt wird, in Anwendung von Art. 1 Abs. 1 lit. c AHVG (in Verbindung mit Art. 1 IVG) obligatorisch bei der schweizerischen AHV/IV versichert und der Arbeitgeber der paritätischen Beitragspflicht unterstellt ist (BGE 112 V 344 Erw. 7d). Das in diesem Urteil zur Beschäftigung in einem Drittstaat Gesagte muss - mutatis mutandis - auch für die Beschäftigung eines Vertragsausländers auf einem schweizerischen Hochseeschiff gelten. Da auch das schweizerisch-österreichische Abkommen eine Gleichbehandlungsklausel im Sinne der dargelegten Rechtsprechung enthält (Art. 4 Abs. 1), hat die Firma auf den ihren österreichischen Seeleuten ausgerichteten Arbeitsentgelten Beitrage zu bezahlen. Entsprechend dem sachlichen Geltungsbereich des Abkommens beschränkt sich die Abgabepflicht ebenfalls auf die AHV und IV (Art. 2 Abs. 1 Ziff. 2 lit. b und c).

b) In den Sozialversicherungsabkommen, welche die Schweiz mit der Bundesrepublik Deutschland und mit Österreich abgeschlossen hat, ist die Gesetzgebung über die Erwerbsersatzordnung (EO) nicht erwähnt. Damit entfällt im vorliegenden Sachzusammenhang endgültig eine diesbezügliche Beitragspflicht der Firma an die EO (vgl. BGE 112 V 345 Erw. 8).

Gemäss Art. 5 Abs. 1 des Abkommens über Arbeitslosenversicherung, welches die Schweiz am 20. Oktober 1982 mit der Bundesrepublik Deutschland abgeschlossen hat, richtet sich die Beitragspflicht nach den Rechtsvorschriften des Vertragsstaates, in dessen Gebiet die Beschäftigung ausgeübt wird. Werden jedoch aufgrund des schweizerisch-deutschen Abkommens über Soziale Sicherheit nicht die Rechtsvorschriften angewandt, die am Beschäftigungsort gelten, sondern die Rechtsvorschriften des anderen Vertragsstaates, so gilt dies ohne Rücksicht auf die Staatsangehörigkeit des Arbeitnehmers auch für die Beitragspflicht nach den in Art. 2 Abs. 1 angeführten Rechtsvorschriften (Abs. 2). Nach dieser Bestimmung bezieht sich das Abkommen in der Schweiz auf die bundesrechtlichen Rechtsvorschriften über die Arbeitslosen-, Kurzarbeits-, Schlechtwetter- und Insolvenzentschädigung sowie die Rechtsvorschriften über die Beiträge (Ziff. 2). Gestützt darauf lässt sich in Verbindung mit der im Abkommen über Soziale Sicherheit verankerten Flaggenklausel eine AlV-Beitragspflicht der Firma für die auf hoher See beschäftigten bundesdeutschen Seeleute ab Inkrafttreten des Abkommens über Arbeitslosenversicherung, d.h. ab 1. Januar 1984 begründen (vgl. diesbezüglich BGE 112 V 346 Erw. 8; vgl. auch BBl 1983 I 6 Ziff. 22, wonach mit Art. 5 Abs. 2 des Abkommens über Arbeitslosenversicherung "die einheitliche Beitragserhebung sichergestellt" werden sollte). Eine entsprechende Abgabepflicht der Firma für ihre österreichischen Seeleute ergibt sich aus Art. 4 des Abkommens zwischen der Schweizerischen Eidgenossenschaft und der Republik Österreich über Arbeitslosenversicherung vom 14. Dezember 1978 in Verbindung mit der im schweizerisch-österreichischen Abkommen über Soziale Sicherheit enthaltenen Gleichbehandlungsklausel (siehe vorstehende Erw. 3a in fine); denn der genannte Art. 4 bestimmt, dass die Versicherungs- bzw. Beitragspflicht sich nach dem Abkommen über Soziale Sicherheit in der jeweils geltenden Fassung richtet.

4. (Ausführungen darüber, dass der Grundsatz von Treu und Glauben in casu keine von den staatsvertraglichen Bestimmungen abweichende Beurteilung zulässt.)

5. Zusammenfassend ergibt sich für den vorliegenden Fall, dass die Firma auf den Arbeitsentgelten, die sie den auf ihren Hochseeschiffen beschäftigten Seeleuten bundesdeutscher und österreichischer Staatsangehörigkeit in den Jahren 1983 bis 1985 ausgerichtet hat, paritätische AHV- und IV-Beiträge zu bezahlen hat (Erw. 3a). Hinsichtlich der Arbeitslosenversicherung ist sie für die österreichischen Besatzungsmitglieder ab 1983 und für die bundesdeutschen ab 1984 beitragspflichtig. Eine EO-Abgabepflicht entfällt dagegen (Erw. 3b).

Demnach erkennt das Eidg. Versicherungsgericht:

Die Verwaltungsgerichtsbeschwerde wird in dem Sinne teilweise gutgeheissen, dass der Entscheid der AHV-Rekurskommission des Kantons Zürich vom 20. Oktober 1986 und die Nachzahlungs- und Verzugszinsverfügungen vom 13. August 1986 aufgehoben werden und die Sache an die Ausgleichskasse der Zürcher Arbeitgeber zurückgewiesen wird, damit diese im Sinne der Erwägungen verfahre.