Die Beschwerdeführerin ist beklagte Partei in einem von der Beschwerdegegnerin vor dem Handelsgericht des Kantons Bern anhängig gemachten Zivilprozess. Mit Verfügung vom 9. März 1998 forderte der Instruktionsrichter beide Parteien zur Zahlung eines Kostenvorschusses von je Fr. 30'000.-- auf. Auf Antrag der Beschwerdeführerin beschränkte er mit Verfügung vom 7. Mai 1998 das Verfahren auf die Frage der Zuständigkeit des Handelsgerichts. Gleichzeitig wies er deren Begehren auf Erlass des einverlangten Kostenvorschusses ab und setzte zu dessen Leistung eine neue Frist bis 29. Mai 1998, unter Androhung der Säumnisfolgen von Art. 286 ZPO/BE.

Die Beschwerdeführerin führt staatsrechtliche Beschwerde wegen Verletzung von Art. 4 BV mit dem Antrag, die Verfügung des Instruktionsrichters vom 7. Mai 1998 aufzuheben. Das Bundesgericht weist die Beschwerde ab.

Aus den Erwägungen:

2.- Die Beschwerdeführerin rügt als Verletzung ihres bundesverfassungsrechtlichen Anspruchs auf rechtliches Gehör, dass sie sich als beklagte Partei den Säumnisfolgen gemäss Art. 286 ZPO/BE ausgesetzt sieht, wenn sie den ihr auferlegten Kostenvorschuss nicht bezahlt. Ihrer Auffassung nach verstösst die Berner Praxis, die Geltendmachung grundlegender Verteidigungsrechte von der Leistung eines Kostenvorschusses abhängig zu machen, gegen die aus Art. 4 BV fliessenden Minimalgarantien zur Wahrung des rechtlichen Gehörs. Das staatliche Interesse an der vorgängigen Sicherstellung der Gerichtskosten könne ohne weiteres dadurch befriedigt werden, dass der die staatliche Dienstleistung in Anspruch nehmende Kläger für die mutmasslichen Kosten vollumfänglich vorschusspflichtig erklärt werde.

Der aus Art. 4 BV abgeleitete Anspruch auf rechtliches Gehör gibt dem Betroffenen als persönlichkeitsbezogenes Mitwirkungsrecht das Recht, sich vor Erlass eines in seine Rechtsstellung eingreifenden Entscheides zu äussern, erhebliche Beweise beizubringen, Einsicht in die Akten zu nehmen, mit erheblichen Beweisanträgen gehört zu werden und an der Erhebung wesentlicher Beweise entweder mitzuwirken oder sich zumindest zum Beweisergebnis zu äussern, wenn dieses geeignet ist, den Entscheid zu beeinflussen. Dem Mitwirkungsrecht entspricht die Pflicht der Behörde, die Argumente und Verfahrensanträge der Partei entgegenzunehmen und zu prüfen sowie die ihr rechtzeitig und formrichtig angebotenen Beweismittel abzunehmen, es sei denn, diese beträfen eine nicht erhebliche Tatsache oder seien offensichtlich untauglich, über die streitige Tatsache Beweis zu erbringen (BGE 122 II 464 E. 4a; 119 Ia 136 E. 2c und 2d; 118 Ia 17 E. 1c, je mit Hinweisen; vgl. auch KOLLER, Der Gehörsanspruch im erstinstanzlichen Zivilprozess, ZSR 105 [1986] S. 229 f., 231). Der Umfang des Anspruchs auf rechtliches Gehör wird zunächst durch die kantonalen Verfahrensvorschriften umschrieben. Unabhängig davon greifen die unmittelbar aus Art. 4 BV folgenden Verfahrensregeln zur Sicherung des rechtlichen Gehörs Platz. Da die Beschwerdeführerin explizit die "Berner Praxis" der ihr als beklagten Partei (mit)auferlegten Pflicht zur Bevorschussung von Gerichtsgebühren als verfassungswidrig rügt, ist einzig - und mit freier Kognition - zu prüfen, ob die unmittelbar aus Art. 4 BV folgenden Regeln missachtet wurden (BGE 121 I 230 E. 2b; 120 Ia 220 E. 3a, je mit Hinweisen).

3.- Gemäss Art. 57 Abs. 1 und 2 ZPO/BE haben die Parteien den Kostenaufwand für ihre Rechtsverfolgung oder Verteidigung selbst zu tragen und dem Gericht entsprechende Vorschüsse zu leisten. Mit Ausnahme bestimmter Verfahrensarten (Aussöhnungsversuch, Summarium, Gesuche um vorsorgliche Beweisführung etc.) werden Gerichtskostenvorschüsse von beiden Parteien bezogen (LEUCH/MARBACH/KELLERHALS, Die Zivilprozessordnung für den Kanton Bern, N. 2b zu Art. 57 ZPO/BE). Bezahlt die beklagte Partei trotz zweimaliger Aufforderung den ihr auferlegten Kostenvorschuss nicht, nimmt das Verfahren seinen Fortgang und entscheidet der Richter nur aufgrund der Anträge der klagenden Partei, wobei die bisherigen Anbringen der säumigen Partei berücksichtigt werden (Art. 283 ZPO/BE). Steht jedoch deren Vorschusssäumnis vor Erstattung der Klageantwort fest, bleibt diese unbeachtlich und wird der Gegenpartei auch nicht zugestellt (LEUCH/MARBACH/KELLERHALS, a.a.O., N. 2c zu Art. 286 ZPO/BE). Im weiteren Verlauf des Verfahrens kann die säumige Partei zwar an Verhandlungen teilnehmen, daselbst aber ihre Parteirechte nur wahrnehmen, wenn sie den Vorschuss nachträglich noch bezahlt (LEUCH/MARBACH/KELLERHALS, a.a.O., N. 2 zu Art. 284 ZPO/BE). Zu Noven des Klägers wird sie nicht angehört (LEUCH/MARBACH/KELLERHALS, a.a.O., N. 5 zu Art. 93 ZPO/BE). Trotz Säumnis der beklagten Partei gelten die tatsächlichen Behauptungen des Klägers nicht als anerkannt oder unbestritten, weshalb sie auch nicht ohne weiteres als wahr angenommen werden dürfen, sondern zum Beweis verstellt werden, wenn dies der Richter für notwendig erachtet (LEUCH/MARBACH/KELLERHALS, a.a.O., N. 4 zu Art. 283 ZPO/BE und N. 1a zu Art. 283a-283b ZPO/BE). Die bisherigen Anbringen der säumigen Partei können - soweit sie vor festgestellter Vorschusssäumnis erstattet wurden - ebenfalls, nach Ermessen des Richters, zum Beweis verstellt werden (Art. 283a ZPO/BE; LEUCH/MARBACH/KELLERHALS, a.a.O., N. 1b zu Art. 283a-283b ZPO/BE). Gilt für ein Verfahren kraft Bundesrechts der Untersuchungsgrundsatz oder die Verhandlungsmaxime nur beschränkt, hat das Sachgericht ungeachtet der Säumnis einer Partei den Sachverhalt von Amtes wegen zu ermitteln und alle notwendigen Beweise abzunehmen (Art. 89 ZPO/BE; LEUCH/MARBACH/KELLERHALS, a.a.O., N. 1c zu Art. 283a-283b).

Wie das Handelsgericht in seiner Vernehmlassung ausführt, kann die säumige Partei in der Klage oder Klageantwort Urkunden vorlegen und Beweisanträge stellen, jederzeit die Akten einsehen und der Hauptverhandlung mit Beweisabnahme beiwohnen. Wenn also, wie vorliegend mit instruktionsrichterlicher Verfügung vom 9. März 1998 geschehen, gleichzeitig Frist zur Erstattung der Klageantwort und Zahlung eines Vorschusses angesetzt wird, sich die beklagte Partei jedoch darauf beschränkt, innerhalb der Vorschussfrist ihre Rechtsantwort zu erstatten, sind ihre Vorbringen und die verurkundeten Beweise im weiteren Verfahren dennoch zu berücksichtigen. Tritt die Vorschusssäumnis vor Erstattung der Klageantwort ein, bleiben die Vorbringen der beklagten Partei unbeachtlich. Ob diese Vorschussregelung vor der Verfassung standhält, ist nachfolgend zu prüfen.

4.- a) Gerichtsgebühren sind Kausalabgaben, die ihren Grund in der Inanspruchnahme einer staatlichen Leistung haben und deshalb auch von den Kosten der staatlichen Dienstleistung abhängen; sie haben den Anforderungen an das Kostendeckungs- und Äquivalenzprinzip zu genügen (BGE 120 Ia 171 E. 2). Dass es im Interesse ordnungsgemässer Justizverwaltung zulässig ist, für die mutmasslichen Prozesskosten einen Vorschuss von demjenigen zu verlangen, der staatlichen Rechtsschutz in Anspruch nimmt, entspricht einer allgemeinen Praxis in den Kantonen und widerspricht auch nicht Art. 6 Ziff. 1 EMRK (vgl. BGE 109 II 195 E. 3; GULDENER, Schweizerisches Zivilprozessrecht, 3. Aufl., S. 405 f.; VOGEL, Grundriss des Zivilprozessrechts, 5. Aufl., S. 279 f.; JEAN DARBELLAY, Le droit d'être entendu, ZSR 1964 II, S. 421 f., 506; FROWEIN/PEUKERT, EMRK-Kommentar, 2. Aufl., N. 53 f., 63 und 65 zu Art. 6 EMRK; Entscheid der Europäischen Kommission für Menschenrechte Nr. 23855/94 vom 17. Mai 1995 i.S. M. c. Schweiz mit Verweisen). Nach den meisten Prozessordnungen sind die Gerichtsgebühren oder anfallende Barauslagen von den Parteien vorzuschiessen, soweit nicht kraft Bundesrechts Kostenlosigkeit des Verfahrens gilt oder Verfassungs- oder Prozessrecht einen Anspruch auf unentgeltliche Prozessführung verleihen.

b) Die Vorschussregelung in den Kantonen ist unterschiedlich: Ähnlich der Berner Praxis erklären etwa die Prozessordnungen der Kantone Waadt (Art. 90 ZPO/VD), Freiburg, (Art. 109 ZPO/FR), Jura (Art. 56 ZPO/JU) und Wallis (Art. 304 ZPO/VS) ebenfalls den Beklagten für vorschusspflichtig. Andere Kantone verpflichten den Beklagten nur unter bestimmten Voraussetzungen zur Sicherstellung der Prozesskosten (vgl. Art. 120 ZPO/SH; § 77 Abs. 2 ZPO/TG; Art. 84 ZPO/OW). In den meisten Kantonen wird ein Kostenvorschuss nur vom Kläger oder Widerkläger erhoben, doch bleibt grundsätzlich jede Partei für die von ihr beantragten Prozesshandlungen (insbesondere Beweiserhebungen) vorschusspflichtig (z.B. §§ 89 und 112 ZPO/NW; §§ 67 und 72 ZPO/SZ; § 36 ZPO/ZG; §§ 101 und 102 ZPO/AG; EICHENBERGER, Zivilrechtspflegegesetz des Kantons Aargau, N. 1 zu § 101 ZPO/AG; § 123 ZPO/LU; STUDER/RÜEGG/EIHOLZER, Der Luzerner Zivilprozess, N. 1 zu § 123 ZPO/LU; Art. 27 ZPO/GL; Art. 113 ZPO/UR; Art. 147 ZPO/TI und Art. 9 della Legge sulla tariffa giudiziaria; Art. 140 ZPO/NE; Art. 59, 215, 248 et al. ZPO/GE; MERMOUD, Loi de Procédure civile genevoise annotée, N. 1 zu Art. 72 ZPO/GE; § 94 Abs. 3 ZPO/SO; §§ 44 und 58 Abs. 2 Ziff. 2 ZPO/BS; §§ 69 und 100 ZPO/BL; vgl. STAEHELIN/SUTTER, Zivilprozessrecht, S. 190; Art. 274 ZPG/SG; PETER SCHÖNENBERGER, Prozesskosten, in: Yvo Hangartner (Hrsg.), Das st. gallische Zivilprozessgesetz, St. Gallen 1991, S. 193 f., 209; Art. 78 ZPO/AR; MAX EHRENZELLER, Zivilprozessordnung des Kantons Appenzell A.Rh., Herisau 1988, N. 1 f. zu Art. 79 ZPO/AR; Art. 88 und 89 ZPO/AI; vgl. auch FRANK/STÄULI/MESSMER, Kommentar zur Zürcherischen Zivilprozessordnung, N. 2 zu § 83 ZPO/ZH).

c) Das Bundesgericht hat in einer älteren Entscheidung die Waadtländer Regelung, wonach auch die beklagte Partei zur Leistung eines Gerichtskostenvorschusses verpflichtet werden kann, für verfassungskonform erklärt (JdT 1937, S. 59; POUDRET/WURZBURGER/HALDY, Code de procédure civile du canton de Vaud, 2. Aufl., N. 1 zu Art. 90 ZPO/VD). Ebenso hielt es in einem Urteil vom 12. Juni 1972 die gleichlautende Freiburger Praxis als mit Art. 4 BV vereinbar (Entscheid des Bundesgerichts Nr. P 482/72 vom 12. Juni 1972). Die Beschwerdeführerin beanstandet zu Recht nicht, dass die beklagte Partei im Falle ihres Unterliegens in die Prozesskosten verfällt wird, sondern wendet sich nur dagegen, dass von ihr Gerichtsgebühren vorschussweise erhoben werden. Tatsächlich beansprucht auch die beklagte Partei staatlichen Rechtsschutz, wenn sie die Abweisung von in ihren Augen ungerechtfertigten Ansprüchen verlangt oder im Rahmen negativer Feststellungsklagen oder Aberkennungsklagen eigene Forderungen gegen die Klagepartei mit staatlicher Hilfe durchsetzen will. Wohl unterscheidet sich ihre Stellung von derjenigen der Klagepartei dadurch, dass ihr die Herrschaft über die Einleitung des Verfahrens abgeht. Von der materiellen Berechtigung in der Sache hängt diese Dispositionsbefugnis jedoch nicht ab. Welche Partei mit materiell begründeten Ansprüchen oder materiell unbegründeter Abwehr ausgewiesener Ansprüche den Prozess verursacht - und die entsprechenden Kostenfolgen zu tragen hat - ergibt sich erst mit dem Endentscheid. Oftmals vermag erst die Durchführung eines Beweisverfahrens die auch zwischen den Parteien bestehenden Unsicherheiten über die Berechtigung des Klageanspruchs zu beseitigen. Soweit die beklagte Partei den Vorschuss zu leisten vermag - oder zufolge Prozessarmut davon befreit ist - wird ihr durch die Verpflichtung zur Sicherstellung der Gerichtsgebühr der Zugang zum Recht ebenso wenig verwehrt wie der Klagepartei. Dass sie in diesem Fall ein allfälliges Insolvenzrisiko der Gegenpartei trägt, liegt in ihrem Streit mit dem Kläger begründet; ihr Rechtsschutzanspruch wird dadurch aber nicht verletzt.

Die Stellung der beklagten Partei ist im Übrigen mit derjenigen eines Rechtsmittelklägers vergleichbar, der sich nicht nur gegen behauptete private Ansprüche, sondern gegen ein - ansonsten regelmässig in Rechtskraft erwachsendes - Urteil zu seinen Lasten wehrt. Dass die Überprüfung auch hier von der Leistung eines Kostenvorschusses abhängig gemacht wird, entspricht ständiger Praxis (vgl. BGE 117 Ib 220 E. 2). Eine übermässige Erschwerung des Zugangs zum Recht (vgl. FROWEIN/PEUKERT, a.a.O., N. 67 f. zu Art. 6 EMRK) ist darin grundsätzlich ebenso wenig zu sehen, wie eine Verweigerung des rechtlichen Gehörs. Entsprechend ist von Verfassungs wegen nicht zu beanstanden, auch von der beklagten Partei die anteilsmässige Sicherstellung oder Bevorschussung von Gerichtskosten zu verlangen (kritisch: GUIDO FISCHER, Die Kostenverteilung im aargauischen Zivilprozessrecht, Diss. Basel 1984, S. 21).

d) Die Beschwerdeführerin bringt vor, dass sie als juristische Person nicht in den Genuss der unentgeltlichen Rechtspflege kommen könne, falls sie den einverlangten Vorschuss nicht zu leisten vermöchte.

Vermögen natürliche Personen sowie Kollektiv- oder Kommanditgesellschaften im Rahmen der gegen sie in Klage gesetzten Ansprüche einen einverlangten Kostenvorschuss nicht zu bezahlen, werden sie gegebenenfalls durch den verfassungsrechtlich garantierten Anspruch auf Gewährung unentgeltlicher Rechtspflege davon befreit (BGE 116 II 651 E. 2; Alfred Bühler, Die neuere Rechtsprechung im Bereich der unentgeltlichen Rechtspflege, SJZ 94 [1998], S. 225 f., 228). Ob auch juristischen Personen unter bestimmten Voraussetzungen die unentgeltliche Rechtspflege zu bewilligen ist, hat das Bundesgericht bisher offen gelassen (BGE 119 Ia 337 E. 4; ALFRED BÜHLER, a.a.O., S. 228 und 229). Indes behauptet die Beschwerdeführerin selbst nicht, prozessarm zu sein, weshalb sie sich auch insoweit nicht über eine verfassungswidrig erschwerte Wahrnehmung ihres Gehöranspruchs beklagen kann.