A.- Mit Gesellschaftsvertrag vom 25. Mai 1979 schlossen sich S., die X. AG und zwei weitere Firmen zu einer einfachen Gesellschaft zusammen, deren Zweck einerseits in der Aufteilung des Marktes eines bestimmten Vertragsgebiets in feste Marktanteile (Kontingente) und anderseits in der Durchsetzung einheitlicher Preise und Konditionen gegenüber den Abnehmern bestand. Die Parteien sahen für Kontingentsüberschreitungen eine Ausgleichsabgabe und für jede Vertragsverletzung überdies eine Konventionalstrafe von Fr. 10'000.-- vor. Ein durch Dr. D. geführtes Sekretariat hatte unter anderem als Inkassostelle zu amten und die Einhaltung der Kontingente zu überwachen. Gemäss Ziffer 22 des Vertrags sollten sämtliche damit zusammenhängenden Streitigkeiten vorbehältlich der kantonalen Nichtigkeitsbeschwerde durch das Handelsgericht des Kantons St. Gallen "als einzige und letzte Instanz" beurteilt werden.

Nach Meinungsverschiedenheiten zwischen den Gesellschaftern hielt das Sekretariat für S. eingegangene Zahlungen über insgesamt Fr. 262'895.30 mit der Begründung zurück, der Betrag werde mit von S. verwirkten Konventionalstrafen verrechnet.

B.- Die Klage von S. gegen die übrigen Gesellschafter auf Auszahlung der zurückbehaltenen Summe hiess das Handelsgericht des Kantons St. Gallen am 19. Dezember 1985 vollumfänglich, die von den Beklagten erhobene Widerklage auf Zahlung von 3 Millionen Franken Konventionalstrafe und Fr. 3'790.-- Ausgleichsabgaben im Umfang von Fr. 702'145.-- gut und verpflichtete den Kläger zur Zahlung des Saldos von Fr. 439'249.70 nebst Zins. Eine Nichtigkeitsbeschwerde des Klägers wies das Kassationsgericht des Kantons St. Gallen am 22. August 1986 ab, soweit es darauf eintrat.

C.- Der Kläger hat die Urteile des Handels- und des Kassationsgerichts mit staatsrechtlicher Beschwerde wegen Verletzung von Art. 4 BV angefochten, die das Bundesgericht abweist, soweit es darauf eintritt.

1. Das Kassationsgericht ist auf die Nichtigkeitsbeschwerde nicht eingetreten, soweit der Beschwerdeführer mit ihr eine Verletzung eidgenössischen Rechts durch unrichtige Auslegung des Gesellschaftsvertrags und unzutreffende Anwendung von Art. 163 Abs. 3 OR gerügt hat. Zur Begründung führt das Kassationsgericht im wesentlichen aus, nach Art. 426 Abs. 2 ZP/SG sei die Nichtigkeitsbeschwerde gegen ein Urteil des Handelsgerichts nur insoweit zulässig, als das Erkenntnis nicht mit Berufung oder zivilrechtlicher Beschwerde beim Bundesgericht angefochten werden könne. Die vom Beschwerdeführer behauptete Verletzung von Bundesrecht wäre mit Berufung anfechtbar gewesen, hätten die Parteien nicht unter Ziffer 22 des Gesellschaftsvertrages gültig auf dieses Rechtsmittel verzichtet. Durch diesen Verzicht werde nicht eine Überprüfungsbefugnis des Kassationsgerichts anstelle derjenigen des Bundesgerichts geschaffen. Andernfalls könnten die Parteien die Kognition des Kassationsgerichts erweitern und mit der Nichtigkeitsbeschwerde Rügen erheben, die zwingendes Verfahrensrecht ausschliesse.

Der Beschwerdeführer wirft dem Kassationsgericht vor, es habe damit seine Kognition willkürlich eingeschränkt und ihm das rechtliche Gehör verweigert. Der vertragliche Ausschluss der Berufung könne nicht zu einer grösseren Beschränkung der Kognition des Kassationsgerichts führen, als wenn die Berufung aufgrund einer gesetzlichen Vorschrift ausgeschlossen sei. Überdies setze sich das Kassationsgericht in Widerspruch zu Art. 427 Ziff. 1 ZP/SG und zu seiner bisherigen Praxis. Schliesslich wäre es willkürlich, wenn der Beschwerdeführer wegen des im Jahr 1979 erklärten Verzichts auf die Berufung jeder Möglichkeit beraubt würde, eine Vertragsauslegung zu rügen.

a) Da nicht ein unmittelbar aus Art. 4 BV hergeleiteter, vom Bundesgericht frei zu prüfender Anspruch in Frage steht, namentlich keine Verletzung der verfassungsrechtlichen Minimalgarantie des rechtlichen Gehörs dargetan wird (BGE 112 Ia 5 E. 2b mit Hinweisen, BGE 111 Ia 274 E. 2a und 166 E. 2a mit Hinweisen), ist die Zuständigkeit des Kassationsgerichts ausschliesslich eine Frage des kantonalen Rechts, dessen Anwendung das Bundesgericht nur auf Willkür überprüft. Willkür im Sinn von Art. 4 BV liegt bei der Auslegung und Anwendung von Gesetzesnormen nicht schon dann vor, wenn eine andere Auslegung ebenfalls vertretbar oder gar zutreffender erschiene. Das Bundesgericht greift erst dann ein, wenn der angefochtene Entscheid offensichtlich unhaltbar ist (BGE 112 Ia 27 E. 1c mit Hinweisen).

b) Es ist offensichtlich haltbar, aufgrund von Art. 426 Abs. 2 ZP/SG die Überprüfung der Anwendung von Bundeszivilrecht durch das Kassationsgericht auf die Fälle zu beschränken, in denen eine Überprüfung durch das Bundesgericht von Gesetzes wegen ausgeschlossen ist. Weder Gründe der Gleichbehandlung noch Art. 427 Ziff. 1 ZP/SG gebieten es, auch derjenigen Partei eine Kontrollmöglichkeit durch das Kassationsgericht zu eröffnen, die freiwillig auf die Kontrolle durch das Bundesgericht verzichtet hat und sich deshalb nicht darüber beklagen kann, sie sei jeder Möglichkeit beraubt worden, eine Vertragsauslegung zu rügen. Art. 427 Ziff. 1 ZP/SG nennt zwar als Nichtigkeitsgrund unter anderem die Verletzung einer Bestimmung des Bundesrechts, die auf die Beurteilung der Streitsache von wesentlichem Einfluss ist. Dadurch wird jedoch die auf Fälle von Streitsachen unter Fr. 8'000.-- beschränkte Zulässigkeit der mit Nichtigkeitsbeschwerde anfechtbaren Verletzungen von Bundeszivilrecht (LUTZ, Kommentar, N. 6 zu Art. 426 ZP/SG) nicht erweitert. Unbehelflich ist auch der Hinweis auf ein früheres Urteil des Kassationsgerichts, räumt doch der Beschwerdeführer selbst ein, dass in jenem Entscheid die Berufung von Gesetzes wegen, also nicht zufolge eines vertraglichen Verzichts ausgeschlossen war. Der vorliegende Verzicht ist im übrigen nicht dem Vorausverzicht auf die Nichtigkeitsbeschwerde gleichzusetzen, den das Kassationsgericht im angefochtenen Urteil ausdrücklich als unzulässig erachtet. Der zu beurteilende Sachverhalt weist vielmehr eine Parallele zum in BGE 98 Ia 647 beurteilten auf, wo das Bundesgericht beim Verzicht auf die Anrufung einer oberen kantonalen Instanz aus ähnlichen Erwägungen wie das Kassationsgericht nicht auf eine staatsrechtliche Beschwerde eingetreten ist (S. 648 f. E. 2).

3. Schliesslich macht der Beschwerdeführer geltend, das Handelsgericht habe es in willkürlicher Anwendung von Art. 163 Abs. 3 OR und unter Verletzung der Rechtsgleichheit, der Verhältnismässigkeit und des Gebotes der schonenden Rechtsausübung abgelehnt, die auf Fr. 650'000.-- festgesetzte ruinöse Konventionalstrafe für Preisreduktionen zu ermässigen. Der umfangreichen Beschwerdebegründung lässt sich im wesentlichen entnehmen, dass der Beschwerdeführer dem Handelsgericht vorwirft, die Konventionalstrafe in Beziehung zum Gesamtumsatz von rund 1,4 Millionen Franken und nicht in Beziehung zu den tatsächlich gewährten Rabatten von lediglich Fr. 11'729.50 oder zum Umsatz von rund Fr. 280'000.-- gesetzt zu haben, den der Beschwerdeführer mit den Rabattlieferungen erzielt haben will. Gleich wie bei der auf Fr. 50'000.-- herabgesetzten Konventionalstrafe für überhöhte Preise hätte berücksichtigt werden müssen, dass viele Baustellen mit einer Menge unter 5 m3 Beton beliefert worden seien. Der Verdacht liege nahe, dass es den Beschwerdegegnerinnen mit der Konventionalstrafe darum gegangen sei, einen missliebigen Konkurrenten aus dem Weg zu schaffen.

a) Die Mitanfechtung des handelsgerichtlichen Urteils hält zwar vor dem Fristerfordernis von Art. 89 Abs. 1 OG stand, ist doch das Kassationsgericht wenigstens teilweise auf die Nichtigkeitsbeschwerde eingetreten (BGE 109 Ia 250 E. 1 mit Hinweisen); die Verfassungsrügen, die das Kassationsgericht nicht prüfen durfte, können an sich noch mit einer staatsrechtlichen Beschwerde gegen das handelsgerichtliche Urteil erhoben werden (BGE 104 Ia 83 E. 2b mit Hinweisen insbesondere auf BGE 94 I 462 E. 2a bb). Dagegen stellt sich die Frage, ob ein gültiger Verzicht auf das ordentlicherweise offenstehende Rechtsmittel der Berufung es auch ausschliesst, das Urteil des Handelsgerichts anstelle der Berufung mit staatsrechtlicher Beschwerde wegen verfassungswidriger Anwendung von Bundeszivilrecht anzufechten. Das ist in Anlehnung an den Grundgedanken von BGE 98 Ia 648 f. E. 2, wonach ein Verzicht auf die Weiterziehung an eine kantonale Rechtsmittelinstanz eine staatsrechtliche Beschwerde gegen den unterinstanzlichen Entscheid ausschliesst, zu bejahen. Bereits in BGE 66 I 175 f. hat das Bundesgericht angenommen, dass eine staatsrechtliche Beschwerde wegen Willkür nicht mehr möglich ist, wenn die Parteien vereinbart haben, ihre Streitigkeit durch eine einzige kantonale Instanz beurteilen zu lassen. Dass die Gesellschafter im vorliegenden Fall nicht auf eine kantonale Rechtsmittelinstanz verzichtet haben, macht für die Zulässigkeit der staatsrechtlichen Beschwerde keinen Unterschied.

b) Wie das Kassationsgericht geht auch der Beschwerdeführer davon aus, dass gültig im voraus auf die Berufung an das Bundesgericht verzichtet worden sei. Das lässt sich auf eine alte Rechtsprechung stützen, die einen solchen Vorausverzicht zulässt, wenn ein Streitobjekt vorliegt, über das die Parteien frei verfügen können (so schon BGE 33 II 207 f. E. 5, BGE 48 II 133 f. E. 3; BIRCHMEIER, Bundesrechtspflege, S. 76 N. 2d; GULDENER, Schweizerisches Zivilprozessrecht, 3. Aufl. 1979, S. 502; zur Schranke der Verzichtsmöglichkeit BGE 79 II 236 ff. E. 3). Demgegenüber sind die höchstpersönlichen und unveräusserlichen subjektiven Rechte der Parteidisposition entzogen und damit als Prozessgegenstand einem Rechtsmittelverzicht nicht zugänglich. Dazu zählen etwa persönliche Status- und Familienrechte (BGE 79 II 237), gewisse Persönlichkeitsrechte (im wirtschaftlichen Bereich namentlich die Schutzrechte aus Art. 27 ZGB) oder die unverjährbaren und unverzichtbaren Grundrechte (BGE 74 I 283 f.). Ein in diesem Sinne unzulässiger Verzicht auf die Berufung könnte jedoch nicht dazu führen, dass anstelle der Berufung die staatsrechtliche Beschwerde zuzulassen wäre, sondern hätte vielmehr zur Folge, dass trotz Verzichts auf eine Berufung eingetreten werden müsste. Eine solche Berufung aber hätte hier im Anschluss an das handelsgerichtliche Urteil erhoben werden müssen; die Frage einer allfälligen Umdeutung der staatsrechtlichen Beschwerde in eine Berufung (vgl. BGE 110 II 56 E. 1a mit Hinweis) stellt sich deshalb nicht, weil die Berufungsfrist nicht eingehalten wäre. Damit kann das Bundesgericht auch nicht prüfen, ob im vorliegenden Fall eine unzulässige Beschränkung der wirtschaftlichen Persönlichkeitsrechte des Beschwerdeführers angenommen werden könnte.

c) Selbst wenn angenommen würde, der Berufungsverzicht schliesse die staatsrechtliche Beschwerde nicht aus, wäre darauf nicht einzutreten. Die Ausführungen über die Herabsetzung der Konventionalstrafe genügen den Anforderungen an die Substantiierung nicht (BGE 110 Ia 3 f. E. 2a mit Hinweis).