A.- A. (nachstehend: Kläger) mit Wohnsitz in der Schweiz und B. (nachstehend: Beklagter) mit Wohnsitz in Deutschland sind Brüder. Beide sind an der X. Gruppe beteiligt, zu der insbesondere die X. GmbH mit Sitz in Deutschland gehört. Am 18. Juni 1986 schlossen die Parteien eine als "Familienvertrag" bezeichnete Vereinbarung, welche später mehrfach ergänzt wurde. Diese Vereinbarung hatte zum Zweck, die Willensbildung in den beiden Familienstämmen der Parteien jeweils so zu vereinheitlichen, dass jeder Familienstamm nur mit einer Stimme sprechen kann und die Geschäftsführungsorgane entsprechend paritätisch zu besetzen sind. Im Mai 1996 wurde der Sohn des Klägers, C., als Geschäftsführer der X. GmbH eingesetzt. Diese Funktion wurde ihm in der Folge auf Begehren des Klägers wieder entzogen. Daraufhin verlangte der Beklagte unter Berufung auf den "Familienvertrag" die Wiedereinsetzung von C. als Geschäftsführer der X. GmbH.

B.- Am 23. August 1999 klagte der Kläger gestützt auf die Schiedsklausel im "Familienvertrag" beim Einzelschiedsrichter Dr. Bernhard Christ in Basel auf Feststellung, dass er nicht verpflichtet sei, der Ernennung von C. zum Geschäftsführer der X. GmbH zuzustimmen. Der Beklagte beantragte, auf die Klage nicht einzutreten, eventualiter sie abzuweisen. Zudem stellte er verschiedene Feststellungsbegehren bezüglich der Stellung von C. als zu rehabilitierendem Geschäftsführer.

Am 12. Oktober 2000 stellte der Beklagte beim Zivilgericht Basel-Stadt das Begehren, den Einzelschiedsrichter wegen Befangenheit abzulehnen. Dieses Begehren wies der Zivilgerichtspräsident Basel-Stadt mit Erkenntnis vom 2. April 2001 ab. Dagegen erhob der Beklagte sowohl eine kantonale als auch eine staatsrechtliche Beschwerde. Mit Letzterer beantragte er insbesondere die Anordnung vorsorglicher Massnahmen und die Sistierung des kantonalen Beschwerdeverfahrens. Diese Anträge wies das Bundesgericht mit Präsidialverfügung vom 10. Mai 2001 wegen Aussichtslosigkeit der Beschwerde ab. Daraufhin zog der Beklagte die staatsrechtliche Beschwerde zurück. Das Appellationsgericht des Kantons Basel-Stadt hiess die kantonale Beschwerde insoweit gut, als es den Kostenentscheid des Zivilgerichts bezüglich der Parteientschädigung für den Schiedsrichter aufhob. Im Übrigen hat das Appellationsgericht die Beschwerde abgewiesen, soweit es darauf eintrat.

Mit Urteil vom 12. Februar 2002 hiess das Schiedsgericht die Klage gut und wies die Rechtsbegehren des Beklagten ab.

Der Beklagte erhob Schiedsbeschwerde gemäss Art. 190 ff. IPRG (SR 291) mit den Anträgen, das Schiedsurteil vom 12. Februar 2002 sei aufzuheben und die Sache sei an den von den Parteien für Folgeschiedsverfahren nach dem Familienvertrag gemeinsam bestellten Einzelschiedsrichter Prof. Dr. Anton K. Schnyder zur Neubeurteilung zu verweisen. Zudem ersuchte der Beklagte darum, der Beschwerde die aufschiebende Wirkung zuzusprechen. Dieses Gesuch wurde mit Präsidialbeschluss vom 30. April 2002 abgewiesen.

Der Kläger und der Einzelschiedsrichter beantragen, auf die Beschwerde nicht einzutreten, eventualiter sie abzuweisen.

2.1 Der Beschwerdeführer rügt dem Sinne nach, das Zivilgericht habe zu Unrecht die Befangenheit des Schiedsrichters verneint, weshalb das Schiedsgericht vorschriftswidrig zusammengesetzt sei. Damit sei Art. 190 Abs. 2 lit. a IPRG verletzt, was im Rahmen der Anfechtung des Schiedsentscheides geltend gemacht werden könne. Der Beschwerdegegner und der Schiedsrichter machen geltend, der Entscheid des Zivilgerichts sei endgültig und könne daher vom Bundesgericht auch indirekt nicht mehr überprüft werden.

2.2 Soweit die Parteien das Ablehnungsverfahren nicht geregelt haben, entscheidet gemäss Art. 180 Abs. 3 IPRG der Richter am Sitz des Schiedsgerichts endgültig. Das Bundesgericht hat unter Berufung auf die Materialien erkannt, die Endgültigkeit solcher Entscheide bedeute, dass sie nicht direkt mit staatsrechtlicher Beschwerde angefochten werden können (BGE 122 I 370 E. 2). Offen gelassen wurde dagegen die Frage, ob unbesehen eines negativen Entscheids des staatlichen Richters der spätere Schiedsentscheid gestützt auf Art. 190 Abs. 2 lit. a IPRG wegen der Mitwirkung eines ablehnbaren Schiedsrichters angefochten werden kann oder ob diese Anfechtungsmöglichkeit auf Fälle beschränkt ist, in denen ein von den Parteien ernanntes Gremium über das Ablehnungsgesuch befand (BGE 122 I 370 E. 2d S. 373). Diese Möglichkeit der indirekten Anfechtung von Ausstandsentscheiden privater Gremien hat das Bundesgericht mit der Begründung zugelassen, eine Rechtsordnung müsse sich die Möglichkeit vorbehalten, Schiedsspruch und -verfahren auf ihre rechtsstaatliche Unbedenklichkeit zu überprüfen, wozu die Unparteilichkeit eines Schiedsrichters gehöre (BGE 118 II 359 E. 3b; vgl. auch Urteil des Bundesgerichts 4P.292/1993 vom 30. Juni 1994, E. 4). Da die Unparteilichkeit des Schiedsrichters bei einem Ausstandsentscheid gemäss Art. 180 Abs. 3 IPRG bereits von einem staatlichen Richter überprüft wurde, entfällt insoweit das Bedürfnis nach einer weiteren staatlichen Kontrolle. Gemäss der Zielsetzung der gesetzlichen Ordnung über die internationale Schiedsgerichtsbarkeit, die Anfechtungsmöglichkeiten in diesen Verfahren tunlichst zu beschränken (vgl. BGE 122 I 370 E. 2d S. 372), ist daher die Endgültigkeit des Entscheides gemäss Art. 180 Abs. 3 IPRG nach der herrschenden Lehre dahingehend zu verstehen, dass sie auch eine spätere Überprüfung des Ablehnungsentscheides des kantonalen Richters im Rahmen der Anfechtung des Schiedsgerichtsentscheides ausschliesst (WALTER/BOSCH/BRÖNNIMANN, Internationale Schiedsgerichtsbarkeit in der Schweiz, Kommentar zu Kapitel 12 des IPR-Gesetzes, S. 111; LALIVE/POUDRET/REYMOND, Le droit de l'arbitrage interne et international en Suisse, N. 12 zu Art. 180 IPRG; HEINI, in: IPRG-Kommentar, N. 20 zu Art. 190 IPRG; RÜEDE/HADENFELDT, Schweizerisches Schiedsgerichtsrecht, 2. Aufl., S. 187 Fn. 155; ANDREAS BUCHER, Le nouvel arbitrage international en Suisse, S. 116 Rz. 341; HANS PETER WALTER, Praktische Probleme der staatsrechtlichen Beschwerde gegen internationale Schiedsentscheide (Art. 190 IPRG), in: Bulletin SVS 19/2001 S. 2 ff., S. 12; GERHARD WALTER, Einige prozessuale Aspekte der internationalen Schiedsgerichtsbarkeit in der Schweiz, in: Etudes de droit international en l'honneur de Pierre Lalive, S. 699 ff., S. 704; derselbe, La loi suisse sur l'arbitrage international - Questions ouvertes sur les moyens de recours, in: SJ 1990 S. 384 ff., S. 385 Fn. 4; derselbe, Die internationale Schiedsgerichtsbarkeit in der Schweiz - Offene Fragen zu Kap. 12 des IPR-Gesetzes, in: ZBJV 126/1990 S. 161 ff., S. 168; a.M. PETER/FREYMOND, Basler Kommentar, N. 36 zu Art. 180 IPRG; PIERRE A. KARRER, Les rapports entre le tribunal arbitral, les tribunaux étatiques et l'institution arbitrale, in: Revue de droit des affaires internationales/International Business Law Journal 1989 S. 761 ff., S. 766; MARC BLESSING, The New International Arbitration Law in Switzerland, A Significant Step Towards Liberalism, in: Journal of International Arbitration 5/1988 Nr. 2 S. 9 ff., S. 41).

2.3 Aus dem Gesagten folgt, dass auf die Schiedsbeschwerde, welche sich inhaltlich alleine gegen den Ausstandsentscheid des Zivilgerichtspräsidenten richtet, nicht einzutreten ist.