Aus dem Tatbestand:

A.- Das Steuergesetz des Kantons Schwyz vom 28. Oktober 1958, das am 1. Januar 1959 in Kraft getreten ist, sieht in § 97 eine Steueramnestie vor. Danach wird der Steuerpflichtige, der bei der Haupteinschätzung 1959 innerhalb bestimmter Frist die Bestandteile des Einkommens und des Vermögens vollständig und genau angibt, von der Entrichtung von Steuern und Nachsteuern für die Zeit vor dem Jahre 1959 befreit, wenn und soweit im Zeitpunkt der Abgabe der Steuererklärung nicht bereits mit seinem Wissen ein Nachsteuerverfahren hängig ist.

Erfüllt der Steuerpflichtige die Voraussetzungen dieser Amnestie, so wird er "auch von den Straffolgen der Hinterziehung der Wehrsteuer befreit, wenn er für das nachträglich angegebene Einkommen und Vermögen die Wehrsteuer im einfachen Betrage nachvergütet, soweit die Strafverfolgung der Hinterziehung dieser Steuer im Zeitpunkt des Erwerbs des Amnestieanspruches gegenüber dem Kanton noch nicht verjährt ist." (Anschlussamnestie, Art. 5 BB vom 22. Dezember 1954 über die Ausführung der Finanzordnung 1955 bis 1958 in Verbindung mit Art. 8 der Übergangsbestimmungen der BV).

B.- Fabrikant X. machte von der Amnestie Gebrauch, indem er in der Steuererklärung für die Steuerjahre 1959/60 (lo. Periode der Wehrsteuer) bisher nicht bekannt gegebene Vermögenswerte, insbesondere beträchtliches Barvermögen, deklarierte. Auf Anfrage teilte er der kantonalen Steuerverwaltung mit, er habe das Barvermögen vor dem Kriege durch Berufstätigkeit erworben und seither im Tresor verwahrt.

Die eidgenössische Steuerverwaltung vermutete, diese Darstellung entspreche nicht der Wahrheit, sondern diene der Tarnung nicht versteuerten Einkommens der Konjunkturjahre 1951 ff., wofür noch Nachsteuern gefordert werden könnten, während dies für Einkommen früherer Jahre wegen Verjährung nicht mehr möglich wäre. Sie veranlasste daher die kantonale Steuerverwaltung, vom Steuerpflichtigen die Beantwortung eines ausführlichen Fragebogens und die Einreichung von Bescheinigungen verschiedener Banken zu verlangen. X. widersetzte sich dieser Auflage und erhob Beschwerde beim kantonalen Finanzdepartement.

In der Folge kam es zu Verhandlungen zwischen dem Steuerpflichtigen und den kantonalen Behörden. Das kantonale Finanzdepartement regte an, dass die Streitigkeit gütlich erledigt werde, "in Anbetracht der seinerzeit den Steuerpflichtigen gegebenen Versprechen, dass die Amnestierenden loyal behandelt würden". Die kantonale Steuerverwaltung prüfte die Buchhaltung des Steuerpflichtigen für die Geschäftsjahre 1957 und 1958; sie fand darin nichts, das gegen die Gewährung der Amnestie gesprochen hätte. Der Steuerpflichtige hielt an seiner Darstellung fest, doch erklärte er sich schliesslich bereit, von einem Teil des neu angegebenen Barvermögens für jedes in Frage kommende Jahr einen Ertrag zu versteuern. Die kantonale Steuerverwaltung stimmte diesem Vorschlag zu und verzichtete auf weitere Untersuchungsmassnahmen. Sie berechnete die für die 7., 8. und 9. Wehrsteuerperiode nachzuzahlenden Steuern sowie die Steuer für die 10. Periode gemäss der getroffenen Vereinbarung. Bussen wegen Hinterziehung wurden nicht ausgesprochen.

Die eidgenössische Steuerverwaltung fand sich mit dieser Erledigung nicht ab und zog daher die Verfügungen der kantonalen Steuerverwaltung an die kantonale Rekurskommission weiter. Diese wies die Beschwerde ab. Sie betrachtete die Darstellung des Steuerpflichtigen als glaubwürdig und fand ausserdem, dass weitere Untersuchungsmassnahmen, wie die Beschwerdeführerin sie verlangt hatte, gegen Treu und Glauben verstossen würden, nachdem den Steuerpflichtigen zugesichert worden sei, dass die Amnestie loyal gehandhabt werde.

C.- Die eidgenössische Steuerverwaltung erhebt Verwaltungsgerichtsbeschwerde mit dem Antrag, der Entscheid der Rekurskommission sei aufzuheben und die Angelegenheit an diese zurückzuweisen "zur Vornahme gehöriger Untersuchungsmassnahmen für die Ermittlung des Einkommens des Steuerpflichtigen der Jahre 1951 bis 1958 und zur neuen Entscheidung".

Die Beschwerdeführerin macht u.a. geltend, der Grundsatz von Treu und Glauben könne hier nicht massgebend sein; sollten kantonale Stellen Zusicherungen, wie sie behauptet werden, abgegeben haben, so könnte der Steuerpflichtige sich darauf nicht berufen, weil das Gebot der gleichmässigen gesetzlichen Steuererhebung vorgehe.

D.- Der Steuerpflichtige und die kantonalen Behörden beantragen Abweisung der Beschwerde.

Das Bundesgericht folgt diesem Antrag.

4. Der Steuerpflichtige und die kantonalen Behörden machen geltend, die von der eidgenössischen Steuerverwaltung verlangte zusätzliche Untersuchung würde auch einen Bruch gegebener Zusicherungen und damit einen Verstoss gegen den Grundsatz von Treu und Glauben bedeuten. Diese Auffassung ist begründet.

a) Allerdings ist im Verwaltungsrecht im allgemeinen das Gesetz und nicht eine von ihm abweichende Zusicherung einer Verwaltungsbehörde massgeblich. "Der Grundsatz der Gesetzmässigkeit verlangt, dass die Steuerbehörde nach dem Gesetz und nicht nach der dem Gesetz widersprechenden Auskunft entscheide" (Rechenschaftsbericht des Verwaltungsgerichts des Kantons Zürich 1960, S. 105 f.; IMBODEN, Schweizerische Verwaltungsrechtsprechung, 2. Aufl., S. 205 Nr. 54 I; ASA Bd. 30 S. 459 f.).

Indessen ist auch im Verwaltungsrecht der Grundsatz von Treu und Glauben zu beachten. Insbesondere ist anerkannt, dass nach dieser Regel eine unrichtige Auskunft, welche die Verwaltungsbehörde dem Bürger erteilt und auf die er sich verlassen hat, unter gewissen Umständen bindend ist (BGE 72 I 81,BGE 76 I 190, BGE 88 I 148, BGE 89 I 435; GIACOMETTI, Allgemeine Lehren des rechtsstaatlichen Verwaltungsrechts, S. 289 ff.). Voraussetzung dafür ist, dass die Amtsstelle, welche die unrichtige Auskunft gegeben hat, für die Auskunfterteilung zuständig war, dass der Bürger die Unrichtigkeit des Bescheides nicht ohne weiteres hat erkennen können und dass er im Vertrauen auf die Auskunft eine nicht wieder rückgängig zu machende Disposition getroffen hat (IMBODEN, a.a.O. II und III).

Diese Grundsätze gelten auch im Wehrsteuerrecht. Der Steuerpflichtige kann sich auf eine unrichtige Auskunft verlassen, die ihm von der zuständigen Behörde erteilt wurde, von ihm als bindend entgegengenommen werden durfte und ihn zu Massnahmen veranlasste, die er sont unterlassen hätte (PERRET/MASSHARDT, Kommentar zur eidg. Wehrsteuer, N. 21 zu Art. 1 WStB; KÄNZIG, Die eidg. Wehrsteuer, N. 20 zu Art. 2 WStB). In Betracht kommen nicht nur Mitteilungen an den einzelnen Steuerpflichtigen, sondern auch öffentliche Wegleitungen (KÄNZIG a.a.O.).

b) Im Kanton Schwyz wurden auf Veranlassung des kantonalen Finanzdepartementes an verschiedenen Orten öffentliche Versammlungen durchgeführt, an denen die kantonale Steuerverwaltung die Bürger über Voraussetzungen und Wirkungen der Amnestie aufklärte, um bestehende Unklarheiten zu beseitigen. Dabei wurde zugesichert, die Amnestie werde loyal gehandhabt, ohne dass unnötige Nachforschungen nach der Herkunft neu angegebener Werte angestellt würden. Ferner orientierte die kantonale Steuerverwaltung die Steuerpflichtigen durch ein Zirkular "Fragen zur Steueramnestie", worin sie u.a. ausführte: "Um die Nachsteuern für die Wehrsteuer berechnen zu können, wird den Amnestie-Benützern ein Fragebogen zugestellt werden, auf welchem die Art des Einkommens und Vermögens in der massgebenden Zeitperiode anzugeben ist... Über die Herkunft des amnestierten Vermögens werden keine Nachforschungen erhoben, soweit die ordentliche Veranlagung für die kantonalen Steuern, also Einschätzung 1959/60 und die Erhebung der Nachsteuern gemäss Amnestie-Beschluss für die Wehrsteuer dies nicht erfordert."

Sodann wurde in einer Konferenz, die auf Wunsch des kantonalen Gewerbeverbandes am 30. April 1959 stattfand, seitens der kantonalen Steuerverwaltung u.a. folgendes zugegesichert: Wenn ein Bürger ein angeblich aus einer Erbschaft stammendes Vermögen neu anmeldet, so ist er nicht zu näheren Angaben über die Herkunft der Werte verpflichtet. Wenn er erklärt, er habe das Geld in bar im Kassenschrank aufbewahrt, und den Nachweis dafür natürlich nicht erbringen kann, so wird diese Angabe akzeptiert, sofern das Vermögen nicht aus Erwerbseinkommen der Jahre 1951-1957 stammt. Wenn der Pflichtige sich über die Herkunft von Vermögen in Form von Wertschriften, Bargeld, Gold usw. nicht ausweisen kann, begnügt sich die Steuerverwaltung mit der Ausfüllung des speziellen Formulars, ohne weitergehende Nachforschungen anzustellen.

Diese Auskünfte wurden von der zuständigen Instanz erteilt, nämlich von der kantonalen Steuerverwaltung, die zugleich als Wehrsteuerverwaltung handelte. Sie konnten ohne weiteres als Versprechen verstanden werden, dass über die Herkunft neu deklarierter Barbeträge nur die im Amnestieformular vorgesehenen Auskünfte erteilt werden müssten und keine weiteren Nachforschungen durchgeführt würden, wenn der Steuerpflichtige erkläre, das Vermögen stamme nicht aus Einkommen der Jahre 1951-1957, er sei aber nicht in der Lage, sich näher darüber auszuweisen. Allerdings ist die kantonale Steuerverwaltung im Bestreben, der Amnestie zu einem vollen Erfolg zu verhelfen, mit ihren Zusicherungen etwas über die gesetzliche Ordnung hinausgegangen. Sie war nach Wehrsteuerrecht verpflichtet, gegen Steuerpflichtige, die sich auf die Amnestie beriefen, ein Hinterziehungsverfahren durchzuführen. Sie durfte nicht zum voraus in allgemeiner Form den Verzicht auf bestimmte Massnahmen erklären für den Fall, dass der Steuerpflichtige einen summarisch gehaltenen Fragebogen ausfülle und gewisse negative Erklärungen abgebe. Allein die Steuerpflichtigen durften sich in guten Treuen auf die Auskünfte verlassen, die von der zuständigen Behörde wiederholt erteilt und von keiner Seite dementiert worden waren. Die Auskünfte betrafen neu geschaffenes Recht, das zudem eine einmalige Ausnahmesituation begründete. In solchen Fällen ist der Bürger in besonderem Masse auf den Schutz seines Vertrauens in Auskünfte der Behörde angewiesen (IMBODEN, a.a.O. II).

Wenn sich ergeben hätte, dass X. in seiner Amnestieerklärung unrichtige Angaben gemacht hatte, so hätte er freilich keinen Anspruch auf die Amnestie. Für solche Fälle hatte die kantonale Steuerverwaltung natürlich keine "loyale Behandlung" und keinen Verzicht auf gewisse Untersuchungsmassnahmen zugesichert. Indessen bestehen, wie ausgeführt (Erw. 3), keine genügenden Anhaltspunkte dafür, dass die Amnestieerklärung des X. unrichtige Angaben enthält.

Die Voraussetzungen, unter denen sich ein Bürger auf den Vertrauensschutz berufen kann, sind somit erfüllt. Auch der Rechtsbrecher hat Anspruch darauf, dass die Behörden nach dem Grundsatz von Treu und Glauben handeln. Wie im Strafprozess die Behörden gegenüber dem Verdächtigten oder teilweise Überführten alle Verfahrensvorschriften und unverletzlichen Persönlichkeitsrechte respektieren müssen und nicht auf krummen Wegen Schuldbeweise beibringen dürfen, so darf auch die Steuerverwaltung nicht durch Versprechungen, die dann nicht gehalten werden, den Steuerdefraudanten dazu bewegen, bisher nicht versteuerte Werte anzugeben, die er sonst weiterhin verheimlicht hätte.