A.- Rastislav Kubac wurde vom Obergericht des Kantons Zürich am 24. März 1972 mit fünf Monaten Gefängnis und einer Busse bestraft. Von der Untersuchungshaft wurden ihm 60 Tage angerechnet. Bei seiner bedingten Entlassung am 13. November 1972 hatte er insgesamt 100 Tage der Strafe verbüsst.

Am 27. Mai 1975 verurteilte ihn das Zürcher Obergericht zu 42 Tagen Gefängnis. Den bedingten Strafvollzug verweigerte es ihm, weil schon die objektiven Voraussetzungen hiefür fehlten. Auch in subjektiver Hinsicht beständen schwerste Bedenken, doch könne diese Frage offen gelassen werden.

B.- Mit Nichtigkeitsbeschwerde beantragt Kubac, das obergerichtliche Urteil aufzuheben, soweit es den bedingten Strafvollzug verweigert, und die Sache an die Vorinstanz zum Entscheid zurückzuweisen, ob ihm aus subjektiven Gründen der bedingte Vollzug gewährt werden könne.

Obergericht und Staatsanwaltschaft verzichten auf Gegenbemerkungen.

1. Der Beschwerdeführer hat im kantonalen Verfahren immer auf Freispruch plädiert und selbst im Berufungsverfahren auch nicht eventualiter um Gewährung des bedingten Strafvollzuges nachgesucht, obwohl er schon von der ersten Instanz zu einer unbedingten Gefängnisstrafe verurteilt wurde. Sein Antrag vor Bundesgericht auf Gewährung des bedingten Strafvollzuges ist daher neu. Da aber das Obergericht als Berufungsinstanz die Frage nach kantonalem Recht von Amtes wegen geprüft hat, ist auf die Beschwerde einzutreten (BGE 85 IV 119 f.).

2. Der Aufschub des Strafe gemäss Art. 41 StGB ist u.a. dann nicht zulässig, "wenn der Verurteilte innerhalb der letzten fünf Jahre von der Tat wegen eines vorsätzlich begangenen Verbrechens oder Vergehens eine Zuchthaus- oder eine Gefängnisstrafe von mehr als drei Monaten verbüsst hat".

Der Beschwerdeführer hatte, die angerechnete Untersuchungshaft eingerechnet, in der Zeit vom 21. April 1971 bis zu seiner bedingten Entlassung am 13. November 1972 insgesamt 100 Tage, also mehr als drei Monate Gefängnisstrafe innerhalb der 5 Jahre, bevor er am 7. Mai 1974 erneut straffällig wurde, verbüsst. Die frühere Strafe wurde, wenigstens zur Hauptsache, wegen vorsätzlichen Verbrechen und Vergehen ausgesprochen.

3. Der Beschwerdeführer macht geltend, die 60 Tage Untersuchungshaft habe er nicht in der Strafvollzugsanstalt verbracht, sodass er nur 40 Tage, also weniger als drei Monate, Gefängnisstrafe verbüsst habe. Die Untersuchungshaft diene nicht der Erziehung des Häftlings und könne daher dem Strafvollzug im Sinne dieser Bestimmung nicht gleichgesetzt werden, auf keinen Fall dann, wenn zwischen Untersuchungshaft und Strafvollzug eine gewisse Zeit verstrichen sei.

Dieser Meinung kann nicht gefolgt werden. Die Anrechnung der Untersuchungshaft gemäss Art. 69 StGB bedeutet nach ständiger Rechtsprechung, dass die Strafe in dem Umfang, in dem die angerechnete Haft gedauert hat, als getilgt gilt und nur noch für den allenfalls nicht erstandenen Teil zu vollstrecken ist (BGE 90 IV 70 /1 sowie BGE 84 IV 9 und Zitate). Der angerechneten Untersuchungshaft wird mit andern Worten die rechtliche Wirkung der Strafvollstreckung beigelegt. Insoweit ist die Untersuchungshaft einer verbüssten Strafe rechtlich gleichgestellt. Niemand wird behaupten, dass derjenige, dem die Untersuchungshaft so angerechnet worden ist, dass nichts mehr zu vollstrecken ist, die Strafe nicht verbüsst habe. Vernünftigerweise kann nicht das Gegenteil gelten, wenn nach Anrechnung der Untersuchungshaft ein Teil der Strafe noch zu verbüssen bleibt. Die gesetzliche Bedeutung der Anrechnung der Untersuchungshaft bleibt die gleiche, auch wenn sie sich zum Nachteil des Verurteilten auswirkt.

Demnach erkennt das Bundesgericht:

Die Nichtigkeitsbeschwerde wird abgewiesen.