6. Die Voraussetzungen für eine Aufhebung der Rente mittels der materiellen Revision gemäss Art. 17 Abs. 1 ATSG (SR 830.1) sind nach dem Gesagten nicht erfüllt. Ein Zurückkommen auf die rentenzusprechende Verfügung mittels prozessualer Revision oder Wiedererwägung im Sinne von Art. 53 Abs. 1 und 2 ATSG steht bei den hier gegebenen Verhältnissen nicht zur Diskussion. Damit bleibt im Rahmen der Rechtsanwendung von Amtes wegen zu prüfen, ob entgegen der vorinstanzlichen Beurteilung ein Anwendungsfall von lit. a Abs. 1 der am 1. Januar 2012 in Kraft getretenen Schlussbestimmungen der Änderung vom 18. März 2011 des Bundesgesetzes über die Invalidenversicherung (IVG; 6. IV-Revision, erstes Massnahmenpaket [AS 2011 5659]; nachfolgend: SchlBest. IVG) gegeben ist.

6.1 Gemäss lit. a Abs. 1 SchlBest. IVG werden Renten, die bei pathogenetisch-ätiologisch unklaren syndromalen Beschwerdebildern ohne nachweisbare organische Grundlage (nachfolgend: unklare Beschwerden, vgl. BGE 139 V 547 E. 2.1 S. 549; auch: unklare Beschwerdebilder, vgl. BGE 140 V 8 E. 2.2.1.3 S. 13) gesprochen wurden, innerhalb von drei Jahren nach Inkrafttreten dieser Änderung überprüft. Sind die Voraussetzungen nach Artikel 7 ATSG nicht erfüllt, so wird die Rente herabgesetzt oder aufgehoben, auch wenn die Voraussetzungen von Artikel 17 Absatz 1 ATSG nicht erfüllt sind (vgl. auch die hier nicht gegebenen Ausnahmetatbestände gemäss lit. a Abs. 4 SchlBest. IVG).

6.2 Das kantonale Gericht hat erwogen, die Rentenzusprechung habe in medizinischer Hinsicht nicht einzig auf der zu den unklaren Beschwerden zu zählenden psychischen Problematik beruht. Im Lichte des Urteils des Bundesgerichts 9C_308/2013 vom 26. August 2013 sei lit. a Abs. 1 SchlBest. IVG daher nicht anwendbar.

Nach dieser Betrachtungsweise soll lit. a Abs. 1 SchlBest. IVG nur dann zur Anwendung gelangen, wenn die Rente ausschliesslich aufgrund von unklaren Beschwerden zugesprochen wurde, nicht aber, wenn auch andere Gesundheitsschäden (nachfolgend: erklärbare Beschwerden) mitberücksichtigt wurden. Dem kann nicht gefolgt werden.

6.2.1 Auszugehen ist vom seit 1. Januar 2008 in Kraft stehenden Art. 7 Abs. 2 ATSG (AS 2007 5129). Gemäss dieser Bestimmung sind für die Beurteilung des Vorliegens einer Erwerbsunfähigkeit ausschliesslich die Folgen der gesundheitlichen Beeinträchtigung zu berücksichtigen. Eine Erwerbsunfähigkeit liegt zudem nur vor, wenn sie aus objektiver Sicht nicht überwindbar ist.

Mit der Einführung dieser Regelung im Rahmen der 5. IV-Revision wurde die auf den Leitentscheiden BGE 127 V 294 und BGE 130 V 352 basierende Rechtsprechung kodifiziert. Das heisst, es wird davon ausgegangen, dass Leistungsbeeinträchtigungen durch somatoforme Schmerzstörungen, Fibromyalgie und ähnliche Sachverhalte in der Regel mit einer zumutbaren Willensanstrengung überwindbar sind. Nur in Ausnahmefällen machen bestimmte Umstände, welche die Schmerzbewältigung intensiv und konstant behindern, den Wiedereinstieg in den Arbeitsprozess unzumutbar und liegt daher Erwerbsunfähigkeit vor (vgl. Botschaft vom 22. Juni 2005 zur Änderung des Bundesgesetzes über die Invalidenversicherung [5. IV-Revision], BBl 2005 4459, 4530 f. Ziff. 1.6.1.5.3, 4577 Ziff. 2.2.1; Botschaft vom 24. Februar 2010 zur Änderung des Bundesgesetzes über die Invalidenversicherung [6. IV-Revision, erstes Massnahmenpaket; nachfolgend: Botschaft 6. IV-Revision], BBl 2010 1817, 1841 Ziff. 1.3.1; BGE 140 V 8 E. 2.2.1.2 S. 12).

6.2.2 In zwei Leitentscheiden erkannte das Bundesgericht, weder die Rechtsprechung gemäss BGE 130 V 352 noch Art. 7 Abs. 2 ATSG bildeten einen Grund für die Anpassung bereits laufender Renten (BGE 135 V 201, 215). Der Gesetzgeber sah sich deswegen veranlasst, mit lit. a Abs. 1 SchlBest. IVG eine entsprechende rechtliche Grundlage für die Überprüfung laufender Renten zu schaffen (vgl. Botschaft 6. IV-Revision, a.a.O., 1841 Ziff. 1.3.1; BGE 140 V 8 E. 2.2.1.3 S. 13). Nach dieser Bestimmung sind auch laufende Renten - mit bestimmten, in lit. a Abs. 4 SchlBest. IVG genannten Ausnahmen - auf die Vereinbarkeit mit Art. 7 ATSG zu überprüfen und gegebenenfalls herabzusetzen oder aufzuheben, ohne dass hiefür ein Revisionsgrund im Sinne von Art. 17 Abs. 1 ATSG gegeben sein muss.

6.2.3 Mit lit. a Abs. 1 SchlBest. IVG sollen hinsichtlich unklarer Beschwerden die Bezüger laufender Renten gleich behandelt werden wie Versicherte, welche neu eine Rente beantragen. Gleich wie die Begründung einer neuen Rente soll sich damit auch die weitere Ausrichtung einer laufenden Rente nach Art. 7 ATSG - im Vordergrund steht dessen Abs. 2 - bestimmen. Wird diese Regelung nicht auf laufende Renten angewendet, welche sowohl für unklare als auch für erklärbare Beschwerden zugesprochen wurden, wären deren Bezüger bessergestellt als die Bezüger laufender Renten, welche nur auf unklaren Beschwerden beruhen. Sie wären aber auch gegenüber Versicherten bevorteilt, welche neu eine Rente sowohl für unklare als auch für erklärbare Beschwerden beantragen. Denn bei diesen gelangt Art. 7 Abs. 2 ATSG in Bezug auf die unklaren Beschwerden zweifellos zur Anwendung. Eine solche Ungleichbehandlung zugunsten der erstgenannten Bezügergruppe kann nicht Sinn und Zweck der lit. a Abs. 1 SchlBest. IVG sein. Von deren Anwendungsbereich sind daher laufende Renten nur auszunehmen, wenn und soweit sie auf erklärbaren Beschwerden beruhen.

Dieser Beurteilung steht auch BGE 139 V 547 E. 10 S. 568 f. nicht entgegen. Das dort Gesagte beschlägt zwar ausschliesslich unklare Beschwerden. Lassen sich solche von erklärbaren Beschwerden aber trennen, können die Schlussbestimmungen der 6. IV-Revision auf erstere Anwendung finden. Soweit E. 10.1.1 von BGE 139 V 547 (vgl. auch Urteile 9C_748/2013 vom 10. Februar 2014 E. 5.2 und 9C_307/2013 vom 21. August 2013 E. 5.1) anders verstanden werden sollte, ist dies zu präzisieren.

6.3 Im vorliegenden Fall zählen die in den Expertisen vom 19. August 2004 und 17. Mai 2011 aus psychiatrischer Sicht gestellten Diagnosen (anhaltende somatoforme Schmerzstörung resp. erschwerte Schmerzbeschwerdeverarbeitung mit auf Passivität und Aktivitätsvermeidung ausgerichtetem dysfunktionalem Fehlverhalten) zu den unklaren Beschwerden. Damit stellt sich im Lichte von lit. a Abs. 1 SchlBest. IVG in Verbindung mit Art. 7 Abs. 2 ATSG und der zugrunde liegenden Rechtsprechung die Frage, ob diese Beschwerden mit zumutbarer Willensanstrengung überwindbar sind. Die IV-Stelle des Kantons Zürich hat dies in der Verfügung vom 31. Mai 2012 bejaht. Sie stützt sich dabei namentlich auf das bidisziplinäre Gutachten vom 17. Mai 2011. Das ist nicht zu beanstanden. Weder liegt eine erhebliche Komorbidität vor, noch sind die übrigen in Betracht kommenden Gesichtspunkte in einer Weise erfüllt, welche auf die - nur ausnahmsweise anzunehmende - Unzumutbarkeit der willentlichen Schmerzüberwindung schliessen lassen (vgl. BGE 130 V 352 E. 2.2.3 S. 354 f.). Dementsprechend hat auch der psychiatrische Experte im Gutachten vom 17. Mai 2011 überzeugend dargelegt, dass sich aus der auf seinem Fachgebiet gestellten Diagnose keine dauerhafte Einschränkung der Arbeitsfähigkeit ergibt.

Als invalidisierend ist demnach nur die rheumatologisch bedingte Beeinträchtigung anzusehen. Der davon ausgehende Einkommensvergleich der Vorinstanz mit dem Ergebnis eines Invaliditätsgrades von 37 % wird nicht beanstandet und gibt keinen Anlass zu Weiterungen. Der für einen Rentenanspruch mindestens erforderliche Invaliditätsgrad von 40 % wird damit nicht mehr erreicht, weshalb die Rente zu Recht aufgehoben wurde. Die Beschwerde ist abzuweisen.