A. Le 23 janvier 2012, le Tribunal correctionnel de la Broye et du Nord vaudois a acquitté X. des infractions de lésions corporelles simples, lésions corporelles simples qualifiées, tentative de remise de substances nocives à des enfants, vol commis au préjudice d'un proche, dommages à la propriété, injure, menaces, tentative de viol, tentative de contrainte sexuelle et infraction à l'art. 19^bis LStup (RS 812.121) et l'a condamné pour vol, tentative de vol, utilisation frauduleuse d'un ordinateur, infraction et contravention à la LStup à une peine privative de liberté de 120 jours, sous déduction de 120 jours de détention avant jugement. Il a mis des frais arrêtés à 17'261 fr. 30 à la charge de X., ainsi qu'un cinquième de l'indemnité due à son défenseur d'office, à condition que sa situation financière s'améliore. Le tribunal a alloué à X., à la charge de l'Etat, une indemnité pour tort moral de 72'000 fr. avec intérêt à 5 % l'an dès le 16 janvier 2012.

B. Par jugement du 27 septembre 2012, la Cour d'appel pénale du Tribunal cantonal vaudois a partiellement admis les appels du Ministère public et de X. Elle a fixé l'indemnité due par l'Etat de Vaud au recourant à 40'740 fr. et ordonné la compensation de ce montant avec les frais mis à la charge du recourant par 17'261 fr. 30, le solde finalement dû au recourant s'élevant à 23'478 fr. 70. (...)

C. X. forme un recours en matière pénale au Tribunal fédéral contre ce jugement. Il conclut, sous suite de frais et dépens, à la réforme du jugement entrepris en ce sens que les frais de justice mis à sa charge s'élèvent à 2'852 fr. 25 et que l'indemnité qui lui est due par l'Etat s'élève à un total de 52'770 fr., avec intérêt à 5 % l'an dès le 16 janvier 2012, la compensation de ces montants n'étant pas prononcée. Il requiert par ailleurs l'assistance judiciaire.

Invités à déposer des observations sur le recours, la cour cantonale y a renoncé en se référant aux considérants de son arrêt, alors que le Ministère public a conclu à son rejet. X. a renoncé à se déterminer sur ces écritures.

(extrait)

Extrait des considérants:

5.1 Aux termes de l'art. 442 al. 4 CPP, les autorités pénales peuvent compenser les créances portant sur des frais de procédure avec les indemnités accordées à la partie débitrice dans la même procédure pénale et avec des valeurs séquestrées. Conformément au Message, repris par une grande partie de la doctrine, la créance de la collectivité portant sur les frais de procédure ne peut être compensée qu'avec l'indemnité accordée à la partie débitrice, mais non avec la réparation du tort moral allouée à celle-ci (Message du 21 décembre 2005 relatif à l'unification du droit de la procédure pénale, FF 2006 1318 ad art. 450; cf. aussi BENJAMIN F. BRÄGGER, in Basler Kommentar, Schweizerische Strafprozessordnung, 2011, n° 2 ad art. 442 CPP; MICHEL PERRIN, in Commentaire romand, Code de procédure pénale suisse, 2011, n° 10 i.f. ad art. 442 CPP; NIKLAUS SCHMID, Schweizerische Strafprozessordnung [StPO], Praxiskommentar, 2009,n° 7 ad art. 442 CPP; ANGELA CAVALLO, in Kommentar zur Schweizerischen Strafprozessordnung [StPO], Donatsch/Hansjakob/Lieber[éd.], 2010, n° 15 ad art. 442 CPP). Cette interprétation est par ailleurs confirmée par le texte même de la disposition qui indique queles "indemnités" peuvent faire l'objet d'une compensation. Cette notion renvoie aux let. a et b de l'art. 429 al. 1 CPP (indemnité pour les dépenses occasionnées et indemnité pour le dommage économique) mais non à la let. c (réparation du tort moral). Cette même différence est opérée dans le texte italien (art. 429 al. 1 let. a et b CPP: "indennità"; let. c: "riparazione del torto morale"; et 442 al. 4 CPP: "pretese d'indennizzo") et de manière encore plus claire dans le texte allemand (art. 429 al. 1 let. a et b CPP: "Entschädigung"; let. c: "Genugtuung"; art. 442 al. 4 CPP: "Entschädigungsansprüchen"). Elle est en outre conforme à la nature plutôt personnelle que patrimoniale de l'indemnité pour tort moral et à son but visant à compenser le préjudice que représente une atteinte au bien-être moral (cf. ANGELA CAVALLO, op. cit., n° 15 ad art. 442 CPP). Au demeurant, elle ne viole pas le principe de la compensation prévu à l'art. 120 CO qui est une institution reconnue pour être générale, mais qui peut être exclue par le législateur (cf. MOOR/POLTIER, Droit administratif, vol. II, 3^e éd. 2011, p. 105 et les références citées).

5.2 Contrairement à ce qu'affirme la cour cantonale, l'interdiction de compenser les frais avec une indemnité pour tort moral ne s'adresse pas uniquement aux autorités de recouvrement, mais également aux autorités pénales. Elle a donc violé l'art. 442 al. 4 CPP en ordonnant la compensation du montant des frais mis à la charge du recourant avec l'indemnité pour tort moral. En revanche, l'art. 442 al. 4 CPP permet la compensation des frais mis à la charge du recourant avec l'indemnité pour les dépenses occasionnées par l'exercice raisonnable des droits de procédure (art. 429 al. 1 let. a CPP). La cour cantonale peut ainsi compenser les frais mis à la charge du recourant avec l'indemnité pour les dépenses occasionnées par l'exercice raisonnable des droits de procédure, plus particulièrement celle allouée en remboursement des frais de décision relative à sa détention avant jugement (cf. consid. 6 non publié), mais non avec l'indemnité pour tort moral. Il convient de renvoyer la cause à la cour cantonale pour qu'elle corrige ses calculs au sens de ce qui précède.