Il joue ensuite six mois à l’US Carouge où il se fait très vite repérer et engager par l’équipe espoir d’Etoile Carouge. En 2002, lors du Tournoi de Chambéry, son talent n’échappe pas aux émissaires du club français de Louhans-Cuiseaux qui lui proposent de rejoindre leur centre de formation. Il continue sa progression durant la saison suivante ce qui lui vaut de recevoir plusieurs propositions de clubs français. Il choisit l’équipe B d’En Avant Guingamp qui offre aussi un contrat à son frère. Il y joue deux ans, mais les derniers mois sont difficiles. Alors qu’il se blesse, son frère est écarté de l’équipe. Cependant, Matias Vitkieviez est décidé à honorer son contrat jusqu’au bout, malgré une certaine tension avec le club breton. En 2005, il revient à Genève et signe à Etoile Carouge. Alors que l’équipe de la Fontenette et le Servette FC tiennent les premiers rôles dans le championnat de première ligue et accèdent tous les deux aux finales, seul le Servette FC obtient sa promotion en Challenge League. Cependant, la grinta ainsi que les qualités de buteur et de passeur de Matias Vitkieviez ne passent pas inaperçues. Les dirigeants grenat ne s’y trompent pas et lui proposent un premier contrat.