Έφυγε από την Πετρούπολη στις 19 Αυγούστου 1822 έχοντας λάβει άδεια αορίστου χρόνου από τον Τσάρο, διατηρώντας ακόμη την επιθυμία να αποσυρθεί από την ενεργό υπηρεσία. Πέρασε από την Φρανκφούρτη, από την λουτρόπολη Εμς και, τέλος, έφθασε στην Γενεύη.
Στη Γενεύη, αντί να εγκατασταθεί σε κάποιο μέγαρο αντάξιο της θέσης και του τίτλου του – σημειωτέον ότι ήταν και επίτιμος πολίτης της Γενεύης - προτίμησε να νοικιάσει δύο δωμάτια στην οδό Δημαρχείου 10. Ξόδευε 30 φράγκα για το ενοίκιο και περίπου 200 φράγκα το μήνα για αυτόν και τον υπηρέτη του, παρόλο που ο μισθός του ήταν 60000 φράγκα το μήνα. Όλα τα υπόλοιπα χρήματα τα επένδυσε ώστε να μπορεί να βοηθάει τους Έλληνες στον αγώνα τους.
Αυτός που είχε ζήσει στα παλάτια του Τσάρου, αυτός που ως Υπουργός Εξωτερικών του Τσάρου είχε επηρεάσει ουσιαστικά την εξέλιξη της Ευρώπης, ζούσε φτωχικά.
Χαρακτηριστικό παράδειγμα της λιτής του ζωής αποτέλεσε το περιστατικό που αναφέρει η βαρόνη Charlotte de Sor, το οποίο συνέβη όταν ο Καποδίστριας ήταν στη Γενεύη: «Μιά ημέρα, στη διάρκεια μιάς εγκάρδιας συνομιλίας, μου είπε με εκείνη την αξιολάτρευτη απλότητα που τον διέκρινε: 'Εκπλήττεσθε γιατί έχω διαλέξει αυτά τα δύο πενιχρά δωμάτια στο σπίτι της κυρίας Lamotte ... Μα ο λόγος είναι ότι μου στοιχίζουν μονάχα 30 φράγκα το μήνα και ασφαλώς δεν ξέρετε ότι για τη συντήρηση και των δύο μας (και του υπηρέτη του) δεν πρέπει να ξεπεράσουμε το ποσόν των 6 φράγκων την ημέρα.' Χονδρά δάκρυα ύγραναν τα μάτια μου και του έσφιξα το χέρι με συγκίνηση: 'Είσθε αξιοθαύμαστος', του είπα βαθιά συγκλονισμένη. 'Μα όχι, κυρία μου, απλώς είμαι συνεπής προς τον εαυτό μου! Αυτό είναι όλο. Όταν όλα τα διαβήματα και οι ενέργειές μου, όλες οι γραπτές μου εκκλήσεις ζητούν από τις γενναιόδωρες ψυχές ψωμί και ενδύματα για τους συμπατριώτες μου, όταν, αφού χτύπησα τις πόρτες των παλατιών των πλουσίων, χτύπησα μετά και τις πόρτες των καλυβών των φτωχών, για να συλλέξω τον οβολό του φτωχού, πρέπει να ημπορώ να τους λέω με παρρησία: Έδωσα τα πάντα πριν ζητήσω και τη δική σας βοήθεια για τους αδελφούς μου'. Και πραγματικά είχε δώσει τα πάντα. Είχε γενναιόδωρα δαπανήσει όλη την αξιόλογη περιουσία του για να υπερασπιστεί την πατρίδα του και δεν κράτησε για τον εαυτό του παρά τα απολύτως αναγκαία για την επιβίωσή του».
Στη Γενεύη γνωρίστηκε με τον Ιωάννη-Γαβριήλ Εϋνάρδο και τη γυναίκα του Άννα. Ο Εϋνάρδος ήταν πλούσιος τραπεζίτης και στάθηκε πολύτιμος σύμβουλος και φίλος όχι μόνο για τον Καποδίστρια αλλά και για όλο το Ελληνικό έθνος. Η συμπαράστασή του στον αγώνα των Ελλήνων ήταν τεράστια.
Για σχεδόν δύο χρόνια που έμεινε στην Γενεύη συγκέντρωσε πληροφορίες για τον αγώνα των Ελλήνων, φρόντισε τα ορφανά της Ελλάδος που κατέκλυσαν την Ευρώπη, στρατολόγησε φιλέλληνες, έστειλε πολεμοφόδια και τρόφιμα, έγραψε οδηγίες στους αγωνιζόμενους έλληνες.
Ίδρυσε φιλελληνικές επιτροπές και σχολεία σε όλες τις ευρωπαϊκές πόλεις.
Την 1η Δεκεμβρίου 1825 ο Τσάρος Αλέξανδρος Α’ πέθανε. Ο νέος Τσάρος Νικόλαος ο Α’ σκλήρυνε τη στάση του έναντι της Τουρκίας με το τελεσίγραφο που απέστειλε στην Πύλη, ζητώντας την επαναφορά του καθεστώτος που ίσχυε έως το 1821 στις παραδουνάβιες ηγεμονίες.
Το 1826 ταξίδεψε στο Παρίσι.
