Στις 12 Μαΐου 1827 έφθασε στην Πετρούπολη, μετά από γραπτή πρόσκληση του Τσάρου Νικόλαου Α’, διαδόχου του Τσάρου Αλεξάνδρου. Την πρόσκληση αυτή είχε λάβει ενώ βρισκόταν ακόμα στην Γενεύη. Ενώ βρισκόταν στον δρόμο προς την Πετρούπολη, έμαθε και για την απόφαση της Γ’ Εθνοσυνέλευσης που τον όριζε ως Κυβερνήτη της Ελλάδος. Ο Τσάρος Νικόλαος ο Α’ τον υποδέχθηκε με εξαιρετικές τιμές και εκδηλώσεις αγάπης. Του προσέφερε την παλιά του θέση, χρήματα και δια βίου αποκατάσταση.
Στις αρχές Ιουνίου έλαβε τα επίσημα αντίγραφα της Γ’ Εθνοσυνέλευσης σχετικά με την εκλογή του. Ο Καποδίστριας απεφάσισε να δεχθεί τον διορισμό και δεν τροποποίησε αυτή του την απόφαση.
Η αυτοκράτειρα μητέρα του Τσάρου Νικολάου, Μαρία Θεοδώρεβνα, τον πίεζε να μην αποδεχθεί την εκλογή του ως Κυβερνήτη της Ελλάδος λέγοντάς του: «Στην Ελλάδα θα διακινδυνεύσετε τη ζωή σας». Προφητικά λόγια! Ο Καποδίστριας όμως απάντησε: «Εάν δεν δεχθώ την εκλογή μου και η Ελλάς γονατίσει, τί θα πούν για μένα; Νά ένας άνθρωπος, που θα μπορούσε να τη σώσει και προτίμησε μιά λαμπρή θέση στη Ρωσία από τη σωτηρία της πατρίδας του και την άφησε να χαθεί. Αφιέρωσα τη νεότητά μου στην υπηρεσία του αείμνηστου μεγαλόψυχου γιού σας. Έτσι μπορώ σήμερα να προσφέρω στην Ελλάδα τη θυσία των γηρατειών μου!..»
Αλλά και στον Τσάρο, όταν προσπάθησε να του αλλάξει γνώμη, απάντησε: «Η απόφασή μου είναι αμετάκλητη. Πάνω απ' όλα ανήκω στη χώρα μου. Δεν έχω την ψευδαίσθηση να πιστεύω ότι εγώ μονάχος μπορώ να τη σώσω. Όταν βλέπω όμως σε ποιών ανθρώπων τα χέρια βρίσκεται τώρα η τύχη της, δεν μπορώ να αποκρύψω ότι διαθέτω περισσότερα μέσα απ' αυτούς. Πιστεύετε, μεγαλειότατε, ότι θα εγκατέλειπα μιά τόσο λαμπρή θέση, μιά τόσο ένδοξη υπηρεσία και μιά τέλεια εξασφάλιση στη Ρωσία ... εάν δεν ένιωθα ότι με προστάζει η επιτακτική ανάγκη των περιστάσεων της χώρας μου και η έλλειψη των ανθρώπων... Μην πιστέψετε καθόλου, μεγαλειότατε, ότι πηγαίνω στην Ελλάδα με τη ρωσική λιβρέα στους ώμους μου. Δεν είμαι εγώ εκείνος που θα σας βοηθούσε να στήσετε εκεί τις σημαίες σας και δεν είμαι εγώ εκείνος που θα σας δάνειζε το χέρι του για να επιτευχθεί ένα δεύτερο έγκλημα, σαν εκείνο του διαμελισμού της Πολωνίας!..»
Χρειάστηκε πέντε συνολικά ακροάσεις μέχρι να πείσει τον Τσάρο Νικόλαο να υπογράψει την παραίτησή του. Τελικά την 1η Ιουλίου 1827 η παραίτησή του υπεγράφη από τον Τσάρο. Δεν δέχτηκε ούτε την τιμητική σύνταξη των 60.000 φράγκων που του προσέφερε ο Τσάρος. Πούλησε ακόμη και τα έπιπλά του και έστειλε τα χρήματα στην αγωνιζόμενη Ελλάδα. Κανένας επίσημος δεσμός δεν τον συνέδεε πλέον με τη Ρωσία.
Έφυγε από την Πετρούπολη στις 15 Ιουλίου 1827 για να επισκεφθεί το Λονδίνο και το Παρίσι. Σκοπός του ήταν να επισκεφθεί τις ευρωπαϊκές αυτές πρωτεύουσες ώστε να εξασφαλίσει βοήθεια για το νεοσύστατο κράτος αλλά και να διαγνώσει τις απόψεις των μεγάλων δυνάμεων. Διαπίστωσε ότι η Ευρώπη δεν ήταν ευνοϊκά διακείμενη ως προς την αποκατάσταση της Ελλάδας σε ανεξάρτητο κράτος.
