Tolstoi Andrey Vasilievich Tolstoy fia. Gazdaként 1682-ben szolgált a bíróságon; Idén május 15-én, a Streltsy-lázadás napján energikusan cselekedtek a Miloslavskékkal és az íjászokat emelték, és azt kiabálták, hogy “a Naryshkin megfojtotta Ivan Csarevicsot”.
Sophia hercegnő bukása nyomán Tolstoi hirtelen megváltoztatta a frontot, és átment Péter cár oldalára, de utóbbi nagyon visszafogottan viselkedett Tolstoi ellen; a király bizalmatlanságát nem rontotta Tolstoi katonai érdeme a 2. Azov-kampányban. 1697-ben a cár “önkénteseket” küldött külföldi doktrínákra, és Tolstoi, már érett éveiben, önként vállalta, hogy tengeri ügyeket tanulmányoz. Az Olaszországban töltött két év közelebb hozta Tolstoi a nyugat-európai kultúrához. 1701 végén Tolstoyt kinevezték Konstantinápoly megbízottjává, egy fontos, de nehéz posztra, amely szintén eltávolította Tolstoi őt az udvarból. 1714-ben visszatérve Oroszországba, Tolsztoj felállította a mindenható Menshikovot, és szenátornak nevezték ki. 1715 – 1719 között Tolstoi különféle diplomáciai missziókat hajtott végre dán, angol és porosz ügyekben.
Tolstoi 1717-ben fontos szolgálatot adott a cárnak, amely örökre megerõsítette pozícióját: Nápolyba küldték, ahol Tsarevich Aleksey és a Tolstoi Euphrosyne szeretõje abban az idõben rejtõzködött, utóbbi segítségével ügyesen megkerülte a Tsarevicsot, és megfélemlítéssel és hamis ígéretekkel nyugtatta rá. Oroszországba. A Tsarevics nyomozásában és tárgyalásában való aktív részvételéért Tolstoyt birtokoknak ítélték el és a titkos iroda vezetõjére helyezték, amely akkoriban különösen sok munkát végzett, a pleszkák és nyugtalanságok miatt, melyeket Tsarevich Aleksej sorsa okozott az emberek között.
Azóta Tolstoi a szuverén egyik legközelebbi és legmegbízhatóbb személyévé vált. Tolstoy tengerentúli utazásainak naplója megmaradt 1697-1699-ben. Ez egy tipikus példa azokról a benyomásokról, amelyeket Nagy Péter emberei készítettek Nyugat-Európában való találkozásukról. Ezenkívül 1706-ban Tolstoi összeállította a Fekete-tenger részletes leírását.