A Berlinben született, de szüleivel együtt tízéves korában Franciaországba emigrált Alexander Grothendiecket a huszadik századi matematika egyik legjelentősebb alakjának tartják. Édesapja, Alexander Shapiro oroszországi zsidó volt, akit az 1905-ös sikertelen forradalomban betöltött szerepéért Szibériába száműztek. 1917-ben szabadult, de hamar szembekerült Leninnel. Élete innentől kezdve egy folyamatos vándorlás volt. Alexander Shapiro Németországban találkozott az anarchista aktivistával, Hanka Grothendieckkel. Hitler hatalomra jutása után természetesen menekülniük kellett, így a család Párizsba, majd dél-Franciaországba került. 

Az anyja családnevét viselő Alexander Grothendieck autodidakta matematikus volt, aki először az egyetemen kapott szisztematikus képzést, de így is nagyon gyorsan kitűnt elképesztő tehetsége. 1955-ben doktorált a Nancy Egyetemen. Gyenis Zalán, a Rényi Alfréd Intézet kutató-matematikusa szerint:

úttörő munkássága hatalmas hatással volt a matematika számos területére.

A vörös könyvként is emlegetett doktori disszertációját, amely üstökösszerű tudományos pályafutását megalapozta, a funkcionálanalízis a második világháború utáni egyik legjelentősebb munkájaként tartják számon. Érdeklődése később megváltozott, az algebrai geometriában és homologikus algebrában elért eredményeiért, valamint a topologikus K-elmélet megalapozásáért 1966-ban elnyerte az egyik legrangosabb matematikai díjat, a Fields-érmet. Gyenis szerint "kategóriaelméleti szemléletmódja (sémák, toposz-elmélet) egyebek mellett a matematika megalapozásában, a matematikai logikában is jelentős szereppel bírnak."

Még negyven éves sem volt ekkor, és kutatóintézete, az IHÉS (Institut des Hautes Études Scientifiques) kora egyik legjelentősebb tudományos műhelyévé vált. Olyan, később nagyon jelentős tudományos pályát befutó diákokkal dolgozott együtt, mint Michel Demazure, Luc Illusie, Michel Raynaud, Jean-Louis Verdier és Pierre Deligne.

Politikai aktivizmusa, anarchizmusa és pacifista elvei miatt egyre többször komoly döntéshelyzetekbe kényszerült. 1970-ben átmenetileg

visszavonult, miután megtudta, hogy az IHÉS kutatóintézetet részben a hadsereg finanszírozza.

A különféle egyetemeken és kutatóintézetek (Collége de France és a Montpellier-i Egyetem) professzori állásokat ajánlott neki, de ő matematika helyett sokszor csak társadalmi témákról és a háborúról volt hajlandó előadni, ráadásul ezt a trükköt akadémiai konferenciákon is gyakorta eljátszotta, így mindinkább eltávolodott a matematikai közösségtől.

1977-ben politikai szervezkedés vádjával letartóztatták és hat hónapos, felfüggesztett börtönbüntetésre ítélték. 1998-ban vonult vissza végleg és ismeretlen helyre távozott, csak egy postafiókot tartott fent egy kis faluban a Pireneusokban. 2000-ben két fiatal francia matematikus találkozott vele, de 2005-ben egy kollégájuknak már nem sikerült felvenni a kapcsolatot vele. Élete vége felé egyre zavarosabb elméleteket fejtegetett az ördögről és az emberiséget uralma alá hajtó kis csoportokról. 

A világháború során Németországban megsemmisült az születési adatait és anyakönyvét is tartalmazó levéltár, ő pedig soha sem kérvényezte sem a német, sem a francia állampolgárságot, így élete jelentős részében jogilag hontalan maradt. Robert Capa-hoz hasonlóan egy Nansen útlevelet használt az utazásaihoz.

Akit részletesebben érdekel Alexander Grothendieck élete, az mindenképpen olvassa el Tábor Áron nekrológját a sciencemeetupon, a 444 tudományos blogján.