Dnes je známá především rivalita mezi Karpovem a jeho nástupcem, Garrim Kasparovem, s nímž vedl dlouholetý gigantický souboj o titul (1984–1990) a posléze nepřímý souboj o prestiž dvou konkurenčních titulů. Jejich první zápas (1984, hraný na 6 vítězství) FIDEukončila po 48 partiích za stavu 5:3 pro Karpova, ovšem v okamžiku, kdy Karpov začal prohrávat (v jednom okamžiku už Karpov vedl 5:0) neboť už podle ní trval příliš dlouho. Kontroverzní rozhodnutí FIDE ukončit zápas a později jej opakovat od nuly oba šachisté označovali za

nespravedlivé a velice přispělo k napětí mezi nimi.

O rok později se zápas opakoval za změněných podmínek (24 partií) a Karpov prohrál 11:13.

Karpov svůj gigantický boj o titul s Kasparovem odmítal vzdát. Střetl se s ním o něj ještě třikrát, v letech 1986 (11,5:12,5), 1987(12:12) a 1990 (11,5:12,5). Jejich rivalita až nenávist měly i politické pozadí, Kasparov považoval Karpova za chráněncenomenklatury a nesnášel ho i po rozpadu Sovětského svazu („Nemám rád nacionalisty, komunisty ani fašisty, a proto nemám rád ani jeho. On je nacionální komunista.“).

Mistr světa FIDE

Po vystoupení Kasparova z FIDE (1993) se stal bez souboje se svým rivalem mistrem světa v šachu podle FIDE (1993–1999), avšak prestiž tohoto titulu byla pochybná, když uvážíme, že nejsilnější šachisté té doby opustili FIDE, jejíchž šampionátů se nadále neúčastnili, a založili konkurenční organizaci PCA s vlastním šampionátem. Kasparov s Karpovem měli svést ještě jeden nepřímý souboj: souboj o prestiž svých titulů.

Zpočátku to ještě vypadalo pro FIDE a Karpova velmi dobře: v roce 1994 se on i Kasparov zúčastnili superturnaje v Linares, kterého se zúčastnila prakticky celá šachová špička (byl to první turnaj XVIII. kategorie v historii, průměrné ELO hráčů bylo 2685). Kasparov vzhledem k impozantnímu obsazení turnaje prohlásil, že vítěz se bude moci právem nazývat „šampión turnajů“. Toto první nepřímé měření sil, které mělo též porovnat sílu obou šampiónů a prestiž obou titulů, skončilo fantastickým Karpovovým vítězstvím. Předvedl nejlepší turnajový výkon své kariéry, turnajem prošel bez porážky a s 11 body ze 13 možných předstihl 2.-3. Kasparova a Širova o neuvěřitelných 2,5 bodu (byl to největší procentní náskok vítěze turnaje nejvyšší třídy od Aljechinova vítězství v Sam Remu v roce 1930). Některá Karpovova vítězství představovala absolutní vrchol šachového mistrovství, výhru nad Topalovem mnozí kometátoři považují za nejlepší partii jeho života. Vnitroturnajový ELO rating Karpova (ELO vypočítané na základě výsledků pouze tohoto turnaje) dosáhl neuvěřitelných 2985 bodů, což je dodnes nepřekonaný rekord.

Tento slibný začátek však postupně zvadl. Stárnoucí Karpov postupně slábl, zatímco Kasparov sílil. V druhé polovině 90. let už nebylo pochyb o tom, že se situace změnila, zatímco Kasparov nezpochybnitelným způsobem dominoval turnajům a téměř vždy končil první, Karpov končil za ním, často až v hloubi tabulky. Karpov obhájil svůj titul v roce1996 v zápase s Kamským (+6-3=9), nicméně prestiž jeho titulu dále upadala a množily se i kritiky, že Karpova krom zápasového mistrovství drží u titulu i obrovské zvýhodnění úřadujícího mistra světa, který nemusí absolvovat vyčerpavající turnaje a zápasy, kterými prochází vyzyvatel, a v případě remízy navíc zůstává u titulu.

FIDE, čelící stále silnějšímu tlaku a ovlivněná i klesající prestiží titulu, se nakonec rozhodla způsob zápasů reformovat. První reforma ovšem podle kritiků Karpova ještě více zvýhodnila – kandidáti se stále museli k němu probojovat a on nastupoval odpočatý až ve finále k malému zápasu. V roce 1998 remizoval s Ánandem (+2-2=2), aby ho pak vyřadil v tiebreaku 2:0 (tiebreak byl ve srovnání s předchozím systémem jediným zlepšením z pohledu vyzyvatele). Karpovovi v té době patřila 6. příčka v TOP ELO listině.^[1]Kritika systému mistrovství poté ještě zesílila a FIDE nakonec pod tlakem rozhodla, že od roku 1999 se mistr světa musí účastnit soutěží kandidátů. Karpov se poté další obhajoby titulu vzdal.