Nel trattato " La Geometrie ", Cartesio espose la sua intenzione di voler fornire una base geometrica alle operazioni algebriche: mostrò che le operazioni aritmetiche corrispondono a semplici costruzioni effettuate con riga e compasso e che un problema geometrico poteva essere risolto traducendolo nel linguaggio di un 'equazione algebrica. Ne " La Geometrie " insegna anche come determinare il numero delle radici positive e negative mediante la famosa "regola dei segni di Cartesio ".

L'unico che potesse rivaleggiare con Descartes in abilità matematica era Fermat , anche se neppure egli era un matematico di professione .Scoprì il principio fondamentale della geometria analitica ,il quale fu il risultato dell'applicazione dell'algebra del Rinascimento a problemi della geometria antica . Successivamente mostrò che l'equazione xy =k2 rappresentava un'iperbole e che un'equazione della forma xy + a 2 = bx +cy era riconducibile ad una della forma xy= k2 mediante una traslazione degli assi del sistema di coordinate, inoltre ridusse altre equazioni in modo da ottenerne altre che rappresentavano parabole ,circonferenze ,ellissi , ecc... Purtroppo Fermat non pubblicò quasi nulla durante la sua vita . La sua esposizione era molto più sistematica e didattica di quella di Descartes . Inoltre la sua geometria analitica era un po' più vicina alla nostra per il fatto che essa le ordinate erano ortogonali rispetto alla linea delle ascisse . Verso il 1629 Fermat fece due significative scoperte che presentano una stessa relazione con la sua opera sui luoghi geometrici . La più importante fu descritta nel trattato "Metodo per trovare i massimi e i minimi". Fermat aveva considerato i luoghi geometrici espressi dalla forma y=xn essi perciò sono noti oggi con il nome di parabole di Fermat se n è positivo , o di iperboli di Fermat se n è negativo . Ma Fermat andò oltre. Per le curve algebriche della forma y= f( x ) elaborò un metodo molto ingegnoso per individuare i punti in cui la funzione assume un valore massimo o minimo . Confrontò il valore di f (x) in un certo punto con il valore f ( x+E ) in un punto vicino . Di solito questi valori risultano nettamente diversi ma nel punto più alto o più basso di una curva continua la differenza sarà quasi impercettibile . Per tanto per trovare i punti massimo e minimo Fermat uguagliò f (x) e f (x+E ) osservando che questi valori erano quasi uguali .Quanto più piccolo è l'intervallo E tra i due punti , tanto maggiormente la pseudo-uguaglianza si avvicina ad una vera e propria uguaglianza ; così Fermat, dopo aver diviso il tutto per E, pose E =0 . I risultati ottenuti gli diedero le ascisse dei punti massimo e minimo della curva algebrica . Questo procedimento era essenzialmente identico a quello che oggi viene chiamato differenziazione . E' dunque giusto riconoscere a Fermat il merito di creatore del calcolo differenziale. Fermat non possedeva minimamente il concetto di limite ma il suo metodo coincide perfettamente con quello oggi usato nel calcolo infinitesimale ; l'unica differenza è che oggi al posto dell' E di Fermat si usa il simbolo h o Dx. Inoltre Fermat scoprì il modo di applicare il suo procedimento per trovare i massimi e i minimi alla determinazione della tangente ad una curva algebrica della forma y= f(x) , ma non diede una spiegazione soddisfacente del suo metodo tanto che nel 1638 Descartes lo criticò come privo di validità generale . In seguito Descartes ammise la validità del metodo della tangente di Fermat, ma a questi non fu mai accordato il merito cui aveva diritto. I contributi di Fermat alla geometria analitica e all'analisi infinitesimale non erano che due aspetti della sua opera e forse non erano neppure i suoi argomenti favoriti .Un settore che esercitò su di lui un grande fascino fu la teoria dei numeri in particolare i numeri perfetti e i numeri amicabili, i numeri figurati ,i quadrati magici, le terne pitagoriche, la divisibilità e soprattutto i numeri primi . Fermat diventò il fondatore della moderna teoria dei numeri . Alcuni dei suoi teoremi vennero dimostrati con il metodo della "discesa infinita", una sorta di induzione matematica in senso contrario , procedimento che Fermat fu tra i primi ad usare . Egli lo usò anche per dimostrare che nessun cubo è divisibile in due cubi ossia che non esistono numeri interi positivi x , y e z tali che x3+ y3= z3 . Procedendo oltre Fermat enunciò la proposizione generale che se n è un numero intero maggiore di due non esistono valori interi positivi x, y e z tali che xn +yn = zn . Ammesso che Fermat avesse trovato tale dimostrazione essa è purtroppo ancora oggi sconosciuta . Molti matematici posteriori cercarono di dimostrare o confutare il teorema di Fermat e nel 1908 l'università di Gottinga in Germania stabilì un premio di 100.000 marchi per chi avesse trovato una soluzione entro il 13 settembre 2007 . Usando il computer il teorema è stato dimostrato per esponenti superiori a 125.000 ma una completa soluzione non è stata trovata . Nel giugno del 1993 , Andrew Wiles, un matematico inglese dell'università di Princeton dichiarò di aver dimostrato il teorema , ma nel dicembre dello stesso anno i revisori trovarono una lacuna nella dimostrazione che rimane irrisolta . Nonostante la difficoltà del problema di Fermat , esso rimane importante perchè i tentativi di trovare una soluzione hanno condotto a scoprite molto importanti sia in algebra che in analisi .

Mentre Fermat fu il "principe dei dilettanti" l'unico vero matematico di professione fu Gilles Persone de Roberval . Nel 1634 Roberval vinse la cattedra di matematica al college Royal grazie al metodo degli indivisibili. Non rivelò tale metodo , ma Roberval riuscì comunque a conservare la cattedra anche se non gli venne riconosciuto il merito di gran parte delle sue scoperte. Prima del 1634 Roberval dimostrò che l'area delimitata da un arco della cicloide è tre volte l'area del cerchio generatore e prima del 1638 trovò il modo di tracciare la tangente alla curva in un punto qualsiasi (problema risolto nello stesso periodo da Fermat e Descartes ) e trovò i volumi generati dalla rotazione dell'area delimitata da un arco intorno alla linea di base. Poco dopo trovò i volumi generati dalla rotazione dell'area intorno all'asse di simmetria .

Roberval non pubblicò le sue scoperte relative alla cicloide però quando Torricelli nel 1644 pubblicò un'opera intitolata "De Parabole" in appendice alla quale presentava tanto la quadratura della cicloide quanto la costruzione della tangente Roberval accusò Torricelli di plagio.

Oggi è chiaro che la priorità della scoperta spetta a Roberval, ma la priorità della pubblicazione va a Torricelli che probabilmente rifece indipendentemente la scoperta dell'area e della tangente. Sia Torricelli che Roberval applicarono il metodo cinematico anche ad altre curve per esempio la parabola e l'ellisse. Torricelli fece uso anche del metodo delle tangenti di Fermat per lo studio delle parabole di ordine superiore. A Roberval si attribuisce il primo tentativo di tracciare un semiarco di una sinusoide: era un fatto importante perchè indicava che la trigonometria si stava allontanando dall'impostazione calcolistica per avvicinarsi ad un metodo funzionale.

Torricelli è forse più famoso come inventore del barometro che come matematico. Studiò le traiettorie paraboliche di proiettili lanciati da un punto con velocità iniziale costante ma con vari angoli di elevazione. I successi ottenuti nel campo della geometria analitica e del calcolo infinitesimale fecero trascurare agli scienziati del tempo altri aspetti della matematica.

Tuttavia le coniche di Apollonio attirano l'attenzione di un uomo dedito all'attività pratica ma dotato di forte immaginazione teorica: Girard Desargues, architetto ingegnere militare di Lione. L'idea di Desargues era ricavata dalla prospettiva degli artisti del Rinascimento e dal principio di continuità di Keplero. Tutti sanno che un cerchio se guardato di sbieco presenta l'aspetto di un'ellisse o che il contorno dell'ombra di un paralume sarà un cerchio o un'iperbole a seconda che sia proiettata su un soffitto o su una parete. Forme e dimensioni mutano a seconda del piano di inclinazione che taglia il cono dei raggi visivi o luminosi, ma alcune proprietà restano immutate. Sono appunto tali proprietà che Desargues si mise a studiare. Come aveva fatto Keplero, Desargues assunse che la parabola ha un fuoco all'infinito. La trattazione delle coniche con metodi proiettivi fatta da Desargues costituiva una rottura con il passato e i matematici del tempo incapaci di accogliere i metodi della nuova geometria li combatterono tenacemente come poco rigorosi. Ancora oggi il nome di Desargues è legato soprattutto ad un teorema valido sia nel piano che nello spazio, uno dei principi fondamentali della geometria proiettiva di cui Desargues fu il profeta.