O "último teorema" de Fermat é talvez o mais famoso de todos os problemas ainda não resolvidos da Matemática, tanto por seu enunciado relativamente fácil quanto por ter uma história interessante. Esta história começa no século XVII, quando viveu o matemático francês Pierre de Fermat. Na "vida real", Fermat exerceu o cargo de juiz numa província do sul da França, mas o seu verdadeiro amor era a Matemática, à qual ele fez imensas contribuições. Sua obra trata de muitos assuntos, incluindo contribuições importantes às origens do Cálculo, por exemplo, mas a sua paixão especial era o estudo "das propriedades dos números" (como ele dizia), isto é, dos vários tipos de problemas sobre números inteiros que hoje fazem parte da "Teoria dos Números".

Na época de Fermat, o estudo das propriedades dos números inteiros não tinha ainda atingido a condição de ramo importante da Matemática. Apesar de vários matemáticos, como por exemplo Diofanto, nos tempos helenísticos, terem escrito sobre o tema, ainda não existia uma tradição bem definida de problemas nem de métodos.

Parece que foi exatamente a leitura de uma edição latina do livro de Diofanto que despertou em Fermat o interesse pelo assunto. De qualquer forma, a partir de certa data, Fermat começou a escrever cartas aos seus amigos matemáticos contando suas descobertas na área. As cartas incluíam toda sorte de coisas, desde resultados simples, como o "pequeno teorema de Fermat" (para todo inteiro a e todo primo p, o número a^p a é divisível por p), até fatos profundos, como a caracterização de quais inteiros podem ser escritos como soma de quadrados. Todos estes resultados devem ser considerados como o ponto de partida da Teoria dos Números moderna.

Infelizmente, o interesse de Fermat pelo assunto não era compartilhado por muitos outros matemáticos. Assim, Fermat nunca chegou a publicar formalmente suas investigações. E, como freqüentemente as cartas continham apenas enunciados e não demonstrações, os resultados de Fermat serviriam de desafio aos matemáticos do seu tempo e do futuro.

Com a morte de Fermat, houve grande preocupação em preservar seu trabalho matemático. Assim, a maioria das cartas foram publicadas, por exemplo. De especial interesse para a nossa história foi a publicação de uma edição de Diofanto reproduzindo as muitas anotações que Fermat havia feito nas margens. Estas anotações eram de vários tipos, e incluíam vários comentários sobre descobertas de Fermat que seriam depois divulgadas em cartas. A mais fa­mosa destas anotações, entretanto, é uma que não aparece em nenhuma das cartas. Ela se encontra à margem da página em que Diofanto estuda o problema de encontrar inteiros x, y e z tais que x² + y² = z² e acha infinitas soluções. Lá, Fermat escrevera o seguinte:

Por outro lado, é impossível separar um cubo em dois cubos, ou um biquadrado em dois biquadrados, ou em geral qualquer potência maior que a segunda em potências do mesmo grau; descobri uma demonstração realmente maravilhosa deste fato que esta margem é pequena demais para conter.

Em linguagem moderna, a asserção é que as equações xⁿ + yⁿ = zⁿ não têm soluções em inteiros positivos para nenhum expoente n 3. (É claro que existem as soluções meio bobas em que um dos três números x, y e z é zero; essas não contam.)

De início, a asserção de Fermat não parece ter atraído tanta atenção. Afinal, havia uma montanha de afirmações a demonstrar. Aos poucos, entretanto, e especialmente depois que Euler se interessou pelo assunto, todas as outras asserções de Fermat foram sendo demonstradas, e esta sobrou: ninguém conseguia demonstrá-la, e até hoje ninguém conseguiu. Por isso, ela ficou conhecida como o "último teorema de Fermat" — não o último a ser proposto, mas o único que ainda espera uma demonstração.

É claro que em tantos anos vários resultados parciais foram sendo obtidos. De início, tentou-se atacar o problema caso-por-caso, na esperança de que um princípio geral começasse a surgir. Assim,

•   O próprio Fermat publicou uma demonstração (uma das duas únicas que ele publicou) de um fato que mostra que a asserção é verdade para n = 4. Ele provou que a equação  x⁴+y²=z⁴  não tem solução em inteiros positivos, donde segue que x⁴ + y⁴ = z⁴ também não tem, já que y⁴ = (y²)².

•   Euler tratou o caso n = 3  no século XVIII, confirmando que não há soluções nesse caso. A demonstração de Euler era intrincada, e muitos matemáticos manifestaram dúvidas, de modo que o caso só ficou mesmo resolvido quando Gauss deu uma outra demonstração mais conceituai (usando números complexos!).

•   O caso  n = 5   foi demonstrado por Dirichlet já no século XIX.

•   O caso   n = 6   segue dos anteriores: se existissem  x, y  e  z  tais que x⁶ + y⁶ = z⁶, então x², y² e z² seriam uma solução de X³ + Y³ = Z³, o que contradiz o fato de que esta não tem solução pelo teorema de Euler.

•   O caso n = 7 foi tratado em 1839 por Lamé (que vai voltar à cena em breve).

• O caso  n = 8  segue do caso  n = 4,  já que a equação x⁸ + y⁸ = z⁸ pode ser escrita como (x²)⁴ + (y²)⁴ = (x²)⁴.

O que acontece para n = 4 e n = 6 nos alerta para um fato geral: sempre que formos tratar de um n que tem um divisor m para o qual o teorema já tenha sido provado, basta usar o truque de escrever xⁿ como (x^k)^m (onde n = mk) para ver que o teorema para n segue do teorema para m. Como todo número maior ou igual a três ou tem um fator primo ímpar (se não for potência de 2) ou é divisível por quatro (se for), basta provar o teorema para n = 4 e para n = p um primo ímpar. Como n = 4 já foi feito, resta considerar o caso dos primos ímpares. É claro, entretanto, que não basta simplesmente ir considerando um primo por vez (porque nunca chegaríamos ao fim!): é preciso uma idéia que funcione em geral.

A princípio, não pareceu aos matemáticos do século XIX que houvesse idéias comuns entre as várias demonstrações que mencionamos acima. Entretanto, um exame mais profundo revelou que elas todas, no fundo, podiam ser interpretadas em termos de uma espécie de aritmética de números complexos. Tendo percebido isso, Lamé propôs uma demonstração geral usando este método. Ficou, entretanto, uma dúvida: na sua demonstração, Lamé pressupunha que a "aritmética de números complexos" tinha as mesmas propriedades da aritmética usual. Liouville ficou desconfiado, e escreveu a Kummer, que respondeu com uma demonstração de que a pressuposição de Lamé era falsa. Apesar disso, Kummer conseguiu salvar (em parte) a idéia, e provou que a equação x^p + y ^p = z^p não tem soluções em inteiros sempre que p for um "primo regular" (que não vamos definir porque é um conceito bem técnico).

Este resultado foi importante, em primeiro lugar, porque foi o primeiro resultado de caráter geral: em vez de dizer que Fermat tinha razão para um n específico, ele dá uma condição que pode ser verificada em cada caso. Em segundo lugar, parece que a "maioria" dos primos é regular. Por exemplo, o primeiro primo que não é regular é 37, e só há três primos entre 1 e 100 que não são regulares. Infelizmente, ninguém conseguiu ainda provar que há muitos primos regulares (não se sabe nem mesmo se há infinitos). E, por uma dessas ironias da vida, não é muito difícil provar que há infinitos primos que não são regulares...

Bom, qual é a situação hoje?

•   Em primeiro lugar, conhecemos muitos métodos para estudar o caso de primos específicos. Assim, sabemos que a asserção de Fermat está correta para primos até   125.000.   Mas isso não ajuda a obter respostas gerais.

•   Em segundo lugar, há um teorema provado em 1983 pelo matemático alemão G. Faltings. Este teorema, quando aplicado ao problema de Fermat, garante que para cada n há no máximo um número finito de soluções da equação xⁿ + yⁿ = zⁿ (em inteiros dois-a-dois primos entre si). Nem isto se sabia! Mas entre um número finito de soluções e nenhuma, há uma certa distância. Afinal,   10⁶²⁰  é um número finito...

•   Além dos resultados concretos, há várias idéias novas que podem dar fruto.

Por exemplo, talvez seja possível obter uma versão do teorema de Faltings que dê um limite explícito para o número de soluções (os especialistas chamam isso de uma "versão efetiva"). Outra idéia importante envolve uma ligação entre possíveis soluções de x^p + y^p = z^p e um outro tipo de objeto matemático (uma "curva elíptisa"). A idéia é que a curva assim obtida tem umas propriedades muito estranhas; se fosse possível provar que uma tal curva não existe, seguiria que nenhuma solução pode existir. Finalmente, há uma conjetura razoavelmente elementar (a "Conjetura abe") da qual segue que Fermat tinha razão. Só que ninguém parece ter nenhuma idéia sobre como provar a conjetura...

Todas as idéias recentes sobre o problema envolvem teorias profundas e difíceis: geometria algébrica aritmética, curvas modulares, superfícies aritméticas. São assuntos ainda misteriosos, mas que estão sendo investigados com vigor. Qualquer uma das idéias ainda pode vingar. O campo está aberto para progressos.

Para terminar, há duas perguntas que todo mundo faz:

•   Fermat tinha ou não uma demonstração? Só se pode conjeturar a respeito, é claro, mas é muito provável que a resposta seja não. O próprio fato de que Fermat nunca mencionou o problema em sua volumosa correspondência já sugere que ele descobriu um erro na sua idéia original. A "demonstração maravilhosa" teria que ser algo deveras maravilhoso para nos ter iludido a todos por três séculos. Mas, de qualquer forma: que diferença teria feito uma
margem mais larga!

•   Quão importante é o problema? Isso é um pouco mais difícil de responder. À primeira vista, o problema não parece muito importante: não se liga a muitas outras questões de Teoria dos Números, não tem conseqüências importantes. Mas, por outro lado, o simples fato da asserção de Fermat ter permanecido por tantos anos como desafio aberto aos matemáticos, tentadora mas inatingível, sugere que talvez algo de sutil e profundo esteja escondido nela. Só o conteúdo da demonstração, maravilhosa ou não, é que nos dará a
resposta.