🤖The Greats

Foi coautor do artigo de 1986 que popularizou a retropropagação para treinamento de redes neurais, depois passou décadas como um dos poucos crentes consistentes do aprendizado profundo durante dois invernos de IA, até que AlexNet de seu aluno venceu a competição ImageNet de 2012 e remodelou o campo quase da noite para o dia.

“Persistir com uma ideia fora de moda através de repetidas rejeições pode valer a pena quando a evidência, e não a moda, a alcançar.”

Construiu a rede neural convolucional no Bell Labs no final da década de 1980 e fez com que ela lesse cheques manuscritos comercialmente na década de 1990 - uma implantação funcional de aprendizagem profunda mais de quinze anos antes do avanço principal do campo. Agora, o principal cientista de IA da Meta e um cético vocal de que os modelos de linguagem de hoje levam à inteligência geral.

“Um sistema comprovado em uma implantação real ensina lições que nenhuma pontuação de benchmark pode – mesmo que o campo tenha evoluído.”

Modelagem avançada de linguagem neural e, com colegas, introduziu o mecanismo de atenção que alimentava diretamente a arquitetura do Transformer, ao mesmo tempo em que transformava Mila da Universidade de Montreal em uma das maiores concentrações mundiais de pesquisadores de aprendizagem profunda. Mais tarde, tornou-se uma das vozes mais proeminentes na área, clamando pela regulamentação dos riscos de IA.

“Construir uma tecnologia poderosa e alertar publicamente sobre os seus riscos não são posições contraditórias a defender de imediato.”

Ex-prodígio do xadrez e designer de videogame que foi cofundador do DeepMind em 2010, liderou as equipes que construíram o AlphaGo, o primeiro programa a vencer um jogador profissional de Go, e o AlphaFold, que previu a estrutura 3D de quase todas as proteínas conhecidas. Compartilhou o Prêmio Nobel de Química de 2024 para AlphaFold.

“Um sistema treinado apenas nas regras de um jogo restrito ainda pode surpreender os humanos que o construíram.”

Criou o ImageNet, um conjunto de dados rotulado manualmente com cerca de 14 milhões de fotografias do dia a dia, transformando o reconhecimento de imagens em uma competição anual mensurável; o sistema AlexNet que venceu em 2012 é amplamente considerado o responsável pelo início do boom do aprendizado profundo. Agora codiretor do Human-Centered AI Institute de Stanford.

“Um conjunto de dados pode ser tão importante quanto um algoritmo – às vezes, o trabalho pouco glamoroso da infraestrutura é o verdadeiro avanço.”

Cunhou o termo “inteligência artificial” enquanto organizava o workshop em Dartmouth em 1956, e depois inventou a linguagem de programação Lisp no ano seguinte, dando ao jovem campo o seu nome e, durante décadas, a sua principal ferramenta de investigação. Ganhou o Prêmio Turing de 1971 por fundar os fundamentos teóricos da área.

“Nomear um campo de forma decisiva pode moldar a sua identidade durante décadas, independentemente do que os seus fundadores realizarem nesse mesmo ano.”

Desenvolveu a frequência inversa de documentos em 1972 em Cambridge, o insight estatístico por trás do TF-IDF que ainda está subjacente à maioria dos mecanismos de pesquisa e a grande parte do processamento de linguagem natural, décadas antes dos modelos de aprendizagem profunda que agora dominam o campo. Uma defensora sincera e de longa data da entrada das mulheres na computação.

“Uma ideia estatística única e precisa pode durar mais que arquiteturas inteiras construídas décadas depois sobre ela.”