Quando o modelo já sabe a física

A inteligência artificial é frequentemente descrita como aprender um modelo a partir de dados. Essa é uma importante família de abordagens, não uma definição universal de inteligência. Em clima, oceanografia, sistemas de energia, processos industriais e muitos outros domínios físicos, equações, leis de conservação, condições de fronteira e décadas de conhecimento científico já existem. O verdadeiro desafio é frequentemente combinar esse conhecimento com observações esparsas, ruidosas e incompletas.

01 Uma previsão pode obedecer a todas as equações e ainda começar do mundo errado

Um modelo dinâmico descreve como um sistema evolui de um estado inicial. Escreva como dx/dt = F(x) com x(0) = x₀, onde o vetor de estado x(t) mora em ℝⁿ. Se esse estado inicial x₀ está errado, o modelo pode resolver suas equações perfeitamente e ainda assim produzir a trajetória errada. Em sistemas não lineares, como a atmosfera ou o oceano, pequenos erros no estado inicial crescem rapidamente — a propriedade definidora do caos determinístico e a razão pela qual uma previsão só é tão boa quanto sua inicialização.

As observações não resolvem o problema sozinhas. Satélites, bóias, radares e sensores medem somente variáveis selecionadas, em locais e horários selecionados, com incerteza. O estado completo do modelo pode conter milhões de valores; o vetor de observação geralmente é muito menor. Recuperar o estado completo e fisicamente consistente desses fragmentos não é interpolação — é inferência sob uma restrição, onde a restrição é o próprio modelo.

Este é o território de problemas inversos, e vale a pena ser formal sobre isso, porque o curso é. A modelagem matemática descreve um sistema por meio de equações — normalmente equações diferenciais ordinárias ou parciais — que envolvem parâmetros, condições iniciais e condições de contorno. Resolvê-los na direção natural é o direcionar (ou para frente) problema: dadas as entradas e os parâmetros, calcule a saída. Escrevendo um modelo como um mapa M : (x, p) ↦ y a partir de entradas x₀ e parâmetros p para produzir y, a inverso o problema é executar esse mapa de trás para frente: dado o conhecimento parcial de y, recuperar x e/ou p. Os problemas inversos surgem precisamente quando um sistema é apenas parcialmente conhecido, mas pode ser observado, e se deseja recuperar características que não são diretamente mensuráveis.

As aplicações estão em todos os pontos do curso: imagens médicas (tomografia de raios-X e ultrassom, elastografia), análise de imagens (desfocagem, remoção de ruído, pintura, restauração), geociências (tomografia sísmica, imagens radioastronômicas e assimilação de dados para previsão do tempo), processamento de sinais (deconvolução) e engenharia mecânica (detecção de rachaduras e outros testes não destrutivos). E há uma ponte para o aprendizado de máquina que o curso faz explicitamente: ajuste do modelo e identificação de parâmetros está problemas inversos. Regressão linear multivariada — recupere a matriz de coeficientes A em y = Ax dos pares observados, no sentido dos mínimos quadrados — é o mais simples. O mesmo enquadramento abrange o treinamento de redes neurais e a estimativa de parâmetros em modelos ODE e PDE, incluindo a calibração de gêmeos digitais.

Por que problemas inversos são difíceis: Hadamard e a instabilidade de executar um modelo de trás para frente

Em 1902, Jacques Hadamard introduziu a noção de problema bem-posto. Um problema é bem-posto quando três propriedades são satisfeitas: uma solução existe, é única e depende continuamente dos dados. Se qualquer uma delas falhar, o problema é mal-posto.

Existência e exclusividade são pré-requisitos intuitivos — sem exclusividade, até mesmo dados perfeitos podem não definir o que você deseja recuperar. A terceira condição, estabilidade, é sutil e consequente. Ele diz que uma pequena alteração nos dados — normalmente erro de medição — deve produzir apenas uma pequena alteração na solução reconstruída. Os problemas futuros geralmente são estáveis; os problemas inversos, porque geralmente correm contra a irreversibilidade ou a causalidade, geralmente não o são. A má postura é a regra, não a exceção.

O curso concretiza isso com o exemplo mais claro possível: diferenciação. Diferenciar é o inverso de integrar e é instável. Faça uma função suave f e perturbá-lo com uma pequena oscilação de alta frequência, f_δ,n(x) = f(x) + δ·sin(nx). A perturbação da função tem amplitude δ, que você pode fazer tão pequeno quanto quiser. Mas a perturbação de sua derivado tem amplitude δ·n, que cresce sem limites conforme a frequência n aumenta. Um erro arbitrariamente pequeno nos dados produz um erro arbitrariamente grande na resposta. A identificação de parâmetros em uma equação diferencial se comporta da mesma maneira: na equação unidimensional do calor −d/dx(a(x)·du/dx) = f, recuperando a condutividade desconhecida a a partir das medições de temperatura, é fácil de anotar, mas está mal posicionado sempre que o gradiente de temperatura desaparece — aí, não existe nenhuma solução.

A consequência prática é regularização: você adiciona informações prévias para restaurar a estabilidade, trocando um pouco de fidelidade aos dados ruidosos por uma solução que não explode. Isso não é um truque usado no final; é uma decisão de modelagem sobre o que você acredita antes de olhar. Manter essa ideia — de que a escolha do anterior é uma suposição deliberada e inspecionável — é a maior parte do que separa uma reconstrução defensável de um artefato que parece confiante.

02 Assimilação de dados: faça o modelo ouvir sem fazer com que ele esqueça

A assimilação de dados é o campo matemático na interface do modelo e da observação. Ele não solicita que os dados substituam o modelo ou que o modelo ignore os dados. Ele pede o estado que torne os dois tão compatíveis quanto possível — uma negociação controlada na qual o modelo contribua. dinâmica (quais evoluções são fisicamente possíveis), as observações contribuem correção (onde a trajetória simulada se afasta da realidade), e um conjunto de suposições estatísticas decide com que intensidade cada fonte deve ser confiável.

O curso ensina o campo como ele realmente existe: não um algoritmo, mas uma pequena família de classes de métodos, cada uma com uma barganha diferente entre otimização, suposições e custo.

• Métodos variacionais tratar a assimilação como minimizando uma função de custo. Barra 3D encontra a melhor estimativa de estado em um único momento; Var 4D encontra a melhor estimativa de estado em toda uma janela de assimilação e é formulada por meio da teoria do controle ideal. (o 3D-Var era o método operacional na Météo-France até 2000 — um lembrete útil de que o “estado da arte” tem uma data.)
• Métodos sequenciais alterne uma etapa de previsão com uma etapa de correção estatística. Interpolação ideal é fácil de implementar, mas fisicamente incoerente; o Filtro Kalman é a teoria da estimativa estatística ótima; variantes de conjunto e ordem reduzida (ENKF, a SEEK filtro) existem exatamente porque o filtro completo não é dimensionado — mais sobre isso abaixo.
• Métodos de cutucar adicione um termo de feedback às equações do modelo, puxando continuamente o estado simulado para as observações. Eles são, na linguagem da teoria do controle, observadoras — e foi aí que Blum e Auroux fizeram sua própria contribuição, o assunto do § 05.

O enquadramento honesto é o mesmo em que o curso insiste: um estado reconstruído é tão bom quanto a evidência e o mecanismo por trás dele. Construída de forma descuidada, a assimilação transforma suposições em conclusões. Bem construído, é uma forma de raciocinar rigorosamente sobre um sistema que você não pode observar completamente.

03 A otimização é a ponte — e é aqui que o currículo converge

A assimilação variacional de dados transforma a reconstrução em um problema de otimização, e esse é o ponto exato em que o curso de otimização da escola deixa de ser um pré-requisito a ser preenchido e se torna o motor do método. A função de custo 4D-Var, na notação que o curso usa, é

As incógnitas são o estado inicial x e os parâmetros do modelo u. O primeiro termo mantém a solução próxima de uma estimativa anterior. x_b (a experiência), ponderado pelo inverso da covariância do erro de fundo B. O segundo termo penaliza a lacuna entre a trajetória do modelo e as observações em cada momento tᵢ, ponderado pelo inverso da covariância do erro de observação Rᵢ, com o operador de observação Hᵢ mapeando o estado do modelo no espaço de observação. Minimizando J sujeito ao modelo dx/dt = F(x, u) é exatamente um problema de controle ideal: encontre a condição inicial e os parâmetros que produzem a trajetória mais consistente com as equações e as medidas.

Tudo o que o curso de Otimização Contínua cria é necessário aqui. A função de custo é um objetivo de valor real em um espaço de alta dimensão; o modelo é uma restrição; as normas ponderadas pela covariância são formas quadráticas; a convexidade (ou sua ausência) decide se o mínimo é global; e o minimizador é encontrado não por um inverso de forma fechada, mas por um método de gradiente iterativo. De uma só vez, o 3D-Var até admite a solução explícita x* = [B⁻¹ + HᵀR⁻¹H]⁻¹(B⁻¹x_b + HᵀR⁻¹x_obs) — e o curso tem o cuidado de indicar por que essa fórmula é inútil na prática: as matrizes são grandes demais para serem invertidas, então avalia-se J e seu gradiente e, em vez disso, os entrega a um algoritmo de otimização.

Isso levanta a questão de que todo o método ativa: como você obtém o gradiente de J com relação a um vetor de controle que pode ter dezenas de milhões de componentes? Diferenças finitas exigiriam uma execução de modelo por componente — totalmente impossível. A resposta é a método adjunto: execute o modelo avançado uma vez e, em seguida, integre um adjunto modele para trás pela janela, escolhendo um termo forçador em cada momento de observação e leia o gradiente completo da solução adjunta. O custo é uma solução direta mais uma resolução inversa, independente da dimensão do vetor de controle. Esse único fato é o que torna viável a assimilação variacional em grande escala.

O curso não esconde o quanto isso é exigente, e vale a pena destacar dois de seus avisos, porque são exatamente o tipo de detalhe que separa um sistema em funcionamento de um plausível:

• O adjunto do modelo discretizado não é a discretização do adjunto contínuo. Derivar as equações adjuntas no papel e depois discretizá-las dá a incorreto gradiente; a rota correta é diferenciar diretamente o modelo discreto (na prática, via diferenciação automática — tangente linear para a derivada direta, adjunto para a reversa). “Diferenciar, depois discretizar” e “discretizar, depois diferenciar” não se deslocam, e inverter isso é uma fonte de erro clássica e silenciosa.
• Para um modelo não linear, J geralmente não é convexo. Ela pode ter vários mínimos locais, então o resultado depende de onde a otimização começa e de um prazo de regularização — α‖x₀ − x₀_background‖² + β‖u − u_background‖² — é adicionado para controlar o problema. Coeficientes grandes penalizam; coeficientes pequenos regularizam; a escolha é, mais uma vez, uma decisão de modelagem e não um padrão.

Há mais uma disciplina que os laboratórios tornam inegociável, e é o mesmo ceticismo que a teoria dos problemas inversos exige: antes de confiar em um gradiente adjunto, verifique numericamente. Compare o gradiente que o adjunto produz com uma derivada direcional de diferença finita em uma direção aleatória. Se os dois não concordarem, o adjunto tem um bug — e um 4D-Var construído em um gradiente errado minimizará a coisa errada e parecerá totalmente saudável.

04 Back and Forth Nudging: correção sem adjunto

Jacques Blum e Didier Auroux introduziram o algoritmo Back and Forth Nudging (BFN) em 2005. O nudging convencional acrescenta às equações do modelo um termo de realimentação — um observador de Luenberger assintótico, na linguagem da teoria de controle — que aproxima o estado simulado das observações à medida que o modelo evolui. A decisão de Blum e Auroux foi aplicar essa correção tanto para a frente quanto para trás na mesma janela de assimilação:

O primeiro artigo provou a convergência para um sistema linear de equações diferenciais ordinárias. Tão importante quanto isso, tornou o método atraente na prática: a formulação principal não requer linearização do modelo, construção adjunta e circuito de minimização separado — exatamente o maquinário que torna o 4D-Var pesado. Trabalhos posteriores desenvolveram a teoria e testaram a abordagem em sistemas de Lorenz, equações de transporte, modelos de águas rasas e modelos de oceano cheio.

O Cutumação difusiva para frente e para trás (DBFN) a extensão foi projetada para modelos difusivos, onde a integração inversa ingênua é instável. Em experimentos com um modelo bidimensional de águas rasas e um modelo oceânico de equação primitiva tridimensional, ele estabilizou o retrocesso e reduziu o impacto de observações ruidosas. Esse é um resultado de pesquisa em configurações específicas — não uma afirmação de que um algoritmo substitui todos os outros métodos. A posição madura, que o curso afirma claramente, é que os métodos são escolhidos de acordo com a estrutura do modelo, o sistema de observação, a incerteza e o orçamento computacional. “Usar IA” ainda não é uma especificação de método.

05 Duas vidas de pesquisa, uma cultura de matemática aplicada

A colaboração é poderosa porque está inserida em carreiras muito mais amplas. A mesma linguagem matemática — equações diferenciais parciais, controle, otimização, análise numérica e problemas inversos — viaja da física do plasma à circulação oceânica, processamento de imagens, previsão do tempo e modelagem industrial.

Professor · análise numérica, controle e assimilação de dados

Prof. Jacques Blum

Prof. Jacques Blum — análise numérica, controle e assimilação de dados. Formado pela École Normale Supérieure e doutorado sob a orientação de Jacques-Louis Lions, Jacques Blum construiu, entre pesquisas e cátedras do CNRS em Grenoble, na École Polytechnique e em Nice, uma carreira dedicada à simulação, à identificação e ao controle ótimo de sistemas físicos regidos por equações diferenciais parciais.

Seu trabalho abrange o equilíbrio do plasma tokamak, a reconstrução em tempo real, a circulação oceânica e a assimilação de dados. Em DSTI, ele é membro do Conselho Consultivo Científico e ajudou a moldar a abordagem da escola ao suporte matemático em todo o corpo discente. As distinções incluem a Medalha de Bronze do CNRS (1984), o Prix Blaise-Pascal (1990), o prêmio Seymour Cray (1998) e o Grand Prix de la Ville de Nice (2017).

1984 Medalha de bronze do CNRS

1990 Prêmio Blaise-Pascal

1998 Prêmio Seymour Cray

2017 Grande Prêmio da Cidade de Nice

Página da universidade Biografia corpo docente da DSTI

Professor · Diretor do Maison de la Modélisation, de la Simulation et des Interactions

Prof. Didier Auroux

Prof. Didier Auroux — Diretor da Maison de la Modélisation, de la Simulation et des Interactions. Didier Auroux se formou na École Normale Supérieure de Lyon e concluiu seu doutorado sob a orientação de Jacques Blum — Estudo de diferentes métodos de assimilação de dados para o meio ambiente (2003) — seguido por uma habilitação em algoritmos rápidos para processamento de imagens e assimilação de dados.

Sua pesquisa une geofísica, observadores, controle ideal, problemas inversos, análise numérica e computação científica. Ele agora dirige a Université Côte d'Azur Maison de la Modélisation, de la Simulation et des Interactions, uma estrutura que apoia a pesquisa por meio de modelagem, simulação, computação de alto desempenho e ciência de dados.

Página da universidade Publicações MSI corpo docente da DSTI

Ambos participam do ensino para todo o corpo discente, inclusive para estudantes ainda distantes de seu nível de pesquisa. Jacques propôs a criação das sessões de apoio da DSTI, inspiradas nas aulas de exercícios adotadas pelas principais universidades; Didier conduz regularmente sessões de apoio nos módulos de matemática. A confiança em matemática não se constrói reduzindo o nível intelectual, mas oferecendo um percurso confiável para alcançá-lo — exatamente o propósito da sequência de disciplinas descrita no § 06.

06 A cadeia de ensino: da matemática aplicada à assimilação de dados

O que torna a versão DSTI disso distinta não é que dois matemáticos eminentes apareçam em uma lista de professores. É que as mesmas duas pessoas ensinam um sequência conectada de cursos, cada um deles um pré-requisito genuíno para o próximo, que leva o aluno do gradiente de uma função de uma variável para um 4D-Var funcional. Jacques Blum e Didier Auroux ministram os três cursos em conjunto, alternando os dias de ensino entre eles, para que uma coorte veja os dois professores em toda a cadeia, em vez de conhecer um por disciplina. O destino é difícil; a rota é construída deliberadamente.

É no trabalho de laboratório que os métodos do artigo se tornam algo construído pelos próprios estudantes. Os laboratórios usam o sistema de Lorenz — modelo caótico canônico de baixa dimensão — em um projeto de experimento gêmeo: gera-se uma trajetória “verdadeira” conhecida, criam-se observações esparsas e ruidosas a partir dela (duas das três variáveis, a cada cem passos, com ruído adicional) e, então, parte-se de um estado de fundo deliberadamente incorreto para tentar recuperar a verdade. Nesse banco de testes único e transparente, os estudantes implementam sucessivamente as três famílias de métodos:

• Cutucando — para frente e depois para trás, ou seja, o próprio BFN, codificado diretamente;
• Var 4D — a função de custo, o modelo adjunto para seu gradiente e o numérico verificação de gradiente antes de confiar nele;
• Kalman — o filtro linear e, em seguida, o filtro Kalman estendido, que expõe exatamente o que quebra quando um modelo não linear é forçado a passar por uma correção linearizada.

O experimento com gêmeos é em si uma lição de validação: como a verdade é conhecida pela construção, cada método pode ser comparado a ela — e é por isso que é o lugar certo para aprender, e também por que é mais fácil do que a realidade operacional, onde a verdade é exatamente o que está faltando. Essa lacuna entre um brinquedo de diagnóstico e o sistema real é nomeada, não encoberta.

Uma nota sobre as pessoas por trás da rede, porque é uma verdadeira linhagem intelectual e não uma decoração. Jacques Blum concluiu seu doutorado em Jacques-Louis Lions, cuja teoria de controle ideal para sistemas governados por equações diferenciais parciais é a base matemática sobre a qual o 4D-Var se baseia. Didier Auroux, por sua vez, concluiu seu doutorado em Jacques Blum — Estudo de diferentes métodos de assimilação de dados para o meio ambiente , defendido em 2003. O mecanismo de controle ideal ensinado no curso de assimilação de dados é, em um sentido direto, a tradição que os dois herdaram e ampliaram — e o algoritmo Back and Forth Nudging surgiu dessa mesma colaboração. A cadeia de ensino, Lions → Blum → Auroux, recapitula uma de pesquisa.

A sequência descrita aqui é a espinha dorsal dos MSc de Dados, mas não representa toda a atividade docente dos dois professores. Na graduação, Didier Auroux também leciona Harmonização Matemática no BSc Computer Science & Engineering, com a Dra. Christine Malot, ajudando os estudantes a construir uma base matemática comum antes de trabalhos quantitativos posteriores; Jacques Blum leciona a parte de física da disciplina Energia — Clima — TI Sustentável, abordada separadamente em A TI eficiente começa antes do código .

07 O problema da escala e por que a estrutura ganha seu lugar

Seria fácil confundir tudo isso com uma teoria elegante. O curso é enfático ao dizer que não, e o motivo é a escala. Para atmosfera e oceanos, uma grade realista tem cerca de cinquenta níveis verticais e várias centenas de pontos em cada direção horizontal — bem mais de dez milhões de pontos de grade — com várias variáveis físicas (componentes de velocidade, pressão, temperatura, umidade ou salinidade, concentrações químicas) em cada uma. O vetor de controle para um 4D-Var pode, portanto, alcançar 10⁷ para 10⁹ componentes; o número de observações é 10⁵–10⁶; as matrizes de covariância são nominalmente de tamanho n × n, ou seja, astronomicamente grande; e um centro de previsão operacional deve produzir uma análise em três a seis horas. Estimando a covariância do erro de fundo B em geral, é um problema de pesquisa por si só, e a previsão é sensível à escolha.

Essa é a realidade da engenharia por trás da matemática e um território reconhecidamente próprio da DSTI: o ponto em que memória, custo computacional e orçamento determinam quais métodos são viáveis. É também por isso que representar uma estrutura conhecida não é uma preferência estilística, mas uma questão de eficiência: um método menor e estruturado pode exigir menos movimentação de dados e menos treinamento, oferecer maior consistência física e permitir uma descrição mais clara das falhas do que um modelo genérico maior. A disciplina consiste em manter esse limite inspecionável — saber que parte do sistema é imposta pela física e que parte é aprendida a partir dos dados.

Esse princípio ecoa em outras partes do currículo — no ensino de tecnologias da Web Semântica do Pr Fabien Gandon, o mesmo instinto aplicado ao conhecimento e não à física: representar o que já é conhecido explicitamente, em vez de reaprender sistematicamente todo o modelo a partir de dados brutos. A disciplina compartilhada é saiba o que você sabe, aprenda o que não sabe e estabeleça a fronteira entre eles algo que você possa inspecionar.

08 A trilha de pesquisa por trás da sala de aula

O artigo se baseia em uma sequência de publicações que acompanha o trabalho desde a apresentação de um algoritmo e sua prova de convergência até a comparação numérica, o desenvolvimento teórico e as aplicações geofísicas.

O material das seções §§01—07 que descreve a estrutura, o escopo e o conteúdo trabalhado nas disciplinas — enquadramento e exemplos de problemas inversos; tratamento de Hadamard para problemas bem-postos e instabilidade da diferenciação; funções de custo 3D-Var e 4D-Var e método adjunto; distinção entre discretizar e diferenciar; ordens de grandeza e restrições operacionais; taxonomia dos métodos; e laboratórios de experimentos gêmeos de Lorenz com nudging, 4D-Var e Kalman, incluindo uma verificação de gradiente — foi extraído dos materiais didáticos da DSTI dos professores Blum e Auroux: programas, notas de aula e cadernos das disciplinas Matemática Aplicada à Ciência de Dados, Otimização Contínua e Problemas Inversos e Assimilação de Dados. Esses elementos não são citações públicas, salvo quando uma fonte pública é indicada no próprio texto.