WR Audit

Método

As quatro ordens

Ordem 0 — Dados herdados

Disparidade presente nos dados históricos e reproduzida pelo modelo.

Δ0=Δ(D)\Delta_0 = \Delta(\mathcal{D})
Figura 1. Disparidade constante, herdada dos dados.ilustrativo

Ordem 1 — Gradiente

Disparidade introduzida pela direção de atualização dos parâmetros no treino.

θt+1=θt−η ∇θL(θt)\theta_{t+1} = \theta_t - \eta\,\nabla_\theta \mathcal{L}(\theta_t)
Figura 2. Deslocamento na direção do gradiente.ilustrativo

Ordem 2 — Curvatura

Disparidade associada à curvatura da função de perda em torno da solução.

H=∇θ2L(θ^)H = \nabla^2_\theta \mathcal{L}(\hat\theta)
Figura 3. Curvatura local da perda.ilustrativo

Ordem 3 — Hipótese de pesquisa

Termo de ordem superior, em investigação. Não integra o laudo.

∇θ3L(θ^)\nabla^3_\theta \mathcal{L}(\hat\theta)
Figura 4. Termo de terceira ordem; hipótese de pesquisa.ilustrativo

Critérios para viés inerente ao modelo

  1. (i) Amplificação: o modelo aumenta a disparidade já presente nos dados.
  2. (ii) Disparidade que muda só com o algoritmo, com os dados fixos.
  3. (iii) Emergência no uso: disparidade que surge na operação do sistema.

Resumo Público de Resultados

No lugar de selo, a auditoria produz um Resumo Público de Resultados: documento curto que descreve escopo, método aplicado, resultados e limites, para divulgação a critério do contratante.