Hume mostrou que nunca observamos a causalidade, apenas sucessões regulares de eventos. Séculos depois, cientistas de dados ainda tropeçam no mesmo problema: um modelo pode prever com precisão sem jamais saber o que causa o quê. Não acredita? Rode a simulação:
Sorvete e afogamentos sobem juntos, mas o culpado é o calor, a famosa variável de confusão. Prever não é explicar.
Se você não soubesse em qual grupo da população estará, que critério de justiça aceitaria para um classificador? O experimento mental de Rawls é um jeito prático de auditar viés em modelos de crédito, contratação e policiamento preditivo. Veja um diagnóstico (fictício) de aprovação de crédito:
Aprovação Grupo A:
72%
Aprovação Grupo B:
41%
⚠ ALERTA: disparidade de 31 pontos. Você aceitaria esta regra sem saber em que grupo estaria?
Para Popper, uma teoria científica vale por poder ser refutada. Um modelo com overfitting explica tudo o que viu e nada do que virá: uma hipótese ad hoc disfarçada de matriz de pesos. O sintoma clássico:
Acurácia Treino:
99%
Acurácia Teste:
62%
⚠ ALERTA: gap de 37%. Modelo decorando o gabarito, impossível de refutar no treino!
No experimento da Sala Chinesa, seguir regras sobre símbolos não bastaria para compreender nada: if entrada == "你好": return "你好吗". Um LLM que completa textos com fluência está na mesma situação, ou o argumento envelheceu mal?
Probabilidade é a frequência de longo prazo de um evento ou um grau de crença racional? A disputa é, no fundo, filosófica. Um teste com 90% de sensibilidade dá positivo, e agora? Depende do prior:
grandeza
valor
0
P(doente)
1%
1
P(+ | doente)
90%
2
P(+ | saudável)
9%
3
P(doente | +)
9,2%
[4 rows x 2 columns] — positivo no teste, 9,2% de chance de estar doente. Surpresa!
O teorema No Free Lunch, de Wolpert, diz que nenhum algoritmo supera todos os outros quando se consideram todos os problemas possíveis. É a velha dúvida de Hume sobre a indução, agora com demonstração formal.
⚠ Buscando o algoritmo universal... 80% (nunca passa disso, é o teorema)
