Há 15 anos, num dia como hoje, eu estava tendo aulas de redes neurais no mestrado em Eletrônica, na Coppe UFRJ.
Naquela época, a melhor redes neural que conseguíamos fazer tinha 3 camadas e uma dúzia de neurônios por camada. Entretanto, já era um campo promissor, para visionários.
Perguntei ao meu professor: “Você confiaria numa rede neural para dirigir um carro ou fazer uma operação médica?”
A resposta foi algo como: “Colocar IA numa máquina de lavar, sem problemas. Agora, para situações importantes, não”.
A IA teve uma evolução exponencial desde então. Saiu do inverno para o verão, com avanços em pacotes computacionais (PyTorch, TensorFlow), novas técnicas (convolucional, transformer), e até em hardware (como GPU e TPU).
Entretanto, a resposta continua valendo.
A IA atual é uma caixa-preta: entra um monte de dados e sai uma decisão. Talvez seja uma caixa mais poderosa, mas a essência é a mesma.
O problema de uma caixa-preta é que ela vai funcionar extremamente bem, uns 98% dos casos, até o dia em que vai dar problema. E, se o dispositivo controlado for numa grande indústria, ou um carro autônomo, será um problema catastrófico, daqueles que põe em risco a confiança no trabalho todo.
Tanto é que uma das linhas de pesquisa mais importantes dos dias de hoje é o Explainable AI: abrir um pouco da caixa, entender de alguma forma o que está acontecendo, mesclar o poder da rede neural com regras explícitas.
E outra linha quente de pesquisas é a Ética em IA: de quem será a culpa, no caso de um atropelamento? Do fabricante? Do usuário que confiou no veículo? Da caixa-preta que ninguém sabe interpretar? Do engenheiro que treinou o algoritmo? Haverá auditoria de algoritmos, por parte do governo? São perguntas difíceis de responder.
De qualquer forma, é melhor seguir o conselho do meu professor: utilize AI em processos não críticos, no seu equivalente da máquina de lavar.
ideiasesquecidas.com 