Matemática explica limites da previsibilidade dos sistemas de IA

Um estudo publicado na revista Nature Machine Intelligence, liderado pelo professor Pulin Gong da Escola de Física da Universidade de Sydney, oferece novas luzes sobre por que sistemas de inteligência artificial (IA) podem aprender comportamentos diferentes, mesmo quando treinados sob condições quase idênticas.

A pesquisa sugere que algumas formas de imprevisibilidade nos sistemas de IA não são devido a falhas de engenharia ou inconsistências no hardware, mas sim à matemática subjacente ao aprendizado de redes neurais.

Desafios na previsibilidade dos sistemas de IA

Com a crescente integração de sistemas de IA em áreas como saúde, negócios, pesquisa e vida cotidiana, garantir que eles se comportem de forma consistente e previsível tornou-se um grande desafio. A nova pesquisa indica que pequenas diferenças nas condições iniciais de um modelo podem levar a resultados diferentes, mesmo quando os dados de treinamento, procedimentos de treinamento e ambiente computacional são idênticos.

Andrew Ly, estudante de doutorado envolvido no estudo, explicou que mesmo pequenas variações nas configurações iniciais podem levar a comportamentos diferentes entre sistemas de IA treinados com os mesmos dados e procedimentos.

Fractais revelam a complexidade dos sistemas de IA

O estudo usa a analogia de um mapa para ilustrar essa complexidade. Cada ponto inicial de treinamento é representado como uma localização nesse mapa, colorida de acordo com o resultado final. As regiões que levam a resultados iguais são chamadas de 'bacia de atração'. Os pesquisadores encontraram evidências de que essas bacias estão organizadas como fractais 'riddled', onde cada ponto está arbitrariamente próximo de pontos que levam a resultados diferentes.

A implicação é que aumentar a precisão das configurações iniciais de um sistema de IA pode não melhorar significativamente a confiança sobre seu resultado final. Em um grande sistema de reconhecimento de imagens, ajustar as configurações iniciais em 10 bilhões de vezes não resultou em melhorias mensuráveis na reprodutibilidade.