Quando você entra em um café e vê um menu com sanduíches de bagel variados, mas cada ilustração parece perfeitamente simétrica e estranhamente lisa, algo não está certo. Essa é a impressão que muitos consumidores têm ao ver menus criados por inteligência artificial (IA).

Como isso acontece?

A inteligência artificial que gera esses menus é treinada em um conjunto de dados que prioriza uma estética 'agradável', mas que pode parecer errada mesmo quando não conseguimos explicar por quê.

O CTO da Reality Defender, Alex Lisle, explica que esses modelos de IA são construídos de maneira que podem explicar por que as ilustrações tendem a adotar um estilo específico - onde cada congelado de sorvete é perfeitamente redondo e os camarões parecem ter sido geneticamente modificados para comer seus próprios rabos.

Convergência e model collapse

A convergência é um fenômeno onde a qualidade das saídas da IA diminui, mas ela ainda consegue produzir resultados. Isso ocorre quando a IA gera conteúdo baseado em menus já existentes, reforçando um estilo específico.

Isso pode ser ainda mais evidente em menus e anúncios de alimentos, que sempre parecem melhores do que a realidade, como um Big Mac em um comercial da McDonald's, onde cada camada do sanduíche é arranjada para parecer o mais apetitoso possível.