PrismML, laboratório de IA fundado por pesquisadores da Caltech, lançou recentemente Bonsai 2 27B, um modelo de linguagem gerador (LLM) compacto que ocupa apenas 5,9 GB, suficiente para ser instalado em computadores pessoais e possivelmente em smartphones de alto nível.

Tecnologia de compressão avançada

A empresa utiliza uma técnica chamada 'ternário' para reduzir o tamanho dos pesos do modelo, que são os dados aprendidos durante o treinamento. Normalmente, cada peso requer 16 bits, mas nesta abordagem, cada peso é simplificado para +1, -1 ou 0, resultando em um espaço de armazenamento muito menor.

Segundo o CEO Babak Hassibi, a compressão tecnologia de PrismML mantém praticamente a mesma performance dos modelos originais. O Bonsai 2 atinge 98% dos pontuações de benchmark agregadas do Qwen3.8 27B, comparado a 95% do primeiro Bonsai, lançado há dois meses.