Google e Google DeepMind lançam instituto para avançar debate sobre IA geral

O Google e o Google DeepMind anunciaram a criação do DeepMind Institute nesta semana com o objetivo de avançar a discussão sobre a inteligência artificial geral (IA geral).

A nova instituição tem como diretores o co-fundador da DeepMind, Shane Legg, o executivo da Google, James Manyika, e o chair da Google DeepMind, Demis Hassabis, com Legg servindo como editor.

Objetivos e propostas

A instituição visa apresentar diferentes visões entre Google, Google DeepMind e a comunidade de pesquisa global sobre a IA geral. “Eles não sempre concordarão e provavelmente mudarão de ideia à medida que mais dados e informações se tornem disponíveis na fronteira rápida”, afirmou o anúncio.

Os primeiros quatro ensaios abordam temas como políticas econômicas para gerenciar a potencial disruptividade da IA geral, preservação da razoabilidade da modelagem, princípios para o bem-estar humano e um quadro para avaliar modelos de IA de vanguarda.

Propostas concretas

Um dos ensaios, escrito pelos pesquisadores de segurança da DeepMind, Rohin Shah e Anca Dragan, argumenta que a janela de transparência da IA - a capacidade de ver e verificar o raciocínio passo a passo de um modelo - não é inevitável. Como novas arquiteturas tornam os modelos mais poderosos mais difíceis de monitorar, os autores sugerem que desenvolvedores e reguladores enfrentem diretamente as trocas de segurança. Isso pode significar limitar a 'profundidade serial oculta' - a quantidade de cálculos sequenciais que um modelo pode realizar sem produzir um rastreamento de raciocínio legível - ou exigir que desenvolvedores demonstrem que sistemas menos transparentes permanecem monitoráveis.

Outro ensaio, escrito pelo chair da DeepMind, Demis Hassabis, propõe um corpo de padrões de IA de vanguarda liderado pelos Estados Unidos para avaliar os modelos de IA mais avançados. Sob seu esquema, desenvolvedores submeteriam modelos voluntariamente para revisão até 30 dias antes do lançamento. Uma vez que o sistema de avaliação tenha demonstrado eficácia, passar seus testes pode se tornar uma exigência para o lançamento de modelos de IA de vanguarda nos Estados Unidos.