Os desenvolvedores de inteligência artificial do Google encontraram recentemente uma “caixa preta” misteriosa em seus sistemas. Ao trabalhar em um software de IA, os engenheiros descobriram que o programa havia desenvolvido a capacidade de entender e traduzir a língua bengali com muito pouca informação prévia sobre o idioma. James Maneka, chefe da divisão de IA do Google, explicou ao programa 60 Minutes da CBS que essa capacidade de gerar habilidades ou fornecer respostas inesperadas é o que os especialistas chamam de “caixa preta”.
Sundar Pichai, CEO do Google, explicou que a caixa preta refere-se à capacidade dos programas de IA de realizar tarefas de maneiras inesperadas, sem que os desenvolvedores possam entender completamente o motivo. Isso pode representar um risco se a tecnologia não for controlada adequadamente pelos desenvolvedores.
A corrida pelo desenvolvimento de chatbots e outros sistemas de IA acelerou nos últimos anos, com grandes empresas de tecnologia investindo em somas significativas no setor. Elon Musk, por exemplo, anunciou recentemente sua entrada nesse ramo. Ao mesmo tempo, especialistas em IA alertam que essa corrida pode representar um risco se a tecnologia não for controlada adequadamente pelos desenvolvedores.
A caixa preta é um conceito oposto ao que os especialistas em IA chamam de “caixa branca”. Enquanto os sistemas de IA são mais semelhantes a uma caixa preta, onde os desenvolvedores não conseguem entender completamente o que está acontecendo dentro, a programação de software tradicional é mais como uma caixa branca, onde as linhas de código inseridas são claramente refletidas no resultado que o software obtém.
No desenvolvimento de IA, os engenheiros trabalham para criar sistemas que imitam as redes neurais da inteligência humana. Isso envolve inúmeros processadores interconectados que podem lidar com abundância de dados, detectar padrões entre milhões de variáveis usando aprendizado de máquina e, o mais importante, adaptar-se em resposta ao que estão fazendo.
Especialistas em IA advertem que a pesquisa de IA cada vez mais orientada por dados e o aprendizado por reforço profundo resultam em sistemas ainda mais difíceis de compreender. Ian Hogarth, cofundador da empresa de tecnologia Plural e autor do livro “The Status of AI Reports”, observa que novos chatbots como o Bard e o ChatGPT são o produto de uma década de pesquisa e desenvolvimento. A quantidade de poder computacional consumido por esses modelos aumentou em cerca de 100 milhões na última década. Embora esses avanços sejam notáveis, o controle e a compreensão da tecnologia são essenciais para garantir que a IA seja segura e confiável.
