Pesquisa do MIT alerta que busca por modelos mais avançados pode comprometer a estabilidade da inteligência artificial

A cientista Ana Trišović alerta sobre os riscos da dependência de modelos proprietários de IA.

A crescente dependência de modelos proprietários de inteligência artificial (IA) levanta preocupações significativas, conforme destacado por Ana Trišović, cientista de pesquisa do MIT CSAIL, durante o AI Festival. A especialista enfatiza que atualizações silenciosas podem comprometer fluxos de dados, representando um risco que precisa ser discutido com mais profundidade.

Ana descreve a rápida evolução dos modelos de IA como uma “esteira de capacidades”. Há alguns anos, um modelo como o GPT-1 poderia ser utilizado por longos períodos, mas atualmente, a troca entre modelos ocorre em questão de meses. Essa velocidade gera desafios para a reprodutibilidade e a infraestrutura de pesquisa.

Um estudo realizado em janeiro pode ter seus resultados inviabilizados em junho devido a atualizações não anunciadas, mudanças de preço ou até descontinuação de produtos. Isso cria um problema estrutural para a ciência, que depende da verificação independente de resultados.

Para mitigar esses riscos, Ana sugere uma maior adoção de modelos de código aberto. Esses modelos permitem controle e personalização, mantendo-se estáveis ao longo do tempo, sem interferências externas que possam alterar seu funcionamento ou custo.

<p“Com modelos abertos, ninguém pode aumentar o preço ou fazer atualizações silenciosas que comprometam seu fluxo de dados”, argumenta. Ela acredita que, muitas vezes, um modelo de código aberto pode ser adequado para diversas aplicações, tornando as operações mais competitivas a longo prazo.

Embora defenda o código aberto, Ana não é contra a adoção de novas tecnologias. Sua perspectiva é otimista, reconhecendo que a velocidade de adoção dos modelos é um fator crucial para a competitividade das empresas.

Otimismo sem ingenuidade

Quando questionada sobre suas preocupações, Ana não vê a velocidade de disseminação dos modelos como um problema, mas sim uma oportunidade. “Quem não adotar ficará para trás. Quem adotar terá uma vantagem competitiva”, afirma.

A inteligência artificial já não é vista apenas como uma ferramenta auxiliar, mas como parte integrante do método científico. A adoção de IA está se expandindo rapidamente em diversas áreas do conhecimento.

Apesar do otimismo, Ana reconhece que ainda há desafios a serem superados, como a criação de marcos de referência para reprodutibilidade e a personalização de modelos. Para ela, esses são problemas a serem resolvidos, não barreiras à adoção.

Quando a máquina entrevista pessoas

No campo do recrutamento, Ana observou que a substituição de entrevistadores humanos por modelos de IA frequentemente resulta em problemas. Muitas empresas tentam otimizar suas operações, mas essa estratégia pode ter consequências adversas.

Ela acredita que, embora os modelos possam evoluir para avaliar candidatos de maneira mais eficaz, a decisão final deve permanecer nas mãos de humanos. O trabalho colaborativo envolve aspectos que não podem ser capturados por modelos, como a interação pessoal e a criatividade em situações inesperadas.

<p“O trabalho colaborativo vai além do que está em um currículo. É sobre como a pessoa se comporta, como é trabalhar com ela”, explica. Ana conclui que a IA deve ser usada para ampliar a capacidade humana na seleção de talentos, sem substituí-la, ressaltando a necessidade de cautela nesse processo.