Inteligência Artificial enfrenta novos desafios com projetos de código aberto
O crescimento da inteligência artificial de código aberto levanta preocupações sobre segurança e abusos.
O modelo de código aberto está profundamente entrelaçado com a evolução da internet, sendo um exemplo notável o sistema operacional Linux, que prospera através da colaboração de sua comunidade. Contudo, a ascensão da inteligência artificial (IA) trouxe à tona alertas de especialistas sobre a existência de modelos abertos que não possuem as restrições comuns das grandes plataformas.
Estudos recentes indicam que há uma “camada” invisível de infraestrutura composta por milhares de máquinas que operam modelos acessíveis ao público. Análises de plataformas de segurança revelam que, após 293 dias de monitoramento, mais de 175 mil hosts foram identificados em 130 países, demonstrando a ampla distribuição desses sistemas.
O foco da pesquisa não é apenas a quantidade, mas também a recorrência, com cerca de 23 mil sistemas sendo observados repetidamente, o que sugere um padrão de uso semelhante ao de sistemas de turnos. Uma das ferramentas que tem se destacado nesse cenário é o Ollama, que se tornou uma opção popular para a execução de modelos de IA localmente. No entanto, a preocupação surge quando esses modelos são deixados abertos ao público.
Observações de especialistas indicam que existem milhares de instâncias do Ollama expostas, algumas das quais respondem a comandos, permitindo interações diretas. Os riscos associados a essa acessibilidade não são meramente teóricos; os usuários podem se tornar alvos de phishing, spam, desinformação e outros tipos de abusos, uma vez que esses modelos são capazes de gerar textos variados em questão de segundos.
Pesquisas revelam que há casos em que as proteções de modelos conhecidos foram desativadas. Em uma análise de comandos do sistema, cerca de 7,5% poderiam levar os usuários a comportamentos prejudiciais. A mensagem não é a proibição dos modelos de código aberto, mas sim a conscientização sobre suas implicações: se um projeto se baseia nessa abordagem, é crucial entender que qualquer pessoa pode alterar seu conceito original, e nem todos terão intenções benéficas.
