Em 2024, a pesquisadora Almira Osmanovic teve a ideia de testar a confiabilidade da aplicação de modelos de IA à saúde. A ideia foi simples: criar uma doença que não existe e testar se os modelos de linguagem aceitariam sua existência sem mais nem menos.
Em 15 de março de 2024, duas publicações sobre uma doença fictícia chamada de "bixonimania" foram feitas no Medium. Em abril e maio do mesmo ano, dois estudos, não revisados por pares, apareceram na rede SciProfiles, feitos por um pesquisador falso de nome Lazljiv Izgubljenovic cuja foto - pasme! - também havia sido gerada por inteligência artificial. Na verdade, todo o perfil do suposto pesquisador era francamente falso. Ele era afiliado a inexistente Asteria Horizon University, na inexistente cidade de Nova City, CA, por exemplo.
Não sendo isso o bastante, no corpo dos artigos eles declaravam explicitamente: "Este artigo inteiro foi inventado."
A despeito disso, menos de um mês depois, as principais IAs do mundo já reproduziam a bixonimania como um diagnóstico válido. Os chatbots chegaram ao ponto, nas pesquisas, de alucinarem e inventarem índices de prevalência, fatores de risco, dentre outras coisas.
Tudo isso parece corroborar a ideia de que é relativamente fácil enganar uma IA, correto? Talvez. Mas não apenas isso.
Surpreendentemente, os artigos falsos sobre bixonimania acabaram sendo citados por pesquisadores reais em literatura científica - agora sim - revisada por pares! Um artigo no periódico Cureus da editora Springer Nature chegou a mencionar a bixonimania como "uma forma emergente de melanose periorbital".
Hoje em dia a confiança na infalibilidade de chatbots é tamanha que muito médico (muita gente) acaba confiando nessas ferramentas para tomar decisões no dia a dia sem verificar as informações ali geradas.
No caso da pesquisa, todos os eventos foram vigiados ativamente e tudo foi explicado posteriormente. Mas o que impede, por exemplo, um fabricante de protetor solar para região dos olhos inventar artigos científicos que favoreçam a sua formulação em detrimento das demais? Quando tempo demoraria para que a recomendação chegasse aos chatbots de milhares de pessoas por aí?
Aliás, será que isso não já existe?