Riscos da Inteligência Artificial na Avaliação de Protocolos de Pesquisa: Estratégias para Aprimorar a Qualidade e Confiabilidade

Introdução: a Inteligência Artificial (IA) desempenha um papel cada vez mais crucial em várias áreas, incluindo a pesquisa científica. A automação de tarefas complexas, como a análise de protocolos de pesquisa, pode impactar no progresso científico, mas também apresenta riscos e desafios (SICHMAN, 2021).Objetivo: Nesse sentido, a lacuna dessa pesquisa busca responder: quais são os riscos e estratégias de mitigação relacionados ao uso crescente da IA na construção de pesquisas científicas e consequentemente na avaliação de seus protocolos? O uso crescente da IA na avaliação de protocolos de pesquisa levanta preocupações sobre sua capacidade de compreender e julgar adequadamente a complexidade das propostas de pesquisa. Os sistemas de IA podem cometer erros, perder nuances e até mesmo introduzir preconceitos (SICHMAN, 2021). Portanto, é essencial investigar os riscos envolvidos e como mitigá-los. Para tanto, a presente pesquisa objetiva avaliar os riscos da utilização da inteligência artificial (IA) na análise de protocolos de pesquisa apresentando estratégias para aprimorar a qualidade e a confiabilidade desse processo.Método: a metodologia adotada para essa pesquisa configura-se como revisão da literatura integrativa (MENDES; SILVEIRA; GALVÃO, 2008). Foi realizada busca nas bases de dados: Scielo, PePsic, Indexpsi, Lilacs, PubMed e PsycInfo a partir do cruzamento dos seguintes descritores: “inteligência artificial andpesquisa científica” e “inteligência artificial and protocolos de pesquisa” nas línguas portuguesa, espanhola e inglesa. Foram localizados artigos acadêmicos, relatórios técnicos e estudos de caso que abordam a aplicação da IA na avaliação de protocolos de pesquisa. A inclusão de dados considerou estudos que forneceram informações substanciais relacionadas aos riscos, desafios e estratégias de mitigação no contexto da utilização da IA na avaliação de protocolos de pesquisa. Foram excluídos estudos que não se enquadravam diretamente no escopo da pesquisa ou que não contribuíam significativamente para a compreensão do tema. Essa abordagem permite uma visão abrangente dos riscos e desafios identificados na literatura existente.Resultados:Como resultados podemos observar que a IA pode perpetuar viés e discriminação existentes nos dados utilizados para treiná-la, direcionando para decisões tendenciosas na avaliação de protocolos de pesquisa, afetando negativamente o processo, pois os sistemas de IA podem ter dificuldade em compreender o contexto da pesquisa, incluindo suas implicações éticas e sociais. Isso pode resultar em recomendações inadequadas ou insensíveis. Muitos modelos de IA são caixas-pretas, o que dificulta a compreensão de como chegam a determinadas conclusões. Isso prejudica a transparência e a prestação de contas no processo de avaliação.
Considerações finais:As considerações para estudo direcionam que o uso da Inteligência Artificial na apreciação de protocolos de pesquisa oferece oportunidades para a eficiência, mas também apresenta desafios significativos. Para mitigar os riscos identificados, é crucial adotar uma abordagem cautelosa e ética.