A Agência Europeia de Medicamentos (EMA) e os responsáveis das agências de medicamentos publicaram os princípios e as recomendações para os trabalhadores da Rede Europeia de Regulamentação de Medicamentos que utilizam modelos de linguagem de grande dimensão (LLM).
Os LLM são, como explica a EMA no seu portal, “uma categoria de inteligência artificial (IA) generativa, cujas aplicações podem apoiar significativamente os reguladores de medicamentos nas suas tarefas e processos. Quer sejam utilizados para consultar a extensa documentação que as entidades reguladoras recebem habitualmente, para automatizar processos de extração de conhecimentos/dados ou como assistentes virtuais de IA nas tarefas administrativas quotidianas”.
No entanto, representam, igualmente, desafios, como “a variabilidade dos resultados, o retorno de respostas irrelevantes ou incorretas (as chamadas alucinações) e potenciais riscos para a segurança dos dados”.
Os princípios orientadores
Deste modo, a finalidade dos princípios orientadores é fazer com que os recursos humanos das agências reguladoras de toda a UE compreendam as capacidades e limitações destas aplicações, de modo a poderem aproveitar eficazmente o potencial das LLM e evitar armadilhas e riscos.
Os princípios orientadores abrangem vários aspetos da utilização de LLM, como:
– Garantir a introdução segura de dados, passando pela aplicação de pensamento crítico e verificação cruzada dos resultados.
– Saber quem consultar quando surgem preocupações.
A utilização responsável dos LLM requer familiaridade com as ferramentas, assim como uma aprendizagem contínua para acompanhar o ritmo da rápida evolução deste domínio.
Além disso, os princípios incentivam as agências reguladoras a apoiar as suas pessoas na utilização de LLM, o que inclui, por exemplo, “a especificação dos casos de utilização permitidos, a formação e a monitorização dos riscos”.
Os princípios orientadores são um dos resultados do plano de trabalho plurianual de IA até 2028 da EMA e serão apresentados num webinar a 13 de setembro.
