Agências de saúde dos EUA vão testar modelos da OpenAI e Anthropic

IA Saúde entra em cena com o PULSE: um programa que oferece licenças da OpenAI e Anthropic a 10 jurisdições para testar usos reais em saúde pública. Mas há muitas interrogações sobre dados, governança e quem revisará os resultados — e é exatamente isso que vamos explorar.

O que é o programa PULSE e como funcionará

IA Saúde apoiará o PULSE, um programa piloto para testar modelos de IA em saúde pública.

O projeto dará licenças temporárias da OpenAI e da Anthropic a dez jurisdições.

Jurisdição aqui significa estados, cidades ou agências locais de saúde pública.

Como funcionará

• As agências receberão acesso controlado aos modelos por tempo limitado.
• Haverá regras claras sobre dados, privacidade e uso aceitável do sistema.
• A Accenture ajudará na implementação e no suporte técnico das provas.
• Os testes buscarão avaliar segurança, governança e viabilidade em ambientes reais.

Haverá revisão humana dos resultados e processos para auditar decisões automatizadas.

Licenças temporárias significam acesso limitado e restrições ao uso de dados sensíveis.

O objetivo é gerar práticas e guias que outras agências possam adaptar.

Parcerias: OpenAI, Anthropic e o papel da Accenture

O programa PULSE unirá esses parceiros para testes em saúde pública.

OpenAI e Anthropic vão fornecer os modelos de IA usados nos testes.

Esses modelos processam texto e dados para gerar insights clínicos simulados.

O papel da Accenture

Accenture vai apoiar a implantação e a integração técnica nas agências.

Eles ajudam com configuração, segurança e treinamento da equipe local.

Como vão trabalhar juntos

• As empresas vão fornecer suporte técnico e atualizações durante as provas.
• A Accenture mediará a implementação entre os modelos e os sistemas locais.
• Haverá processos para revisar resultados por profissionais humanos.
• Auditoria e relatórios vão acompanhar desempenho e riscos identificados.

Governança e privacidade

Governança significa regras sobre uso, responsabilidade e revisão das decisões automatizadas.

Haverá limites claros para dados sensíveis e formas de anonimizar informações.

Auditores independentes podem verificar conformidade e segurança durante os testes.

Resultados esperados

Relatórios vão conter lições, riscos e recomendações práticas para outras agências.

O foco será melhorar governança, privacidade e uso seguro da IA na saúde.

Os cinco casos de uso prioritários para saúde pública

Detecção e vigilância de surtos

Modelos de IA podem analisar dados de hospitais, laboratórios e redes sociais em tempo real. Eles detectam mudanças rápidas e padrões que humanos podem não ver. Esses sinais ajudam agências a responder mais cedo e com mais foco.

Triage e apoio clínico

IA pode priorizar pacientes com base em sintomas e risco clínico simples. Isso acelera a triagem em centros lotados e reduz erros humanos. Profissionais continuam revisando as recomendações geradas automaticamente.

Planejamento e alocação de recursos

Sistemas podem prever demanda por leitos, equipes e insumos médicos com dados locais. Previsões simples ajudam a distribuir ventiladores e vacinas onde vão ser mais úteis. Isso melhora a resposta e reduz desperdício de recursos.

Comunicação pública e monitoramento da desinformação

IA ajuda a identificar rumores e mensagens falsas em redes e notícias. Agências podem ajustar campanhas e enviar orientações claras e diretas ao público. Mensagens consistentes ajudam a aumentar confiança e adesão às medidas.

Monitoramento de vacinas e eventos adversos

Modelos acompanham relatos de eventos adversos e sinais de segurança em dados reais. Isso permite investigações rápidas quando algo fora do comum aparece. O objetivo é proteger a população e manter a confiança nas vacinas.

Lacunas de governança, privacidade e revisão humana identificadas

O programa PULSE mostrou lacunas claras em governança, privacidade e revisão humana.

Faltam regras claras sobre responsabilidade, auditoria e documentação das decisões do sistema.

Não há padrões para controle de versão e atualização de modelos em uso.

Regras sobre dados sensíveis e consentimento não estão bem definidas para todos.

Técnicas de anonimização podem não evitar reidentificação com dados combinados de várias fontes.

Reidentificação significa identificar alguém novamente, mesmo com dados aparentemente anônimos.

Processos não deixam claro quando um humano precisa revisar a recomendação do sistema.

Falta treinamento adequado para equipes que vão revisar decisões automatizadas no campo.

Logs e trilhas de auditoria são essenciais, mas nem sempre são coletados corretamente.

Os modelos podem refletir vieses históricos e afetar populações vulneráveis sem percebermos.

Não há protocolos claros para lidar com falhas, vazamentos ou uso indevido de dados.

Medidas práticas

• Estabelecer políticas claras de governança, definindo papéis e responsabilidades na prática.
• Implementar logs detalhados para permitir auditoria e investigação de decisões do sistema.
• Definir regras rígidas para dados sensíveis e exigência de consentimento documentado.
• Garantir revisão humana contínua, especialmente em casos de alto risco clínico.
• Padronizar testes e métricas para avaliar desempenho e equidade dos modelos.

Cronograma, entregáveis e como as lições serão compartilhadas

O cronograma do PULSE inclui fases de três a seis meses para cada teste.

Cada fase terá objetivos claros, métricas de avaliação e responsáveis bem identificados.

Os entregáveis incluem relatórios técnicos, guias práticos e conjuntos de dados anonimizados.

Entregáveis também vão abranger playbooks operacionais e checklists para aplicação local imediata.

Haverá entregas intermediárias frequentes para permitir ajustes rápidos entre cada etapa do teste.

Monitoramento e avaliação

Equipes usarão métricas pré-definidas para avaliar segurança, eficácia e equidade das ações.

Relatórios incluirão análises de risco e recomendações práticas para gestores e técnicos locais.

Como as lições serão compartilhadas

Resultados e lições serão publicados em repositórios acessíveis e em relatórios públicos.

Também haverá workshops, webinars e sessões de troca entre agências participantes e pares.

Materiais vão incluir modelos, códigos e templates prontos para adaptação local imediata.

Transparência e proteção de dados

Publicações vão omitir dados pessoais e explicar práticas de anonimização usadas claramente.

Quando necessário, versões redigidas estarão disponíveis para pesquisa e revisão independente externa.

Prazo e entrega final

Ao final de cada piloto, um relatório consolidado e um pacote de lições serão entregues.

Esses materiais vão orientar políticas futuras e facilitar adoção segura em outras agências.

Fonte: www.ArtificialIntelligence-News.com