Desenvolver sistemas de automação compreensíveis por seres humanos e mais transparentes, acessíveis e eticamente responsáveis é essencial em um mundo em que esse tipo de tecnologia está cada vez mais atrelado à segurança e ao bem-estar das pessoas
Desenvolver sistemas de automação compreensíveis por seres humanos e mais transparentes, acessíveis e eticamente responsáveis é essencial em um mundo em que esse tipo de tecnologia está cada vez mais atrelado à segurança e ao bem-estar das pessoas
CRÉDITO: FOTO ADOBE STOCK
A inteligência artificial (IA) interpretável ou explicável é aquela que, além dos resultados desejados, produz os detalhes ou razões que levaram aos resultados por ela apresentados, permitindo sua compreensão por humanos e tornando seu funcionamento mais transparente. Esta pode parecer uma qualidade essencial para sistemas que rapidamente vêm sendo inseridos em funções cada vez mais críticas à sociedade, como controle da matriz energética, policiamento e saúde, especialmente em tempos de maior cobrança por transparência na coleta e uso de dados nos âmbitos público e privado. Entretanto, a realidade do desenvolvimento dos sistemas baseados em IA na indústria caminha na direção oposta, e entender essa dissonância e como ela é tratada será algo importante para um bom convívio com as tecnologias que emergem de IAs sofisticadas.
Em relação às IAs aplicadas à saúde, como a triagem de potenciais compostos para medicamentos, houve ganhos substanciais de desempenho em suas tarefas por meio de um aumento exponencial do número de parâmetros utilizáveis pelos modelos que definem seu comportamento. Com mais parâmetros, é possível armazenar padrões mais elaborados e mais diversos – como interações moleculares –, que são capturados a partir de quantidades igualmente crescentes de dados. O sucesso de tal abordagem por escala, entretanto, não se traduz na capacidade de compreender ou controlar os resultados da IA, pois a grande quantidade de parâmetros (centenas de bilhões atualmente) inviabiliza a análise dos padrões neles armazenados. São, portanto, conhecidas como IAs ‘caixa-preta’, pois seu funcionamento é opaco até para seus desenvolvedores.
Abrir as ‘caixas-pretas’ já criadas, ou construir novas que sejam transparentes, está no cerne da pesquisa em inteligência artificial interpretável. Os principais objetivos são: permitir o rastreamento preciso da causa de um erro para corrigi-lo e aperfeiçoar os sistemas; permitir que o usuário obtenha uma relação causa-consequência entre os dados apresentados ao sistema e suas respostas; permitir que o conhecimento obtido por meio do aprendizado de padrões pela IA seja aproveitado fora do contexto interno do sistema; e buscar a imparcialidade, de modo que seja possível esclarecer e eliminar vieses dos dados usados no treinamento dos sistemas e evitar seu uso danoso.
Os desafios para alcançar tais objetivos são consideráveis e podem ser resumidos em um conjunto de três níveis de transparência: transparência algorítmica, que significa tornar o processo de composição de uma resposta compreensível por um especialista humano; decomponibilidade, que significa tornar cada parte de um modelo (entradas, parâmetros e cálculos) compreensível separadamente e em conjunto; e simulabilidade, que significa tornar os passos percorridos pela IA para compor uma resposta replicáveis por um especialista humano.
Soluções atualmente em uso recorrem à comunicação com o usuário por meio de técnicas de explicação visual ou textual, que associam características dos dados que lhe foram fornecidos (entradas) aos resultados obtidos, por exemplo, informando quais partes de uma molécula foram mais determinantes para o seu posicionamento em uma lista de classificação. Esforços mais recentes buscam aplicar o mesmo princípio para expor os padrões armazenados pelos modelos; e há também a opção de produzir modelos ‘caixa-branca’ que se aproximem em comportamento dos sistemas ‘caixa-preta’ já testados, mesmo que isso implique em perdas de desempenho, pois podem ser compensadas pelos especialistas responsáveis. Embora a diversidade de aplicações de IA torne improvável uma convergência de soluções, há um consenso em formação a respeito das necessidades comuns de comunicação independente do campo de atuação.
O caminho para a interpretabilidade da IA também expõe interesses conflitantes entre os agentes envolvidos nesse processo de inovação. Por um lado, as grandes empresas que financiam a pesquisa de ponta desejam manter hegemonia sobre o uso da tecnologia, por meio do controle sobre a infraestrutura massiva necessária para operá-la, e manter os dados e funcionamento dos seus modelos como segredos industriais. Por outro, universidades e centros de pesquisa buscam otimizar o funcionamento da IA e torná-la transparente, mais acessível e eticamente responsável.
Cabe ao usuário final cobrar dos fornecedores da tecnologia os meios necessários para tornar seu uso transparente, e cobrar do governo regulamentações nesse sentido. Da mesma forma que precisamos saber o que é colocado nos alimentos industrializados que consumimos, precisamos conhecer melhor os ingredientes que entram nos sistemas de automação cada vez mais presentes em nossa vida e como esses ingredientes e a maneira como são processados podem nos afetar.
Da mesma forma que precisamos saber o que é colocado nos alimentos industrializados que consumimos, precisamos conhecer melhor os ingredientes que entram nos sistemas de automação cada vez mais presentes em nossa vida e como esses ingredientes e a maneira como são processados podem nos afetar
Para Daniel Cara, professor e pesquisador da USP, reforma é descontextualizada do universo escolar e das realidades das redes públicas, busca ‘desprofissionalizar’ docentes, impõe uma educação desprovida de ciência e não proporciona o direito de escolha aos estudantes, alardeado pelos defensores do NEM
A partir de mergulhos e com a ajuda de tecnologias de levantamento geofísico, pesquisadores acharam restos de embarcações naufragadas na região do Bracuí (RJ) que poderiam ser do brigue norte-americano Camargo, um dos últimos a trazer ilegalmente africanos para o país
A escassez de água potável já afeta cerca de 0,5 bilhão de pessoas no planeta. E essa crise deve aumentar nas próximas décadas, por causa das mudanças climáticas, do crescimento populacional e aumento da poluição. Novos materiais porosos prometem uma solução peculiar: extrair água do ar
Geneticista norte-americana decifrou, no início do século 20, a incógnita sobre como é definido o sexo biológico na reprodução, mas não teve seu trabalho devidamente reconhecido em vida por ser mulher em uma comunidade científica dominada por homens
Nesta data especial em que a Ciência Hoje chega à edição n⁰ 400, Alexander Kellner apresenta um breve histórico da criação da coluna Caçadores de fósseis, a mais antiga em atividade na revista, com 184 textos publicados até hoje, alguns reunidos em um livro
Estranhamente, a natureza parece ter predileção por simetrias de formas e cores. E, de certo modo, isso pode ser denominado beleza, noção que tem guiado a pesquisa científica no entendimento dos fenômenos que vão da escala subatômica ao gigantismo do cosmos
O uso massivo de antibióticos na medicina e na veterinária vem direcionando a evolução e impulsionando a resistência antimicrobiana em bactérias, tornando-se mais uma evidência das alterações provocadas pelas ações humanas no planeta
O avanço das tecnologias digitais e da conectividade tem promovido maior alcance e precisão das práticas de cuidado individuais e tem permitido o processamento e a análise de grandes volumes de dados epidemiológicos no campo da saúde coletiva
Instituições públicas focadas em inovação devem investir no conhecimento sobre regulação e desenvolver processos bem-estruturados e atualizados nessa área, para que os produtos de saúde cheguem mais rapidamente à população
Desenvolvimento de terapias personalizadas com vírus que infectam bactérias, chamados bacteriófagos, é alternativa promissora aos antibióticos disponíveis atualmente para tratar infecções resistentes, que se tornaram uma grave ameaça à saúde pública
O aumento de surtos e epidemias causados por vírus emergentes, principalmente os transmitidos por picada de insetos, reforça a importância de estudos para prospecção de novos vírus, diagnóstico correto das infecções e vigilância epidemiológica
A evolução das técnicas de registro de imagens biológicas tem permitido avanços significativos na investigação de doenças e na obtenção de diagnósticos mais rápidos e precisos, mas ainda é necessário investir em qualificação profissional e infraestrutura para a área
O país precisa aprimorar a legislação que dispõe sobre estudos com seres humanos para o desenvolvimento de produtos para a saúde, mas sem desrespeitar direitos e princípios já estabelecidos em normas nacionais e internacionais
As regras para avaliação e registro de novos medicamentos, equipamentos e insumos da área da saúde humana precisam acompanhar os avanços científicos mundiais para permitir que esses produtos inovadores cheguem mais rapidamente à população
Novo tipo de imunizante é capaz de ‘reeducar’ o sistema imunitário para que ele deixe de atacar as células do próprio corpo, interrompendo reações autoimunes relacionadas a doenças como a esclerose múltipla, entre outras
Estudar os fatores associados à frequência e distribuição das doenças nos diferentes grupos sociais fornece dados importantes para orientar a definição e a avaliação de políticas de saúde, entre outras aplicações
Analisar a relação entre custos e efeitos da incorporação de inovações tecnológicas ao sistema de saúde é essencial para melhorar o atendimento à população, assegurando o acesso a práticas efetivas e seguras, com os recursos disponíveis.
Cookie | Duração | Descrição |
---|---|---|
cookielawinfo-checkbox-analytics | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Analytics". |
cookielawinfo-checkbox-functional | 11 months | The cookie is set by GDPR cookie consent to record the user consent for the cookies in the category "Functional". |
cookielawinfo-checkbox-necessary | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookies is used to store the user consent for the cookies in the category "Necessary". |
cookielawinfo-checkbox-others | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Other. |
cookielawinfo-checkbox-performance | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Performance". |
viewed_cookie_policy | 11 months | The cookie is set by the GDPR Cookie Consent plugin and is used to store whether or not user has consented to the use of cookies. It does not store any personal data. |