Princípios de IA responsável

A Elsevier fornece ferramentas de análise e decisão baseadas em informações para pesquisadores e profissionais de saúde em todo o mundo, ajudando-os a avançar na ciência e melhorar os resultados de saúde, para o benefício da sociedade.

Por mais de uma década, a Elsevier tem usado tecnologias de IA e aprendizado de máquina de forma responsável em nossos produtos, combinadas com nosso conteúdo incomparável revisado por pares, extensos conjuntos de dados e análises sofisticadas para ajudar pesquisadores, médicos e educadores a descobrir, avançar e aplicar conhecimento confiável.

Nossos princípios de IA responsável

1. Consideramos o impacto real de nossas soluções nas pessoas.

2. Tomamos medidas para evitar a criação ou o reforço de preconceitos injustos.

3. Podemos explicar como nossas soluções funcionam.

4. Criamos responsabilidade por meio da supervisão humana.

5. Respeitamos a privacidade e defendemos uma governança de dados robusta.

Princípios de inteligência artificial responsável na Elsevier

Nossas soluções, tanto internas quanto externas, aprimoram a tomada de decisões humanas. Essa abordagem é sustentada por nosso compromisso com a responsabilidade corporativa, que definimos como a maneira como fazemos negócios, trabalhando proativamente para aumentar nosso impacto positivo e evitar impactos negativos. Estamos usando análises e tecnologias cada vez mais sofisticadas à medida que fornecemos soluções de maior valor. A intersecção da tecnologia avançada, a sua crescente proximidade com a tomada de decisões e os seus possíveis efeitos sociais representam novos riscos, mas também oferecem inúmeras oportunidades de benefícios para a sociedade.

Objetivo e âmbito dos princípios da IA responsável

Geralmente, usamos o termo Inteligência Artificial (IA) para descrever sistemas baseados em máquinas, incluindo sistemas generativos de IA, que inferem soluções para definir tarefas e têm um grau de autonomia. O escopo de nossos Princípios, no entanto, é mais amplo do que a IA e inclui quaisquer insights orientados por máquina resultantes das ferramentas e técnicas no campo da ciência de dados. Esses Princípios fornecem orientação de alto nível para qualquer pessoa na Elsevier que trabalhe na concepção, desenvolvimento e implantação de insights orientados por máquina.

Eles fornecem uma estrutura baseada em risco com base nas melhores práticas de nossa empresa e de outras organizações. As áreas de negócios individuais são proprietárias da implementação prática dos princípios. A Elsevier possui políticas e processos robustos aplicáveis a soluções habilitadas para IA. O objetivo dos Princípios de IA Responsável é complementá-los. A IA é um campo que evolui continuamente, em velocidade e escala sem precedentes. Esses Princípios serão iterados ao longo do tempo, com base no feedback de colegas e clientes, bem como nas tendências legislativas e do setor. Isso nos permitirá ser proativos, garantindo que nossas soluções se desenvolvam de acordo com nossos valores e mantendo nossa posição como líder de pensamento no mercado.

1. Consideramos o impacto real de nossas soluções nas pessoas

Esse nível de reflexão nos permite criar soluções confiáveis e alinhadas aos valores da nossa empresa.

Reconhecendo que nossas soluções podem ajudar nossos clientes em suas tomadas de decisão, estamos atentos aos possíveis impactos que nossas soluções podem ter sobre as pessoas. A IA é um método para resolver um problema de negócios para nossos clientes, bem como para nossa própria empresa, implicando um conjunto de suposições e um contexto específico do mundo real. Quanto melhor esse contexto for compreendido e quanto mais conscientes estivermos de nossas suposições, melhores serão as soluções que criamos e maior será o valor agregado para os clientes.

Vamos além de perguntar "o que estamos construindo e quem é o cliente?" Procuramos identificar a gama de pessoas que se beneficiam de nossa solução e como, e quem pode ser impactado e por quê. Para isso, definimos a esfera de influência da solução. Mapeamos as partes interessadas além dos clientes diretos e pensamos no domínio ao qual a solução se aplica - a saúde, os meios de subsistência (incluindo perspectivas de carreira) ou os direitos das pessoas são afetados de alguma forma? Esses insights nos permitem considerar o impacto de uma solução específica.

2. Tomamos medidas para evitar a criação ou reforço de preconceitos injustos

Isso gera resultados de alta qualidade e evita a discriminação.

Como apoiador do Pacto Global das Nações Unidas, promover a justiça e a não discriminação está no centro de nossa filosofia e valores de negócios. Entendemos que a precisão matemática não garante a ausência de viés, e é por isso que agimos para evitar a criação ou o reforço de preconceitos injustos. Quando tais ações não são tomadas, o viés pode ser introduzido inadvertidamente por meio de entradas de dados e/ou por meio de processamento de máquina ou algoritmos. Uma vez introduzido, ele pode ser replicado por meio da tomada de decisão humana em ciência de dados, gerenciamento de produtos e tecnologia.

Isso pode levar a resultados distorcidos e, portanto, menos valiosos. Também pode levar a resultados menos favoráveis para indivíduos ou grupos com base em gênero, etnia, status socioeconômico e outros atributos pessoais. Nossas ações para evitar a criação ou reforço de vieses injustos incluem a implementação de procedimentos, extensos processos de revisão e documentação e uso de ferramentas automatizadas de detecção de viés disponíveis, entre outros.

3. Podemos explicar como nossas soluções funcionam

Um nível adequado de transparência cria confiabilidade para usuários e órgãos reguladores.

Este princípio não prescreve quais modelos construir e usar, e não proíbe o uso de modelos de "caixa fechada". O objetivo é ter um nível adequado de transparência para cada aplicativo e caso de uso para garantir que diferentes usuários possam entender e confiar na saída.

Diferentes contextos e públicos requerem diferentes explicações. Como parte do processo de design, consideramos quais elementos da solução precisarão ser explicados, a quem eles podem precisar ser explicados e como explicá-los. Também avaliamos a confiabilidade de uma solução e somos explícitos sobre o uso pretendido.

4. Criamos responsabilidade por meio da supervisão humana

Isso permite uma garantia de qualidade contínua e robusta das saídas da máquina e ajuda a evitar o uso não intencional.

Nossa tecnologia auxilia os processos de tomada de decisão de nossos clientes. É importante que os humanos tenham propriedade e responsabilidade sobre o desenvolvimento, uso e resultados dos sistemas de IA. Aplicamos supervisão humana durante todo o ciclo de vida de nossas soluções. Isso é fundamental para garantir a qualidade e o desempenho adequado de nossas soluções.

Uma vez que a solução tenha saído de nossas mãos, isso significa que o cliente assume o papel de tomador de decisão final.O uso de nossas soluções é controlado por um conjunto acordado de termos e condições, bem como pela lei aplicável. Responsabilizamos nossos clientes por esses requisitos. Os colegas de suporte ao cliente desempenham um papel importante para garantir que o uso pretendido seja compreendido pelos clientes e que os problemas de qualidade sejam tratados adequadamente por nossas equipes.

5. Respeitamos a privacidade e defendemos uma governança de dados robusta

Isso garante que continuemos a ser reconhecidos como um fornecedor confiável de soluções de informação.

A coleta, a reprodutibilidade, o uso e a proteção adequados de dados são cruciais para nosso sucesso a longo prazo como um negócio de informações e análises. À medida que mantemos e ampliamos nossos ativos de dados e descobrimos novas maneiras de gerar insights, reconhecemos que uma forte governança de dados é essencial. Os sistemas de IA funcionam com mais precisão quando são alimentados com grandes quantidades de dados de alta qualidade, e alguns conjuntos de dados são utilizados em soluções, para vários propósitos. Precisamos garantir que tenhamos um gerenciamento de dados robusto, como minimização e retenção de dados, e políticas e procedimentos de segurança.

Alguns conjuntos de dados incluem informações pessoais. Estamos comprometidos em lidar com informações pessoais de acordo com todas as leis e regulamentos de privacidade aplicáveis, bem como nossos próprios Princípios de Privacidade, que exigem que sempre atuemos como administradores responsáveis das informações pessoais.