Principios de IA responsable

Elsevier proporciona análisis basados en información y herramientas de decisión para investigadores y profesionales de la salud de todo el mundo, ayudándoles a avanzar en la ciencia y mejorar los resultados sanitarios, en beneficio de la sociedad.

Durante más de una década, Elsevier ha estado utilizando tecnologías de IA y aprendizaje automático de manera responsable en nuestros productos, combinados con nuestro contenido revisado por pares sin precedentes, amplios conjuntos de datos y análisis sofisticados para ayudar a investigadores, médicos y educadores a descubrir, avanzar y aplicar conocimientos confiables.

Nuestros principios de IA responsable

1. Tenemos en cuenta el impacto real de nuestras soluciones en las personas.

2. Tomamos medidas para evitar la creación o el refuerzo de sesgos injustos.

3. Podemos explicar cómo funcionan nuestras soluciones.

4. Creamos responsabilidad a través de la supervisión humana.

5. Respetamos la privacidad y defendemos una gobernanza de datos sólida.

Principios responsables de la inteligencia artificial en Elsevier

Nuestras soluciones, tanto internas como externas, mejoran la toma de decisiones humanas. Este enfoque está respaldado por nuestro compromiso con la responsabilidad corporativa, que definimos como la forma en que hacemos negocios, trabajando de manera proactiva para aumentar nuestro impacto positivo y prevenir el impacto negativo. Estamos utilizando análisis y tecnología cada vez más sofisticados a medida que ofrecemos soluciones de mayor valor. La intersección de la tecnología avanzada, su creciente cercanía a la toma de decisiones y sus posibles efectos sociales plantean nuevos riesgos, pero también ofrecen numerosas oportunidades de beneficios para la sociedad.

Finalidad y alcance de los principios de IA responsable

Generalmente, utilizamos el término Inteligencia Artificial (IA) para describir los sistemas basados en máquinas, incluidos los sistemas de IA generativa, que infieren soluciones para establecer tareas y tienen cierto grado de autonomía. Sin embargo, el alcance de nuestros Principios es más amplio que el de la IA e incluye cualquier información impulsada por las máquinas que resulte de las herramientas y técnicas dentro del campo de la ciencia de datos. Estos Principios proporcionan una guía de alto nivel para cualquier persona en Elsevier que trabaje en el diseño, desarrollo e implementación de información basada en máquinas.

Proporcionan un marco basado en el riesgo que se basa en las mejores prácticas de nuestra empresa y de otras organizaciones. Cada área de negocio es la responsable de la aplicación práctica de los principios. Elsevier cuenta con políticas y procesos sólidos que son aplicables a las soluciones habilitadas para IA. El propósito de los Principios de IA Responsable es complementarlos. La IA es un campo que evoluciona continuamente, a una velocidad y escala sin precedentes. Estos Principios se iterarán a lo largo del tiempo, en función de los comentarios de colegas y clientes, así como de las tendencias legislativas y de la industria. Esto nos permitirá ser proactivos, asegurando que nuestras soluciones se desarrollen en línea con nuestros valores y manteniendo nuestra posición como líderes de opinión en el mercado.

1. Tenemos en cuenta el impacto real de nuestras soluciones en las personas

Este nivel de reflexión nos permite crear soluciones fiables y alineadas con los valores de nuestra empresa.

Reconociendo que nuestras soluciones pueden ayudar a nuestros clientes en su toma de decisiones, somos conscientes de los impactos potenciales que nuestras soluciones pueden tener en las personas. La IA es un método para resolver un problema de negocio tanto para nuestros clientes como para nuestra propia empresa, lo que implica un conjunto de suposiciones y un contexto específico del mundo real. Cuanto mejor se entienda ese contexto y más conscientes seamos de nuestras suposiciones, mejores serán las soluciones que creamos y mayor será el valor añadido para los clientes.

Vamos más allá de preguntar "¿qué estamos construyendo y quién es el cliente?" Buscamos identificar la gama de personas que se benefician de nuestra solución y cómo, y quiénes podrían verse afectadas y por qué. Para ello, definimos la esfera de influencia de la solución. Mapeamos a las partes interesadas más allá de los clientes directos, y pensamos en el ámbito al que se aplica la solución: ¿la salud, los medios de vida (incluidas las perspectivas profesionales) o los derechos de las personas se ven afectados de alguna manera? Estos conocimientos nos permiten considerar el impacto de una solución en particular.

2. Tomamos medidas para evitar la creación o el refuerzo de sesgos injustos

Esto genera resultados de alta calidad y evita la discriminación.

Como partidarios del Pacto Mundial de las Naciones Unidas, la promoción de la equidad y la no discriminación es el núcleo de nuestra filosofía y valores empresariales. Entendemos que la precisión matemática no garantiza la ausencia de sesgos, por lo que actuamos para evitar la creación o el refuerzo de sesgos injustos. Cuando no se toman estas medidas, el sesgo puede introducirse inadvertidamente a través de las entradas de datos y/o a través del procesamiento de máquinas o algoritmos. Una vez introducido, se puede replicar a través de la toma de decisiones humanas en la ciencia de datos, la gestión de productos y la tecnología.

Eso puede conducir a resultados sesgados y, por lo tanto, menos valiosos. También puede conducir a resultados menos favorables para individuos o grupos en función del género, la etnia, el estatus socioeconómico y otros atributos personales. Nuestras acciones para prevenir la creación o el refuerzo de sesgos injustos incluyen la implementación de procedimientos, procesos extensos de revisión y documentación, y el uso de herramientas automatizadas de detección de sesgos disponibles, entre otras.

3. Podemos explicar cómo funcionan nuestras soluciones

Un nivel adecuado de transparencia crea confianza para los usuarios y los organismos reguladores.

Este principio no prescribe qué modelos construir y usar, y no prohíbe el uso de modelos de "caja cerrada". El objetivo es tener un nivel adecuado de transparencia para cada aplicación y caso de uso para garantizar que los diferentes usuarios puedan comprender y confiar en los resultados.

Diferentes contextos y audiencias requieren diferentes explicaciones. Como parte del proceso de diseño, consideramos qué elementos de la solución necesitarán explicación, a quién podrían necesitar ser explicados y cómo explicarlos. También evaluamos la fiabilidad de una solución y somos explícitos sobre su uso previsto.

4. Creamos responsabilidad a través de la supervisión humana

Esto permite un aseguramiento de calidad continuo y sólido de las salidas de la máquina y ayuda a prevenir el uso no deseado.

Nuestra tecnología asiste a los procesos de toma de decisiones de nuestros clientes. Es importante que los seres humanos sean propietarios y responsables del desarrollo, el uso y los resultados de los sistemas de IA. Aplicamos la supervisión humana a lo largo del ciclo de vida de nuestras soluciones. Esto es fundamental para garantizar la calidad y el rendimiento adecuado de nuestras soluciones.

Una vez que la solución ha salido de nuestras manos, esto significa que el cliente asume el papel de tomador de decisiones final.El uso de nuestras soluciones está controlado por un conjunto acordado de términos y condiciones, así como por la ley aplicable. Hacemos que nuestros clientes sean responsables de estos requisitos. Los compañeros de atención al cliente desempeñan un papel importante a la hora de garantizar que los clientes entiendan el uso previsto y que nuestros equipos traten adecuadamente los problemas de calidad.

5. Respetamos la privacidad y defendemos una gobernanza de datos sólida

Esto garantiza que sigamos siendo reconocidos como un proveedor confiable de soluciones de información.

La recopilación, la reproducibilidad, el uso y la protección adecuados de los datos son cruciales para nuestro éxito a largo plazo como empresa de información y análisis. A medida que mantenemos y ampliamos nuestros activos de datos y descubrimos nuevas formas de generar información, reconocemos que es esencial una gobernanza de datos sólida. Los sistemas de IA funcionan con mayor precisión cuando se alimentan de grandes cantidades de datos de alta calidad, y algunos conjuntos de datos se utilizan en todas las soluciones, para múltiples propósitos. Tenemos que asegurarnos de que contamos con una gestión de datos sólida, por ejemplo, para la minimización y retención de datos, y políticas y procedimientos de seguridad.

Algunos conjuntos de datos incluyen información personal. Nos comprometemos a manejar la información personal de acuerdo con todas las leyes y regulaciones de privacidad aplicables, así como con nuestros propios Principios de Privacidad, que requieren que siempre actuemos como administradores responsables de la información personal.