Enriquecemos el conocimiento humano con IA responsable
Principios de IA responsable
Elsevier ofrece analítica basada en información y herramientas para apoyar la toma de decisiones de investigadores y profesionales de la salud en todo el mundo, para impulsar la ciencia y mejorar los resultados de salud, en beneficio de la sociedad.
Desde hace más de una década, Elsevier utiliza de forma responsable tecnologías de IA y aprendizaje automático en nuestros productos, junto con nuestro contenido revisado por pares sin igual, amplios conjuntos de datos y analítica avanzada, para ayudar a investigadores, profesionales de la salud y educadores a descubrir, impulsar y aplicar conocimiento confiable.
Nuestros principios de IA responsable
Consideramos el impacto real de nuestras soluciones en las personas.
Actuamos para evitar la creación o el refuerzo de sesgos injustos.
Podemos explicar cómo funcionan nuestras soluciones.
Fortalecemos la rendición de cuentas mediante la supervisión humana.
Respetamos la privacidad y promovemos una gobernanza sólida de datos.
Principios de inteligencia artificial responsable en Elsevier
Nuestras soluciones, internas y externas, mejoran la toma de decisiones de las personas. Este enfoque se apoya en nuestro compromiso con la responsabilidad corporativa, que definimos como la manera en que hacemos negocios: actuamos de forma proactiva para aumentar nuestro impacto positivo y prevenir impactos negativos. A medida que ofrecemos soluciones de mayor valor, usamos analítica y tecnología cada vez más sofisticadas. La intersección entre tecnología avanzada, su creciente cercanía a la toma de decisiones y sus posibles efectos sociales trae nuevos riesgos, pero también abre oportunidades significativas de beneficio para la sociedad.
Propósito y alcance de los principios de IA responsable
En general, usamos el término inteligencia artificial (IA) para describir sistemas basados en máquinas, incluidos los sistemas de IA generativa, que infieren soluciones para tareas definidas y cuentan con cierto grado de autonomía. Sin embargo, el alcance de estos Principios es más amplio que el de la IA e incluye cualquier información generada por máquinas que resulte de herramientas y técnicas dentro del campo de la ciencia de datos. Estos Principios brindan una guía de alto nivel para cualquier persona en Elsevier que participe en el diseño, desarrollo e implementación de información basada en máquinas.
Estos Principios proporcionan un marco basado en riesgos que se apoya en las mejores prácticas de nuestra empresa y de otras organizaciones. Cada área de negocio es responsable de llevar los principios a la práctica. Elsevier cuenta con políticas y procesos sólidos que aplican a las soluciones habilitadas por IA; el propósito de los Principios de IA responsable es complementarlos. La IA es un campo que evoluciona de forma continua, a una velocidad y escala sin precedentes. Por ello, estos Principios se irán actualizando con el tiempo, con base en la retroalimentación de colegas y clientes, así como en las tendencias legislativas y de la industria. Esto nos permite ser proactivos, asegurando que nuestras soluciones se desarrollen en línea con nuestros valores y fortaleciendo nuestra posición como líderes de opinión en el mercado.
1. Consideramos el impacto real de nuestras soluciones en las personas
Este nivel de reflexión nos ayuda a crear soluciones confiables y alineadas con nuestros valores.
Al reconocer que nuestras soluciones pueden apoyar a nuestros clientes en su toma de decisiones, somos conscientes de los posibles impactos que pueden tener en las personas. La IA es un método para resolver un problema de negocio, tanto para nuestros clientes como para nuestra propia empresa, lo que implica un conjunto de supuestos y un contexto específico del mundo real. Mientras mejor entendamos ese contexto y más claros tengamos nuestros supuestos, mejores serán las soluciones que creamos y mayor será el valor que aportamos a nuestros clientes.
Vamos más allá de preguntarnos “¿qué estamos construyendo y quién es el cliente?”. Buscamos identificar a las personas que se benefician de nuestra solución y de qué manera, así como a quienes podrían verse afectadas y por qué. Para lograrlo, definimos la esfera de influencia de la solución. Mapeamos a las partes interesadas más allá de los clientes directos y pensamos en el ámbito donde se aplica la solución: ¿la salud, los medios de vida (incluidas las oportunidades profesionales) o los derechos de las personas se ven afectados de alguna forma? Estos aprendizajes nos ayudan a valorar el impacto de una solución en particular.
2. Actuamos para evitar crear o reforzar sesgos injustos
Esto impulsa resultados de alta calidad y ayuda a prevenir la discriminación.
Como firmantes del Pacto Mundial de las Naciones Unidas, promover la equidad y la no discriminación está en el centro de nuestra filosofía y valores. Sabemos que la precisión matemática no garantiza la ausencia de sesgos, por lo que actuamos para evitar crear o reforzar sesgos injustos. Si no se toman estas medidas, el sesgo puede introducirse de forma inadvertida a través de los datos de entrada y/o del procesamiento por máquinas o algoritmos. Una vez que aparece, puede replicarse mediante la toma de decisiones humanas en la ciencia de datos, la gestión de productos y la tecnología.
Esto puede llevar a resultados sesgados y, por lo tanto, menos valiosos. También puede generar resultados menos favorables para personas o grupos según género, etnia, nivel socioeconómico u otros atributos personales. Nuestras acciones para prevenir la creación o el refuerzo de sesgos injustos incluyen, entre otras, la implementación de procedimientos, procesos amplios de revisión y documentación, y el uso de herramientas automatizadas disponibles para detectar sesgos.
3. Podemos explicar cómo funcionan nuestras soluciones
Un nivel adecuado de transparencia genera confianza para las y los usuarios, así como para los organismos reguladores.
Este principio no indica qué modelos debemos construir y usar, ni prohíbe el uso de modelos de “caja negra”. El objetivo es contar con un nivel de transparencia adecuado para cada aplicación y caso de uso, de modo que distintos tipos de usuarios puedan comprender y confiar en los resultados.
Los distintos contextos y audiencias requieren explicaciones diferentes. Como parte del proceso de diseño, definimos qué elementos de la solución deberán explicarse, a quién y de qué manera. También evaluamos la confiabilidad de una solución y somos explícitos sobre su uso previsto.
4. Creamos responsabilidad mediante la supervisión humana
Esto permite un aseguramiento continuo y sólido de la calidad de las salidas de la máquina, y ayuda a prevenir usos no deseados.
Nuestra tecnología apoya los procesos de toma de decisiones de nuestros clientes. Es importante que las personas sean propietarias y responsables del desarrollo, uso y resultados de los sistemas de IA. Aplicamos supervisión humana a lo largo de todo el ciclo de vida de nuestras soluciones. Esto es clave para asegurar la calidad y el desempeño adecuados.
Una vez que la solución sale de nuestras manos, el cliente asume el papel de tomador de decisiones final. El uso de nuestras soluciones se rige por términos y condiciones acordados, además de la legislación aplicable. Pedimos a nuestros clientes cumplir con estos requisitos. Los equipos de atención al cliente desempeñan un papel clave para asegurar que las y los clientes comprendan el uso previsto y que nuestros equipos atiendan de forma adecuada cualquier tema de calidad.
5. Respetamos la privacidad y promovemos una gobernanza sólida de datos
Esto ayuda a que se nos siga reconociendo como un proveedor confiable de soluciones de información.
La recopilación, reproducibilidad, uso y protección adecuados de los datos son fundamentales para nuestro éxito a largo plazo como empresa de información y analítica. A medida que mantenemos y ampliamos nuestros activos de datos y descubrimos nuevas formas de generar información, reconocemos que una gobernanza de datos sólida es esencial. Los sistemas de IA funcionan con mayor precisión cuando se alimentan de grandes volúmenes de datos de alta calidad, y algunos conjuntos de datos se utilizan en todas las soluciones, para múltiples propósitos. Necesitamos asegurar una gestión de datos sólida; por ejemplo, prácticas de minimización y retención de datos, así como políticas y procedimientos de seguridad.
Algunos conjuntos de datos incluyen información personal. Nos comprometemos a tratar la información personal conforme a todas las leyes y regulaciones de privacidad aplicables, así como a nuestros propios Principios de privacidad, que nos exigen actuar siempre como administradores responsables de la información personal.