Nutzen und Risiken von KI

Wobei KI helfen kann: mehr Zeit für die Arbeit, die zählt

KI kann Forschungs- und klinische Workflows unterstützen, wenn sie für überprüfbare Ergebnisse entwickelt und gesteuert wird. Sie kann:

• Zeit sparen – schnellere Entdeckung, Prüfung und frühe Synthese

• Informationen zusammenführen –relevante Evidenz in besser nutzbaren Ansichten für die Prüfung bündeln

• Entdeckungen skalieren – größere Korpora und breitere Fachgebiete schneller erschließen

• Entscheidungsfindung unterstützen – Evidenzprüfungen stärken, wenn Ergebnisse zuordenbar und bis zu den Quellen rückverfolgbar sind

• Ergebnisse durch Governance verbessern – kontinuierliche Bewertung und Aktualisierungen ermöglichen, wenn sich die Evidenz verändert

Wo Risiken entstehen – und was schiefgehen kann

KI-Ergebnisse können überzeugend und nützlich sein. Verlässlich sind sie aber nur, wenn die Evidenzbasis und die Governance des Workflows tragfähig sind.

Häufige Risikopunkte sind:

• Zu starke Abhängigkeit von sicher klingenden Antworten – flüssige Ergebnisse können Lücken in der Abdeckung oder fehlenden Kontext verdecken

• Unvollständiger oder verzerrter Abruf – welche Inhalte das System anzeigt, kann von geregeltem Zugriff und der Auswahl der Inhalte abhängen

• Schwache Rückverfolgbarkeit – ohne klare Attribution und Einblick in die Quellen wird die Überprüfung schwierig

• Bedenken zu Privatsphäre, geistigem Eigentum und Neutralität – schwache Kontrollen können Compliance- und Vertrauensprobleme schaffen

• Qualitäts- und Sicherheitsrisiken – Genauigkeit und Vollständigkeit müssen kontinuierlich bewertet werden, nicht nur einmalig getestet

Was Elsevier anders macht

Elsevier hilft Institutionen, den Wert von KI nutzbar zu machen, indem sie auf eine verlässliche Evidenzbasis und verantwortungsvolle Governance gestützt wird.

Unser Fokus liegt darauf, KI-Ergebnisse evidenzbasiert, transparent und steuerbar zu machen, damit Nutzende Ergebnisse überprüfen können und Fachleute verantwortlich bleiben.

Zu den zentralen Funktionen gehören:

• Verlässliche wissenschaftliche, medizinische und gesundheitsbezogene Inhalte – kuratiertes Wissen, das den Stand der wissenschaftlichen und klinischen Literatur widerspiegelt

• Attribution und zitierfähige Quellen – Antworten zuordenbar machen, damit Nutzende zu den Originalpublikationen zurückverfolgen können

• Menschliche Expertise im Prozess – fachliche Prüfung und Urteilsvermögen bei Interpretation und Entscheidungen unterstützen

• Verantwortungsvolle KI-Governance – Schutz der Privatsphäre, Schutz geistigen Eigentums, Neutralitätsaspekte und Verantwortlichkeit zur Unterstützung einer sicheren, gesteuerten Nutzung

Kosten und ROI-Überlegungen

Der Wert von KI hängt von mehr ab als vom Zugang zu einem Tool. Institutionen müssen in der Regel Folgendes berücksichtigen:

• Einführung und Onboarding, einschließlich KI-Kompetenz und Änderungen am Workflow

• Governance einrichten, einschließlich Privatsphäre, geistigem Eigentum, Attribution und Auditierbarkeit

• Integrationsaufwand, etwa die Abstimmung von Inhaltszugriff und Nutzerrollen

• Validierung und Bewertung, einschließlich fachlicher Prüfschritte und Erfolgskennzahlen

• Kontinuierliches Monitoring, damit Leistung und Risiken laufend bewertet bleiben

Wichtige Qualitätssicherungen

Vorteile entstehen, wenn Schutzmaßnahmen in den Workflow eingebaut sind. Achten Sie bei KI-Lösungen auf Funktionen, die Folgendes unterstützen:

• In Ergebnisse integrierte Attributionen und Zitate – Antworten mit Originalpublikationen verbinden, damit Nutzende Evidenz überprüfen und an der Quelle weiterforschen können

• Rückverfolgbarkeit zu kontrollierter Evidenz – Antworten in kuratiertem wissenschaftlichem und medizinischem Wissen verankern, das kontinuierlich aktualisiert wird

• Transparenz zu Quellen und Grenzen – leichter nachvollziehbar machen, welche Informationen verwendet wurden und wo die Verlässlichkeit variieren kann

• Unterstützung menschlicher Aufsicht – Fachleute für Interpretation und Entscheidungen in den Prüfprozess eingebunden halten

• Kontinuierliche Bewertung von Qualität und Risiken – Genauigkeit, Vollständigkeit und potenzielle Risiken fortlaufend bewerten

• Schutz der Privatsphäre, Schutz geistigen Eigentums und Neutralität – den verantwortungsvollen Umgang mit Daten unterstützen und Governance-Erwartungen durchsetzen, um Compliance- und Integritätsrisiken zu verringern