/webcode.jsp
/de/suche/index.jsp
https://publikationen.dguv.de/DguvWebcode?query=
Künstliche Intelligenz kann helfen, Zusammenhänge in Daten zu erkennen, die Menschen bei ihrer Entscheidungsfindung unterstützen.
Bild: stock.adobe.com / Production Perig
Die Vorstellungen von künstlicher Intelligenz (KI) rangieren zwischen Faszination für die Technik und der Angst vor dem Kontrollverlust. Während eine allgemeingültige Definition noch gesucht wird, werden KI-Systeme in vielen Branchen bereits eingesetzt. Ihre Anwendung wirft verschiedene Fragen auf. Ein wichtiger Punkt ist die Sicherheit der Systeme.
Die Einsatzgebiete künstlicher Intelligenz sind vielfältig und wachsen stetig. So wird KI bereits für Bild- und Spracherkennung, beim automatisierten Fahren sowie der Analyse großer Datenmengen eingesetzt. Im Gesundheitswesen hilft die Technologie, verschiedene diagnostische Daten zu kombinieren und Krankheiten früh zu erkennen. Beschäftigte in der Verwaltung entlastet KI bei Routineaufgaben, sodass sie sich individuellen Entscheidungen zuwenden können. Bei all den Möglichkeiten des Einsatzes muss eines aus Sicht der gesetzlichen Unfallversicherung jedoch immer mitgedacht werden: Wie kann Arbeit auch mit Einsatz von KI sicher, gesund und fair gestaltet werden?
Vertrauen schaffen
Um Vertrauen in KI zu schaffen, muss ihr Einsatz transparent gemacht werden. Zudem müssen die vom System getroffenen Entscheidungen erklärbar sein. Auch Fragen der Haftung bei Fehlentscheidungen sind wichtig zu klären. Dafür braucht es gemeinsame Rechtsgrundlagen, Leitlinien und Werte. Einen wichtigen Schritt ging dieses Jahr die EU mit der Vorstellung des weltweit ersten Entwurfes für einen Rechtsrahmen für KI. Darin sollen KI-Anwendungen reguliert werden, die mit Risiken für den Menschen verbunden sind. Systeme, welche die Sicherheit, Lebensgrundlagen und Rechte der Menschen bedrohen, werden verboten. Für KI-Systeme mit hohem Risiko sollen strenge Vorgaben gelten, bevor sie zugelassen werden.
Kann künstliche Intelligenz Arbeit sicherer machen?
Der Einsatz von KI hat auch Auswirkungen auf das Präventionshandeln der Unfallversicherungsträger. Auf KI basierende Schutz- und Steuereinrichtungen sowie Assistenzsysteme helfen, Unfälle zu vermeiden – etwa durch Warnungen beim Rückwärtsfahren. Doch ergeben sich auch neue Gefährdungen. Verlässt man sich beispielsweise ganz auf die Systeme, kann es zu Unfällen kommen, sobald Situationen vom KI-System nicht eindeutig erkannt werden. "Systeme auf KI-Basis können wertvolle Ergänzungen sein, die zu einer erhöhten Sicherheit führen. Am sichersten sind Entscheidungen aber, wenn sie von KI-gestützten und zusätzlich von nicht KI-gestützten Systemen überprüft werden.", erklärt Dr. André Steimers, wissenschaftlicher Mitarbeiter im Institut für Arbeitsschutz der DGUV und Mitglied der DGUV Test Projektgruppe Künstliche Intelligenz. Er erläutert weiter: "Es gibt Modelle, die sich stetig weiterentwickeln, diese können wir nicht zertifizieren. Denn wir wissen nicht, wie sie sich nach der Prüfung verhalten. Nicht-weiterlernende Systeme können wir zertifizieren, jedoch brauchen wir neue Richtlinien, nach denen wir arbeiten können. Denn aktuelle Rechtsvorschriften und Normen beinhalten so gut wie keine Kriterien für die sicherheitstechnische Bewertung von KI-Technologien." Diese werden aktuell durch verschiedene Normungsgremien erarbeitet. Zudem veröffentlichte das Prüf- und Zertifizierungssystem DGUV Test Grundsätze zur sicherheitstechnischen Bewertung von KI. Diese helfen, Schwachstellen an KI-Technologien aufzudecken und Fehlentwicklungen zu verhindern, welche die Sicherheit und Gesundheit der Beschäftigten in den Betrieben gefährden.