Künstliche Intelligenz (KI1) ist ein aktuelles Thema, das viele Menschen gleichermaßen begeistert und beunruhigt. Diese Technologie hat das Potenzial, unser Leben in vielen Bereichen zu verbessern und neue Möglichkeiten zu eröffnen. Auf der anderen Seite bestehen mögliche Risiken, die derzeit noch nicht überschaubar oder absehbar sind, sowie ethische und rechtliche Herausforderungen. Eine ausgewogene Stellungnahme zu KI sollte sowohl die Chancen als auch die Risiken berücksichtigen.
KI kann uns helfen, komplexe Probleme zu lösen und Entscheidungen zu treffen. Beispielsweise können solche Algorithmen in der Medizin eingesetzt werden, um Diagnosen und Behandlungsplanungen zu unterstützen. Auch in der Wirtschaft kann KI eingesetzt werden, um z.B. Prozesse zu automatisieren und effizienter zu gestalten2.
Dabei sollten die Vorschläge solche Methoden anzuwenden, nicht ungeprüft übernommen werden. vielmehr sollte die letztendliche Anwendung durch die jeweiligen menschlichen Experten verifiziert werden.
Zu den Risiken und Befürchtungen gehören beispielsweise Ängste, dass das hohe Maß an intelligenten automatischen Entscheidungen zu einem Abbau von Arbeitsplätzen führen könnte3. Es bestehen ebenfalls Sorgen, dass eine außer Kontrolle geratene KI, unvorhersehbare Folgen haben könnte4.
Aus der Abwägung zwischen Chancen und Risiken befürwortet der Verein zur Förderung der Digitalisierung in Gesundheitswesen e.V. grundsätzlich den verantwortungsvollen Einsatz von künstlicher Intelligenz.
Zehn Thesen zur Künstlichen Intelligenz
1.Dig-in-Health befürwortet eine gesellschaftlich kontrollierte Erforschung und Nutzung von KI. Eine auf die Technologie reduzierte Betrachtung ohne Einbeziehung angemessener Rahmenbedingungen ist problematisch.
2. Der Einsatz von künstlicher Intelligenz ist besonders nützlich, wenn es darum geht bestehende Lösungen zu optimieren. Zum Beispiel bei Screenings und bei der Früherkennung von Krankheiten oder bei der Verknüpfung von Datenräumen und in digitalen Ökosystemen. Im Vergleich zum Einsatz bei völlig neuen Prozessen sind die Risiken geringer, da bei bestehenden Lösungen in der Regel das erwartete Ergebnis bekannt ist.
3. KI ist und bleibt eine Technologie, d.h. ein Werkzeug, um Menschen die Arbeit zu erleichtern. Bestrebungen und Forderungen nach einer Ethik für virtuelle Intelligenz oder einer politischen Repräsentation von KI als eigenständige Personen zu etablieren ist – zumindest aus heutiger Sicht – verfrüht. Konzepte von „Freiheitsrechten“, kollegialer Diskussion mit KI auf Augenhöhe oder gar einen „Transhumanismus“, der die menschlichen Beschränkungen auf die Biologie aufhebt, unterstützt Dig-in-Health nicht.
4. KI darf nicht zur Diskriminierung, Kontrolle, Förderung von Ungleichheit, Verletzung von Menschenwürde und Menschenrechten eingesetzt werden.
5. Die Gesundheit als ein Gleichgewicht dauerhaft zu erhalten, muss täglich neu geübt und geleistet werden. Resilienz und Salutogenese entstehen erst durch die Menschen selbst „human-centric“. Ein falscher Einsatz von KI kann hier dazu führen, dass Menschen dies verlernen, zu bequem werden. Dies kann sich auf
das Immunsystem, und damit letztlich negativ auf die Gesundheit auswirken.
6. Künstliche Intelligenz“ (KI) hat das Potenzial, Akteure im Gesundheitssektor in Ihren Entscheidungen erheblich zu beeinflussen. Es ist daher durchaus vorstellbar, dass KI in der Zukunft selbst zu einem ‘Akteur’ wird, beispielsweise als Gatekeeper bei Kaufentscheidungen für gesundheitsbezogene Produkte. Wie bereits im Jahr 2023 absehbar, wird sich dieser Einfluss voraussichtlich noch verstärken, auch innerhalb von Versorgungsprozessen. Den Verein interessieren dabei insbesondere Fragen wie: ‘An welchen Punkten werden diese Entscheidungen getroffen?’,‘Welche Institutionen oder Personen repräsentieren diese Entscheidungen?’ und ‘Wie werden diese Entscheidungen gegebenenfalls um- und durchgesetzt?
7. Neuro- und Body-Enhancement kann perspektivisch durch “Künstliche Intelligenz“ stärker unterstützt werden, insbesondere bei schwerwiegenden Beeinträchtigungen durch Unfälle oder Erkrankungen. Dig-in-HEALTH legt auch hier den Fokus neben der rein technologischen Entwicklung auf die möglichen Rück-, Aus- und
Nebenwirkungen (Technologiefolgen-Abschätzung). “Künstliche Intelligenz“ muss von Anfang an in einen angemessenen Rahmen eingebettet sein. Die Persönlichkeitsrechte der Nutzer müssen gewahrt bleiben.
8. Daraus (7.) ergibt sich, dass mehr noch als bei den Fragen von Datenschutz und -nutzung („citizen driven“), neue Formen der Regulierung, Kontrolle und Governance5 entwickelt, erprobt und durchgesetzt werden müssen.
9. Wie bei jeder Technologie (Biowissenschaften, Atomtechnik, konventionelle Energietechnologien, etc.) bewirkt eine falsche Nutzung (zu wenig Wissen, Funktionalisierung für Machterhalt, Manipulation, etc. …) oft das Gegenteil des gewünschten Effekts.
10. Um unerwünschte Folgen der neuen Technologie zu verhindern, sollte ein intensives Veränderungsmanagement den Einsatz von KI begleiten. Dazu gehören insbesondere die Aufklärung der Betroffenen, Diskussion über Chancen und Risiken der KI, Nutzungsoptionen, Kontrolle und Veränderungsmöglichkeiten sowie die Einführung von „Spielregeln“ der Nutzung.
1Definition KI (Quelle: https://de.wikipedia.org/wiki/Künstliche_Intelligenz)
Künstliche Intelligenz (KI), auch artifizielle Intelligenz (AI), englisch „artificial intelligence“, ist ein Teilgebiet der Informatik. Es umfasst alle Anstrengungen, deren Ziel es ist, Maschinen intelligent zu machen. Dabei wird Intelligenz verstanden als die Eigenschaft, die ein Wesen befähigt, angemessen und vorausschauend in seiner Umgebung zu agieren; dazu gehört die Fähigkeit, Sinneseindrücke wahrzunehmen und darauf zu reagieren, Informationen aufzunehmen, zu verarbeiten und als Wissen zu speichern, Sprache zu verstehen und zu erzeugen, Probleme zu lösen und Ziele zu erreichen.
2https://de.wikipedia.org/wiki/Künstliche_Intelligenz_in_der_Medizin
3https://www.sueddeutsche.de/wissen/ethikrat-kuenstliche-intelligenz-menschen-veroeffentlichung-1.5771939
4https://www.denkfabrik-bmas.de/schwerpunkte/kuenstliche-intelligenz/stellungnahme-der-bundesregierung-zum-ki-weissbuch-der-eu-kommission
5https://de.wikipedia.org/wiki/Governance