Künstliche Intelligenz

Ethische Aspekte

Der Einsatz von Künstlicher Intelligenz in der ambulanten Suchthilfe wirft wichtige ethische Fragen auf. Da wir mit besonders schutzbedürftigen Personen und hochsensiblen Daten arbeiten, ist es unerlässlich, dass wir uns dieser Aspekte bewusst sind und sie in unserer täglichen Praxis berücksichtigen. Die Europäische Union und auch Deutschland haben hierzu bereits grundlegende Prinzipien formuliert, die als Leitplanken dienen.

Welche ethischen Aspekte müssen wir im Umgang mit KI in der ambulanten Suchthilfe besonders beachten?

  1.  

  • KI-Systeme sollen Mitarbeitende unterstützen, aber keinesfalls ersetzen. Wichtig ist, dass Fachkräfte die Kontrolle über die Anwendungen behalten und KI als Werkzeug zur Unterstützung einsetzen. Beratungsangebote vor Ort dürfen nicht durch digitale Systeme verdrängt werden. KI-Systeme sind Werkzeuge, die uns unterstützen, aber die Letztverantwortung für Entscheidungen und Handlungen liegt immer bei der menschlichen Fachkraft. Das bedeutet, dass KI uns nicht bevormunden oder unsere menschliche Entfaltung einschränken darf. Gerade in der Suchthilfe, in der Empathie, Beziehungsarbeit und individuelle Fallkonstellationen entscheidend sind, kann KI die menschliche Intuition und das Mitgefühl nicht ersetzen.
  • Um die Klient*innen- und Organisationsdaten sicher und verantwortungsvoll zu verarbeiten, sind mehrere Grundsätze zu beachten. Zunächst gilt das Prinzip der Datenminimierung. Das bedeutet, es dürfen nur die Daten erhoben und genutzt werden, die für den vorgesehenen Zweck unbedingt erforderlich sind. Darüber hinaus ist die Zweckbindung verpflichtend. Das heißt, dass die erhobenen Daten ausschließlich für den konkreten, vorher festgelegten Zweck verwendet werden dürfen. Eine darüber hinausgehende Nutzung ist nicht erlaubt. Ein ganz wesentlicher Aspekt ist die Einwilligung der Klient*innen. Bevor Daten durch KI-Systeme genutzt werden, muss eine klare, informierte und freiwillige Zustimmung eingeholt werden. Die Betroffenen sollen genau wissen, wofür ihre Daten verwendet werden und welche Rechte sie dabei haben. Schließlich müssen umfassende technische Schutzmaßnahmen umgesetzt werden, um die Privatsphäre und die Sicherheit der Daten zu gewährleisten. Dazu gehören Verfahren wie die Verschlüsselung gespeicherter und übertragener Daten, der Einsatz strenger Zugangskontrollen sowie, wo möglich, die Anonymisierung oder Pseudonymisierung personenbezogener Informationen. Nur durch die Beachtung dieser Grundsätze kann eine verantwortungsvolle und datenschutzkonforme Nutzung von KI in der Suchthilfe gewährleistet werden und das Vertrauen der Ratsuchenden erhalten bleiben.

  • Ein zentraler Aspekt ist Fairness zu gewährleisten und Diskriminierung konsequent zu vermeiden. KI-Systeme „lernen” aus den Daten, mit denen sie trainiert werden. Sind diese Daten jedoch unvollständig, fehlerhaft oder spiegeln gesellschaftliche Vorurteile wider, kann es passieren, dass die KI diese übernimmt und sogar verstärkt. Dadurch besteht die Gefahr, dass bestimmte Gruppen von Klient*innen benachteiligt werden, beispielsweise aufgrund ihres kulturellen, religiösen oder geschlechtlichen Hintergrunds. Diese unerwünschte Beeinflussung wird als Bias bezeichnet und kann zu diskriminierenden Bewertungen oder unangemessenen Empfehlungen führen. Gerade in der Suchthilfe ist es daher eine ethische Pflicht, besonders aufmerksam mit diesen Risiken umzugehen. Es muss sichergestellt werden, dass die eingesetzten KI-Systeme möglichst vielfältige Perspektiven abbilden und niemanden aufgrund von Herkunft, Religion, Geschlecht oder anderer persönlicher Merkmale benachteiligen. Nur so kann die Chancengleichheit aller Ratsuchenden gewahrt und eine faire, bedarfsgerechte Unterstützung sichergestellt werden.

  • Ein weiterer entscheidender Grundsatz beim Einsatz von KI in der Suchthilfe ist die Transparenz und Erklärbarkeit der Systeme. Fachkräfte und Klient*innen müssen nachvollziehen können, wie eine KI zu einem bestimmten Ergebnis oder einer Empfehlung gelangt ist. Wenn ein KI-System beispielsweise ein erhöhtes Rückfallrisiko meldet, müssen Anwender*innen verstehen können, auf welcher Grundlage diese Einschätzung erfolgt ist. Nur durch diese Nachvollziehbarkeit entsteht das notwendige Vertrauen in die Technologie. Zudem können die Ergebnisse so kritisch überprüft und bei Bedarf korrigiert werden. Transparente und erklärbare KI-Systeme unterstützen somit sowohl die fachliche Qualität als auch die Rechte und das Vertrauen der Klient*innen.

  • Insbesondere im sensiblen Bereich der Suchthilfe müssen KI-Systeme stets zuverlässig und sicher arbeiten. Nur so lassen sich Fehlfunktionen, Manipulationen und Missbrauch wirkungsvoll verhindern. Gerade im Gesundheitsbereich können Fehler gravierende Folgen für die Betroffenen haben. Daher ist es besonders wichtig, dass die eingesetzten Systeme sorgfältig geprüft und überwacht werden und auch unter unterschiedlichen Bedingungen stabil und vertrauenswürdig funktionieren. 

  • Die Rechenschaftspflicht ist ein zentraler Grundsatz beim Einsatz von KI-Systemen. Von Anfang an muss klar festgelegt sein, wer innerhalb der Organisation die Verantwortung übernimmt, falls die KI einen Fehler macht oder einen Schaden verursacht. Dabei gilt: Die rechtliche und ethische Verantwortung liegt immer bei den Menschen, die das System entwickeln, in die Praxis einführen und nutzen. Auch wenn KI-Systeme automatisierte Entscheidungen treffen, liegt die Verantwortung stets bei den Fachkräften, Entwickler*innen und Leitungspersonen, die das System begleiten und nutzen. Klare Zuständigkeiten und transparente Dokumentationsprozesse sind deshalb unerlässlich. Auf diese Weise kann im Problem- oder Schadensfall schnell nachvollzogen werden, wer für den Einsatz der KI-Systeme zuständig ist. Dadurch können Anliegen betroffener Personen angemessen bearbeitet werden.

  • Die persönliche Beziehung und das empathische Miteinander bilden das Herzstück der Suchthilfe. Mitgefühl, Verständnis und menschliche Nähe sind durch keine Technologie zu ersetzen und spielen eine entscheidende Rolle für den Behandlungserfolg. Beim Einsatz von KI ist es daher besonders wichtig, dass diese menschlichen Elemente nicht in den Hintergrund geraten. KI-Systeme sollten lediglich als unterstützendes Werkzeug dienen, das die Arbeit von Fachkräften ergänzt – beispielsweise bei der Informationsverarbeitung oder bei organisatorischen Abläufen. Die zentrale Aufgabe der Beziehungsgestaltung und empathischen Begleitung bleibt jedoch den Menschen vorbehalten. So kann sichergestellt werden, dass Klient*innen verantwortungsvoll und persönlich begleitet werden und der für die Suchthilfe besonders wichtige menschliche Faktor nicht verloren geht.

  • Beim Einsatz KI-gestützter Angebote ist es besonders wichtig, die Freiwilligkeit zu respektieren. Beratende und Klient*innen sollten jederzeit selbst entscheiden können, ob sie diese Lösungen nutzen möchten. Sie müssen stets die Möglichkeit haben, zu entscheiden, ob sie digitale Unterstützung in Anspruch nehmen möchten. Diese Wahlfreiheit schützt die Selbstbestimmung und stellt sicher, dass individuelle Bedürfnisse und Präferenzen respektiert werden. KI soll in der Suchthilfe lediglich zusätzliche Möglichkeiten bieten. Nur so kann die Qualität und Menschlichkeit der Suchthilfe erhalten bleiben und Barrieren für Hilfesuchende können vermieden werden.

  • Der Einsatz von KI sollte stets dem Gemeinwohl dienen und zu einer besseren Gesundheitsversorgung beitragen. Das Potsdamer Memorandum empfiehlt insbesondere gemeinnützig finanzierte KI-Anwendungen als Open-Source-Lösungen zu entwickeln. Dadurch werden Transparenz und Zusammenarbeit gefördert und der Nutzen für die Gesellschaft insgesamt erhöht (Bundesministerium für Wirtschaft und Klimaschutz, 2021 & Bundesverband Digitale Wirtschaft (BVDW) e. V., 2024 & Brandenburgische Landesstelle für Suchtfragen e. V., 2024).