Wie trifft KI Entscheidungen? Nicht so, wie Sie denken.

KI trifft Entscheidungen nicht so, wie Sie es tun. Die meisten Systeme verarbeiten Eingangsdaten, wenden eine während des Trainings erlernte, feste Funktion darauf an, berechnen einen Wert und prüfen dann, ob dieser einen zuvor festgelegten Schwellenwert überschreitet. Es findet keine Abwägung von Optionen, keine Überlegung, keine Beurteilung statt. Dieses Verständnis beeinflusst, wen Sie tatsächlich zur Verantwortung ziehen sollten, wenn ein algorithmisches Ergebnis Sie betrifft.

WICHTIGSTE ERKENNTNISSE

• Die meisten KI-Systeme wägen Optionen nicht so ab wie Menschen. Viele berechnen aus den Eingabedaten einen numerischen Wert und vergleichen ihn mit einem zuvor festgelegten Schwellenwert.
• Aufruf der algorithmischen Ausgabe a “"Entscheidung"” verschiebt stillschweigend die moralische und rechtliche Verantwortung von den Menschen, die das System entwickelt und eingesetzt haben, auf das System selbst.
• Eine Umfrage unter KI-Forschern aus dem Jahr 2023 ergab, dass nur 20 Prozent es für wahrscheinlich halten, dass die Nutzer bis 2028 die wahren Gründe für die Ausgabe eines KI-Systems kennen werden.
• Sowohl Artikel 22 der DSGVO als auch das EU-KI-Gesetz verlangen Erklärungen für automatisierte Entscheidungen, die Menschen betreffen, doch 60 Prozent der Produktionsmodelle bleiben faktisch unerklärbar.
• den Mechanismus dahinter verstehen “KI-Entscheidungen” Es ändert sich, wen Sie zur Rechenschaft ziehen, wenn ein algorithmisches Ergebnis Sie betrifft.

Wie trifft KI Entscheidungen?

Die meisten KI-Systeme treffen keine Entscheidungen im herkömmlichen Sinne, etwa wenn man sich für ein Mittagessen entscheidet. Ein Klassifikator verarbeitet Eingabedaten, analysiert sie anhand von während des Trainings erlernten Parametern und erzeugt einen Wert. Ein Kreditgenehmigungsmodell gewichtet Ihre persönlichen Umstände nicht so, wie es ein Kreditsachbearbeiter tun würde. Es wandelt Ihre Daten in einen Score um und prüft, ob dieser Score einen festgelegten Grenzwert überschreitet.

Ein Einstellungsalgorithmus entscheidet nicht auf dieselbe Weise über eine Ablehnung wie ein Personalmanager. Er berechnet eine Zahl und vergleicht sie mit einem von jemand anderem festgelegten Schwellenwert. Die Ablehnung ist real. “"Entscheidung,"” Im menschlichen Sinne des Abwägens von Gründen und der Entscheidungsfindung ist es eine Metapher. Und Metaphern leisten viel im Stillen.

Diese Metapher ist nicht neutral. Sie prägt unsere Art, über Verantwortlichkeit zu sprechen, wie wir Regulierungen gestalten und wie wohl wir uns dabei fühlen, folgenreiche Entscheidungen Systemen zu überlassen, die nicht dafür geschaffen wurden, Entscheidungen so zu treffen, wie wir es meinen, wenn wir sie treffen.

Was geschieht tatsächlich im Inneren? “"Entscheidung"”?

Bei Klassifizierungssystemen besteht der Mechanismus im Mustervergleich mit gelernten Gewichten und einem Schwellenwert, nicht im logischen Denken.
Während des Trainings passt ein Modell Millionen interner Parameter an, um Fehler anhand von Beispieldaten zu minimieren. Jeder Parameter erfasst einen kleinen statistischen Zusammenhang zwischen Eingaben und Ergebnissen. Wenn man einem trainierten Klassifikator neue Daten zuführt, multipliziert er die Eingaben mit diesen Parametern und berechnet einen Wert. Dieser Wert überschreitet entweder einen Schwellenwert oder nicht.

Diese Schwellenwertbeschreibung passt gut zu Klassifikatoren wie Betrugserkennung, Kreditwürdigkeitsprüfung und Einstellungsprüfung. Weniger gut eignet sie sich für generative Systeme wie große Sprachmodelle, die Ausgabe Token für Token durch einen iterativen Prozess erzeugen, der von der Dekodierungsstrategie und nicht von einer einfachen Bewertung und Schwellenwertprüfung bestimmt wird. Der grundlegende Punkt bleibt jedoch bestehen: Es gibt keinen Schritt, in dem das System Alternativen so abwägt wie ein Mensch. Der spezifische Mechanismus unterscheidet sich lediglich durch die Architektur.

Warum nennen wir es immer noch eine Entscheidung?

Die Sprache spielt hier eine wichtige Rolle, und zwar nicht unschuldig.

Wenn wir von einem Algorithmus sprechen “"entschieden"” Wenn wir Ihren Kreditantrag ablehnen, verorten wir die Verantwortung implizit innerhalb des Systems. Diese Sichtweise erleichtert es, das Ergebnis zu akzeptieren, und erschwert es, zu fragen, wer die Schwellenwerte festgelegt, die Trainingsdaten ausgewählt und entschieden hat, dass dieses System einsatzbereit ist. Die Entscheidungssprache verschleiert eine Kette menschlicher Entscheidungen hinter einem einzigen Wort, das den Eindruck erweckt, die Maschine habe die Entscheidung getroffen.

Dies ist keine semantische Spitzfindigkeit. DSGVO Artikel 22 gewährt Einzelpersonen haben das Recht auf eine Begründung, wenn eine Entscheidung getroffen wird “ausschließlich durch automatisierte Verfahren”. Diese regulatorische Formulierung behandelt den Algorithmus als Entscheidungsträger, was prägt, wem Unternehmen eine Erklärung schulden und wie sie diese Erklärung gestalten.

Können KI-Systeme ihre eigenen Ergebnisse tatsächlich erklären?

Größtenteils nicht, und die Forschungsergebnisse dazu sind ernüchternder, als die meisten Berichte vermuten lassen.

A Umfrage unter KI-Forschern aus dem Jahr 2023 Gefragt wurde, ob typische, hochmoderne KI-Systeme im Jahr 2028 in der Lage sein werden, die wahren Gründe für ihre Ergebnisse wahrheitsgemäß und verständlich zu erklären. Nur 20 Prozent gaben an, dass die Wahrscheinlichkeit dafür höher als 50 Prozent sei. Die heute existierenden Techniken, wie etwa die Bewertung der Merkmalswichtigkeit, die Visualisierung der Aufmerksamkeit und kontrafaktische Erklärungen, beschreiben Korrelationen, auf denen das Modell basiert. Sie liefern jedoch keine Begründung, wie sie ein Mensch für eine Entscheidung geben würde.

Die Kluft zwischen Erklärbarkeitstechniken und einer echten Erklärung ist der Punkt, an dem die meisten Bemühungen um die Nachvollziehbarkeit von KI derzeit scheitern. Man kann zwar eine plausibel klingende Erklärung dafür liefern, welche Eingabemerkmale am wichtigsten waren. Ob diese Erklärung jedoch widerspiegelt, was tatsächlich im Modell geschah, oder ob es sich selbst um eine separate, darüberliegende Annäherung handelt, ist eine offene technische Frage.

Wo spielt das tatsächlich eine Rolle?

Der Einsatz steigt rapide an, sobald “KI-Entscheidungen” beginnen, das Leben der Menschen auf eine Weise zu beeinflussen, gegen die sie nicht vorgehen können.

Kreditwürdigkeitsprüfungen, Einstellungsverfahren, Versicherungspreisgestaltung und Inhaltsmoderation laufen zunehmend auf Systemen, deren interne Logik selbst die Entwickler nicht vollständig nachvollziehen können. Die Regulierungsbehörden reagieren direkt auf diese Lücke. EU-KI-Gesetzgebung erfordert Die Dokumentation zur Transparenz von Hochrisikosystemen soll vorläufig bis spätestens 2. Dezember 2027 gelten, vorbehaltlich der formellen Verabschiedung. Das Gesetz SB 26-189 des US-Bundesstaates Colorado verpflichtet Anwender von automatisierten Entscheidungstechnologien, offenzulegen, wie diese ihre Entscheidungen beeinflussen. Die Einhaltung dieser Vorschrift beginnt am 1. Januar 2027.

Diese Regeln setzen einen Entscheidungsträger voraus, der zur Rechenschaft gezogen werden kann. Tatsächlich regulieren sie jedoch eine Bewertungsfunktion und die Personen, die diese konfiguriert haben – etwas, das sich schwieriger klar gesetzlich regeln lässt als die … “"Entscheidung"” Die Rahmung legt es nahe.

Wer ist eigentlich verantwortlich, wenn “"Entscheidung"” Was passiert, wenn etwas schiefgeht?

Nicht der Algorithmus, denn der Algorithmus wurde nicht dafür entwickelt, irgendetwas im menschlichen Sinne auszuwählen.

Die Verantwortung liegt bei denjenigen, die die Trainingsdaten ausgewählt, den Schwellenwert festgelegt, die akzeptable Fehlerrate bestimmt und das System zur Implementierung freigegeben haben. Wenn ein Einstellungsalgorithmus qualifizierte Kandidaten mit einem bestimmten Hintergrund systematisch aussortiert, besteht die Lösung nicht darin, den Algorithmus zu bitten, seine Vorgehensweise zu überdenken. Vielmehr müssen die Trainingsdaten, der Schwellenwert und die Personen, die beides freigegeben haben, überprüft werden.

Manche Informatiker würden hier widersprechen, und das zu Recht: Technisch gesehen wählt ein Klassifikator tatsächlich eine Klasse gegenüber einer anderen aus, und ein RL-Agent wählt eine Aktion gegenüber einer anderen aus. Das sind legitime Anwendungsfälle. “"Entscheidung"” In der Informatik. Was diese operative Bedeutung nicht erfasst, ist die moralische und deliberative Bedeutung, die dem Wort im alltäglichen Sprachgebrauch innewohnt – die Bedeutung, die entscheidend ist, wenn wir fragen, wer für das Ergebnis verantwortlich ist. Umfang und architektonische Komplexität schließen diese Lücke nicht. Eine komplexere Berechnung bleibt eine Berechnung, keine Ermessensfrage.

Häufig gestellte Fragen

F: Denkt KI tatsächlich nach, bevor sie eine Entscheidung trifft?

Nicht im menschlichen Sinne. Die meisten KI-Systeme berechnen eine Ausgabe anhand einer festen, während des Trainings erlernten Funktion, ohne Alternativen abzuwägen oder zu überdenken. Was wie Denken aussieht, ist lediglich Mustererkennung anhand statistischer Beziehungen in den Trainingsdaten, die jedes Mal auf dieselbe Weise durchgeführt wird.

F: Kann ich eine Erklärung für eine KI-Entscheidung erhalten, die mich betrifft?

Gemäß Artikel 22 der DSGVO haben Sie in der EU ein Recht auf eine Begründung für ausschließlich automatisiert getroffene Entscheidungen. In der Praxis beschreibt die Begründung, welche Einflussfaktoren das Ergebnis beeinflusst haben, nicht aber die tatsächliche interne Logik des Systems, da die meisten Produktionsmodelle selbst für ihre Entwickler schwer nachvollziehbar sind.

F: Wer trägt die Verantwortung, wenn ein KI-System eine Fehlentscheidung trifft?

Diejenigen, die das System entwickelt, geschult und implementiert haben, wählten die Trainingsdaten aus, legten die zulässigen Fehlergrenzen fest und gaben das System zur Nutzung frei. Das System kann keine moralische Verantwortung tragen, da es nicht dafür konzipiert wurde, Gründe so abzuwägen wie ein Mensch.

F: Werden KI-Systeme jemals in der Lage sein, ihre Entscheidungen wirklich zu erklären?

Die Lage ist ungewiss, und die Experten sind nicht optimistisch. Eine Umfrage unter KI-Forschern aus dem Jahr 2023 ergab, dass nur 20 Prozent es für wahrscheinlich hielten, dass Nutzer bis 2028 die wahren Gründe für die Ergebnisse eines KI-Systems kennen würden. Aktuelle Erklärbarkeitstechniken nähern sich den Gründen an, anstatt sie direkt offenzulegen.

Künstliche Intelligenz trifft Entscheidungen nicht so wie wir. Die meisten Systeme berechnen Werte und gleichen diese mit von Menschen festgelegten, getesteten und freigegebenen Schwellenwerten ab. Jedes Mal, wenn wir sagen, ein Algorithmus habe “entschieden”, übertragen wir ihm stillschweigend die Verantwortung, die eigentlich den Menschen zusteht, die ihn entwickelt haben. Genau diese Verantwortungslücke versuchen die Regulierungsbehörden nun eiligst zu schließen.