Wenn KI zur Routine wird: Welche Recherchekompetenzen müssen erhalten bleiben?

Mit dem zunehmenden Einsatz von KI in Unternehmen rückt eine Frage stärker in den Mittelpunkt: Reicht es aus, KI-Systeme „nur“ rechtlich und technisch abzusichern? Das EU-Forschungsprojekt AIOLIA argumentiert, dass verantwortungsvoller KI-Einsatz weitergedacht werden muss. Neben Datenschutz und Transparenz spielt auch die KI-Ethik eine entscheidende Rolle.

Als eine der ethischen Herausforderungen thematisiert der Bericht die Auswirkungen der KI auf die menschliche Kognition, gerade auch im professionellen Kontext. Je häufiger Beschäftigte Aufgaben an KI-Systeme delegieren, desto stärker stellt sich die Frage, welche Fähigkeiten sie langfristig selbst noch entwickeln („non-skilling“) und erhalten („deskilling“). „Wo die KI-Systeme gut funktionieren, verändern sie das Gleichgewicht zwischen menschlichem Urteilsvermögen und algorithmischen Ergebnissen auf eine Weise, die sich im Laufe der Zeit verstärkt.“ Zum Beispiel beeinflusst die KI, welche Argumentationsketten als verfolgenswert und welche Schlussfolgerungen als stichhaltig empfunden werden – ein Aspekt, auf den der AI Act nie ausgelegt war, schreibt Euractiv.

Auch das EU-Parlament und die EU-Kommission nennen in ihren beiden KI-Papieren De-Skilling ausdrücklich als Risiko und schlagen als Antworten auf den technologischen Wandel Up- und Re-Skilling vor.

Gleichzeitig entsteht laut dem AIOLIA-Bericht ein Zielkonflikt bei der Kontrolle von KI-Ergebnissen. Wird jede Information vollständig manuell überprüft, gehen wesentliche Effizienzvorteile verloren. Werden Ergebnisse dagegen weitgehend ungeprüft übernommen, steigen die Risiken für Fehler und eine schwer nachvollziehbare Informationsbasis. „Der Kompromiss […] hängt daher vom jeweiligen Kontext ab, in dem die KI eingesetzt wird, sowie von der Art der Entscheidungen, die sie unterstützt.“

Was bedeutet das für den KI-Einsatz in der professionellen Recherche?

KI sollte menschliche Recherchekompetenz ergänzen, nicht schrittweise ersetzen. Entscheidend ist deshalb nicht nur, ob ein KI-System korrekte Ergebnisse liefert, sondern auch, wie sich seine dauerhafte Nutzung auf Quellenkritik, Fachwissen und eigenständige Urteilsfähigkeit auswirkt.

Für Unternehmen bedeutet das, menschliche Kontrolle nicht lediglich formal vorzuschreiben, sondern festzulegen, bei welchen Aufgaben und Entscheidungen eine besonders intensive Prüfung notwendig ist. KI-Kompetenz wird dadurch zu mehr als der Fähigkeit, gute Prompts zu schreiben oder ein bestimmtes Tool zu bedienen. Beschäftigte müssen einschätzen können, wann KI sinnvoll eingesetzt werden kann, wann zusätzliche Quellen erforderlich sind und wann menschliche Fachkenntnis Vorrang haben sollte.

Von Maria Kleiner