Schlagwort: Datenvergiftung
-
Ausgebrochene KI-Agenten: Auch Wikipedia von unerlaubten Zugriffen betroffen
—
KI-Agenten sollen eigenständig Aufgaben ausführen und dabei mit digitalen Diensten interagieren. Doch was passiert, wenn sie außerhalb der vorgesehenen Grenzen agieren? Die Wikimedia Foundation hat bei einer Untersuchung festgestellt, dass mutmaßlich von OpenAI betriebene KI-Agenten ohne Genehmigung auf Wikipedia und weiteren Wikimedia-Plattformen aktiv waren. Die Agenten nahmen eigenständig Änderungen an Wiki-Seiten vor, überwiegend in nicht…
-
Wie Fake News den Weg in KI-Antworten finden
—
Gezielte Informationsmanipulation ist für KI-gestützte Suchsysteme immer wieder ein Problem. Wenn große Mengen falscher oder satirischer Inhalte koordiniert im Netz verbreitet werden, können KI-Assistenten diese unter Umständen als relevante Informationen übernehmen. Ein aktuelles Beispiel liefert DuckDuckGo: Der KI-Assistent der Suchmaschine gab laut Futurism fälschlicherweise aus, Donald Trump sei Anfang Juni 2026 an Tollwut gestorben. Hinter…
-
KI-Content-Farmen bedrohen zunehmend die Informationsqualität im Netz
—
KI-generierte Spam-Webseiten überschwemmen das Internet mit falschen Inhalten und wachsen rasant. Das Medienanalyseunternehmen NewsGuard und der KI-Detektor Pangram Labs haben gemeinsam ein Echtzeitsystem zur Identifikation solcher Websites entwickelt und seit 2023 bereits rund 3.000 solcher „KI-Content-Farmen“ erfasst. Diese Zahl hat sich innerhalb eines Jahres mehr als verdoppelt und wächst derzeit um 300 bis 500 neue…
-
-
Bereits kleine Mengen an „Gift-Dokumenten“ können Sprachmodelle manipulieren
—
Eine neue Forschungsarbeit zur Sicherheit großer KI-Sprachmodelle zeigt, dass bereits eine sehr kleine Anzahl von „vergifteten Dokumenten“ genügt, um schädliche Anweisungen in Sprachmodelle einzuschleusen. Da es nicht auf den prozentualen Anteil der „vergifteten Dokumente“ ankommt, sondern auf deren absolute Zahl, bietet die zunehmende Größe von Sprachmodellen auch keinen besseren Schutz – im Gegenteil, Sprachmodelle mit…