Welche Risiken und Grenzen gibt es?

KI kann nicht alles!

KI-basierte Werkzeuge und Chatbots können viel — aber nicht alles.

Hier geht es darum, grundlegende Risiken kennenzulernen und zu verstehen, wie man idealerweise mit Daten und Ergebnissen umgehen sollte, die sie erzeugen.

Risiken und Grenzen

Insbesondere generative KI-Modelle, so wie die Sprachmodelle, die wir hier einsetzen, haben einige Risiken, derer man sich bewusst sein sollte. Die wichtigsten zwei sind:

• Halluzinationen — Ein Sprachmodell kann selbstbewusst Dinge behaupten, die einfach nicht stimmen. Es klingt überzeugend, ist aber falsch.
• Bias — Modelle übernehmen Muster aus ihren Trainingsdaten. Das kann zu Einseitigkeit, Stereotypen und blinden Flecken führen.
• Wissensgrenzen — Sprachmodelle wissen nur, was in ihren Trainingsdaten steht – sie haben erst einmal keinen Zugriff auf externe, neue Informationen. Darüber hinaus repräsentieren Sprachmodelle Wissen nicht im Sinne von Wahrheit oder Fakten, sondern als Wahrscheinlichkeiten.

Verlasse dich daher nicht blind auf Ausgaben, die du nicht selbst überprüfen kannst. Nutze KI-Antworten als Entwurf oder Anstoß — nicht als Beleg.

Was mit deinen Daten passiert

Der Schutz deiner Daten ist uns wichtig. Deshalb kannst du bei jedem Werkzeug und Chatbot nachsehen, wie die Risiken mit Blick auf den Datenschutz und mit Blick auf die EU-KI-Verordnung eingeschätzt und eingeordnet werden.

Grundsätzlich hilft es, im Kopf zu behalten, dass deine Daten auf unterschiedliche Art und Weise gespeichert und verarbeitet werden. Ganz grundsätzlich werden deine Eingaben in den meisten Fällen an ein (externes) Sprachmodell weitergeben. Darüber hinaus werden manche Daten, z. B. deine Profildaten, direkt in der Datenbank von UniAiKit KI-Werkzeuge gespeichert. Je nachdem, welche Funktionen du verwendest, werden mehr oder weniger Daten gespeichert.

Beispiel – Zusammenfassung

Wenn du das Werkzeug „Zusammenfassung“ verwendest, wird deine Eingabe an eine*n sogenannten KI-Inferenzanbieter*in gesendet. Wir achten darauf, Anbieter*innen zu wählen, die extrem hohe Standards an den Datenschutz haben. Innerhalb von UniAiKit KI-Werkzeuge werden, insofern du nicht z. B. die Funktion „In Ordner speichern“ verwendest, keine inhaltlichen Daten, z. B. deine Eingabe, gespeichert.

Anbieter*innen und Eingaben

Bei der Bewertung des Datenschutzrisikos ist es insbesondere wichtig, zu prüfen, welche*r Anbieter*in die Daten verarbeitet – handelt es sich z. B. um eine*n kommerziellen Anbieter*in oder werden die KI-Modelle von der Hochschule selbst betrieben? Darüber hinaus ist es wichtig, sich im klaren darüber zu sein, welche Daten man eingibt: Handelt es sich um quasi öffentliche Daten oder werden z. B. sensible personenbezogene Daten verarbeitet?

PII-Maskierung und Nachhaltigkeitsmodus

Um die Risiken – auch für unsere Welt – zu reduzieren, kannst du in deinem Profil bzw. den Einstellungen zwei wichtige Einstellungen vornehmen. Die „PII-Maskierung“ versucht automatisiert personenbezogene Daten aus deinen Eingaben auszufiltern. Der „Nachhaltigkeitsmodus“ senkt den Energieverbrauch, indem Funktionen abgeschaltet und kleinere Modelle verwendet werden.