Sprachmodelle sind darauf trainiert, Sprache zu reproduzieren, und sind nicht in der Lage, Inhalte oder Konzepte tatsächlich zu verstehen. Die Annäherung an Wissen erfolgt demnach rein semantisch. Aus diesem Grundsatz lassen sich Stärken und Schwächen ableiten.
Empfohlen: Sprachmodelle für sprachliche Aufgaben
Generative Sprachmodelle sind dafür trainiert, Sprache zu reproduzieren. Daher eignet sich ihr Einsatz besonders für Sprachoptimierungen, Stiländerungen oder Übersetzungen. In diesem Anwendungsbereich sind Fehler vergleichsweise selten. Sprachanwendungen beherrschen grundsätzlich alle leistungsfähigen Sprachmodelle wie z.B. Gemini, ChatGPT oder Claude. Speziell auf die sprachliche Überarbeitung von Texten ausgerichtet ist DeepL Write: Ein KI-gestütztes Schreibassistenz-Tool, das Texte sprachlich verbessert, alternative Formulierungen vorschlägt und den Stil anpassen kann.
Mit Vorsicht zu verwenden: Sprachmodelle für Inhaltliche Abfragen
In der Technologie von Sprachmodellen sind keine inhaltlichen Konzepte hinterlegt; entsprechend sind Fehler und Unschärfen im generierten Output möglich. Da Sprachmodelle Sätze auf Basis von Wahrscheinlichkeiten generieren, bleibt eine gewisse Unschärfe dieser Technologie inhärent.
Als Faustregel gilt: Gut dokumentierte Themen wie beispielsweise Allgemeinwissen sind in den Trainingsdaten stark vertreten und werden daher mit höherer Wahrscheinlichkeit korrekt generiert. Bei weniger bekannten, lokalen, sehr spezifischen oder kritischen Fakten besteht hingegen ein erhöhtes Risiko für inhaltlich falsche Angaben – sogenannte Halluzinationen. Diese wirken oft plausibel und überzeugen sprachlich, sind aber inhaltlich ungenau oder falsch. Inhalte aus KI-Antworten sollten deshalb regelmässig mit einer Websuche überprüft und mit zwei bis drei vertrauenswürdigen Quellen abgeglichen werden. Diese als Faktencheck bezeichnete Vorgehensweise sollte bei der Arbeit mit KI ein fester Bestandteil der Arbeitsroutine sein.
Die Unschärfe von Sprachmodellen verträgt sich zudem schlecht mit der Präzision, die in naturwissenschaftlichen Bereichen wie Mathematik, Chemie oder Physik erforderlich ist. Für entsprechende Fragestellungen empfiehlt es sich, spezialisierte Tools zu verwenden, etwa Wolfram Alpha oder MathGPT. Bei solchen KI-Tools sind Sprachmodelle mit symbolischen Ansätzen (z. B. mathematischen oder physikalischen Funktionen) gekoppelt, weshalb in der Regel zuverlässigere Ergebnisse zu erwarten, aber Fehler weiterhin wahrscheinlich sind. /// zu besprechen: funktioniert Wolfram Alpha bei euch zuverlässig??
Die gleiche Problematik zeigt sich auch beim Erstellen von Quellenangaben. Die Präzision, die korrekte Referenzen erfordern, können viele generative Sprachmodelle nicht zuverlässig leisten. Es ist daher stets mit Fehlern zu rechnen – etwa mit nicht existierenden Publikationen, ungenauen bibliografischen Angaben oder nicht funktionierenden Links.
Texte zusammenfassen lassen
Das Zusammenfassen von Texten ist eine verbreitete Anwendung, die jedoch eine kritische Prüfung erfordert. Da KI nicht zuverlässig beurteilen kann, was in einem bestimmten Kontext relevant und vollständig ist, bleibt es ungewiss, ob alle wichtigen Aspekte des Originaltextes tatsächlich enthalten sind. Es ist hilfreich im Prompt bereits konkret Aspekte zu benennen, welche in der Zusammenfassung zwingend berücksichtigt werden sollen und das Zielpublikum der Zusammenfassung zu benennen.
Ein Upload von Textdokumenten zur Zusammenfassung ist nur zulässig, wenn die Zustimmung der Urheberschaft vorliegt. Kläre deshalb vorgängig ab, ob du einen Text hochladen darfst: Wer hat ihn verfasst, welche Lizenz gilt, und was sagt die Regelung an deiner Schule dazu?