Sprachmodelle sind darauf trainiert, Sprache zu reproduzieren, und sind nicht in der Lage, Inhalte oder Konzepte tatsächlich zu verstehen. Die Annäherung an Wissen erfolgt demnach rein semantisch. Aus diesem Grundsatz lassen sich Stärken und Schwächen ableiten.
Empfohlen: Sprachmodelle für sprachliche Aufgaben
Generative Sprachmodelle sind dafür trainiert, Sprache zu reproduzieren. Daher eignet sich ihr Einsatz besonders für Sprachoptimierungen, Stiländerungen oder Übersetzungen. In diesem Anwendungsbereich sind Fehler vergleichsweise selten. Sprachanwendungen beherrschen grundsätzlich alle leistungsfähigen Sprachmodelle wie z.B. Gemini, ChatGPT oder Claude. Speziell auf die sprachliche Überarbeitung von Texten ausgerichtet ist DeepL Write: Ein KI-gestütztes Schreibassistenz-Tool, das Texte sprachlich verbessert, alternative Formulierungen vorschlägt und den Stil anpassen kann.

Mit Vorsicht zu verwenden: Sprachmodelle für Inhaltliche Abfragen
In der Technologie von Sprachmodellen sind keine inhaltlichen Konzepte hinterlegt; entsprechend sind Fehler und Unschärfen im generierten Output möglich. Da Sprachmodelle Sätze auf Basis von Wahrscheinlichkeiten generieren, bleibt eine gewisse Unschärfe dieser Technologie inhärent.
Als Faustregel gilt: Gut dokumentierte Themen wie beispielsweise Allgemeinwissen sind in den Trainingsdaten stark vertreten und werden daher mit höherer Wahrscheinlichkeit korrekt generiert. Bei weniger bekannten, lokalen, sehr spezifischen oder kritischen Fakten besteht hingegen ein erhöhtes Risiko für inhaltlich falsche Angaben – sogenannte Halluzinationen. Diese wirken oft plausibel und überzeugen sprachlich, sind aber inhaltlich ungenau oder falsch. Inhalte aus KI-Antworten sollten deshalb regelmässig mit einer Websuche überprüft und mit zwei bis drei vertrauenswürdigen Quellen abgeglichen werden. Diese als Faktencheck bezeichnete Vorgehensweise sollte bei der Arbeit mit KI ein fester Bestandteil der Arbeitsroutine sein.
Die Unschärfe von Sprachmodellen verträgt sich zudem schlecht mit der Präzision, die in naturwissenschaftlichen Bereichen wie Mathematik, Chemie oder Physik erforderlich ist. Für entsprechende Fragestellungen empfiehlt es sich, spezialisierte Tools zu verwenden, etwa Wolfram Alpha oder MathGPT. Bei solchen KI-Tools sind Sprachmodelle mit symbolischen Ansätzen (z. B. mathematischen oder physikalischen Funktionen) gekoppelt, weshalb in der Regel zuverlässigere Ergebnisse zu erwarten, aber Fehler weiterhin wahrscheinlich sind.

Die gleiche Problematik zeigt sich auch beim Erstellen von Quellenangaben. Die Präzision, die korrekte Referenzen erfordern, können viele generative Sprachmodelle nicht zuverlässig leisten. Es ist daher stets mit Fehlern zu rechnen – etwa mit nicht existierenden Publikationen, ungenauen bibliografischen Angaben oder nicht funktionierenden Links.
Texte zusammenfassen lassen
Das Zusammenfassen von Texten ist eine verbreitete Anwendung, die jedoch eine kritische Prüfung erfordert. KI kann nicht zuverlässig beurteilen, welche Informationen für einen bestimmten Zweck relevant sind und wie stark einzelne Aspekte gewichtet werden sollen. Deshalb sollte geprüft werden, ob die Zusammenfassung die zentralen Aussagen des Originaltextes vollständig, inhaltlich korrekt und in ihrem Zusammenhang wiedergibt. Auch durch Umformulierungen können Bedeutungsnuancen verloren gehen oder verändert werden. Hilfreich ist es, im Prompt den Zweck und das Zielpublikum der Zusammenfassung sowie Aspekte zu benennen, die zwingend berücksichtigt werden sollen.
Beim Hochladen von Textdokumenten müssen Urheberrecht und Nutzungsrechte beachtet werden. Kläre deshalb vorgängig, ob du einen Text in ein KI-Tool hochladen und dort verarbeiten lassen darfst: Wer hat den Text verfasst, wem gehören die Nutzungsrechte und unter welcher Lizenz wurde er veröffentlicht?