Ein omnipräsentes Thema im schulischen Kontext sind KI-Detektoren. Viele Lehrpersonen haben das Bedürfnis, Texte von Schüler:innen durch einen Detektor prüfen zu lassen, um eine Einschätzung darüber zu erhalten, zu welchem Anteil ein Text von einer KI generiert oder von Menschen geschrieben wurde. Solche Detektoren funktionieren jedoch nicht zuverlässig – und werden dies voraussichtlich auch künftig nur eingeschränkt leisten können.

Erkennungssysteme gehen davon aus, dass Menschen abwechslungsreicher und Maschinen gleichförmiger formulieren. Dieses Konzept greift jedoch zu kurz: Denkt nur daran, wie gleichförmig Menschen oft in einer Fremdsprache formulieren. Es gab Bestrebungen, Wasserzeichen in generierte Texte zu integrieren, die für Menschen unsichtbar, aber vom jeweiligen Toolhersteller erkennbar wären. Solche Wasserzeichen könnten jedoch nur vom selben Anbieter erkannt werden und bieten in einer Realität mit unzähligen Sprachmodellen ebenfalls keine Verlässlichkeit.

Rechtsfall aus Hamburg

In einem Beschluss vom 15. Dezember hat das Verwaltungsgericht Hamburg klargestellt, dass der Einsatz von KI-Instrumenten wie ChatGPT bei unbenannten Hausarbeiten und Leistungsnachweisen im konkreten Fall als Täuschungsversuch gewertet werden kann. Für schulische Leistungen gilt grundsätzlich das Gebot der Eigenständigkeit. Wer ein Hilfsmittel nutzt, das diese Eigenleistung wesentlich beeinflusst oder ersetzt, muss sich dies in der Regel vorab genehmigen lassen. Die Richter stellten zudem fest, dass ein Täuschungsversuch auch dann vorliegen kann, wenn kein ausdrückliches KI-Verbot formuliert wurde. Eine Anweisung, die Aufgabe in eigenen Worten zu bearbeiten («use your own words»), kann bereits ausreichen, um die Verwendung generativer KI auszuschliessen. Bericht von Heise, Beschluss.