Für Verantwortliche in Technik und IT
Deterministisch oder generativ: Was KI im technischen Support richtig machen muss
Ein Chatbot, der improvisiert, ist ein Haftungsrisiko, wenn die Antwort ein Verdrahtungsschritt ist. Was das Air-Canada-Urteil, die Forschung zu Halluzinationen und die KI-Verordnung der EU für Hersteller bedeuten.
Lingo
4 Min. Lesezeit
Wenn ein KI-Chatbot eine Erstattungsregel falsch wiedergibt, kostet das ein paar Hundert Dollar und eine Schlagzeile. Wenn er den Anschluss einer Schließkantensicherung falsch wiedergibt, bleibt das Tor nicht stehen, wenn ein Kind darunter steht. Hersteller brauchen eine andere Art von KI als die, über die in den Nachrichten berichtet wird, und es lohnt sich, den Unterschied genau zu benennen.
Kurz gefasst
- Generative Systeme formulieren jedes Mal eine neue Antwort. Deterministische Systeme geben für jede Situation, die sie erkennen, eine freigegebene Antwort und übergeben alles andere an einen Menschen.
- Ein kanadisches Tribunal behandelte den Chatbot eines Unternehmens so, als spräche das Unternehmen selbst: Air Canada musste sich an eine Regelung halten, die sein Chatbot erfunden hatte.
- Selbst die besten Sprachmodelle bauen noch Fehler ein, wenn sie ein vorgegebenes Dokument zusammenfassen. Bei Verdrahtung und sicherheitsrelevanten Schritten sollte die Antwort diejenige sein, die Ihre Techniker freigegeben haben.
Zwei Wege, eine Frage zu beantworten
Zwei Ansätze, einem Installateur zu antworten
Dieselbe Frage, zwei Wege zur Antwort
Generativ
- Der Installateur stellt eine Frage
- Das Modell sucht Textstellen, die passend erscheinen
- Daraus schreibt es eine neue Antwort
- Der Wortlaut und manchmal auch der Inhalt können sich von einem Installateur zum nächsten ändern
Deterministisch
- Der Installateur stellt eine Frage
- Das System ordnet sie einer Antwort zu, die das Unternehmen freigegeben hat
- Es stellt die nächste dokumentierte Frage oder nennt die dokumentierte Lösung
- Keine freigegebene Antwort: Die Frage geht an einen Menschen
Sprachmodelle sind sehr gut in der ersten Hälfte des deterministischen Wegs: zu verstehen, dass „das Tor schließt nicht und zeigt E12“ und „E12, Rolltor hängt halb offen“ dieselbe Situation beschreiben. Die beiden Ansätze unterscheiden sich darin, was danach geschieht. Schreibt das Modell die Antwort, oder übergibt es an eine Antwort, die Ihre Techniker bereits geprüft haben?
Der Chatbot ist das Unternehmen
Im Februar 2024 entschied ein kanadisches Tribunal den Fall Moffatt v. Air Canada. Der Chatbot auf der Website der Fluggesellschaft hatte einem Kunden mitgeteilt, er könne die Erstattung nach dem Trauerfalltarif auch nach der Reise beantragen. Die tatsächliche Regelung der Fluggesellschaft sah etwas anderes vor. Air Canada argumentierte sinngemäß, der Chatbot sei für seine Aussagen selbst verantwortlich. Das Tribunal sah das anders, stellte eine fahrlässige Falschauskunft fest und machte die Fluggesellschaft für sämtliche Informationen auf ihrer Website verantwortlich. Es verurteilte Air Canada zur Zahlung von 650,88 kanadischen Dollar Schadensersatz, mit Zinsen und Gebühren 812,02 kanadische Dollar.
Die Summe war klein. Der Grundsatz ist es nicht.
Ein Hersteller, der einen Assistenten Montagehinweise improvisieren lässt, steht für diese Hinweise ein, und die Folgen, wenn jemand sie befolgt, sind selten nur eine Flugpreiserstattung.
Wie oft liegen Modelle falsch?
Es gibt keine einheitliche Fehlerquote für KI, und wer eine nennt, will etwas verkaufen. Eine viel zitierte öffentliche Messung ist die Halluzinations-Rangliste von Vectara: Die Modelle erhalten ein Dokument, sollen es zusammenfassen, und anschließend wird geprüft, ob die Zusammenfassung etwas behauptet, das nicht im Dokument steht. Beim Stand vom 22. September 2026 umfasste sie 108 Modelle. Das beste fügte in 1,8 % der Zusammenfassungen etwas hinzu, das nicht in der Quelle stand, das schlechteste in 24,2 %. Vectara bewertet die Zusammenfassungen mit einem eigenen Modell anhand eines nicht öffentlichen Datensatzes und hat diesen Datensatz im November 2025 geändert, frühere Werte sind daher nicht vergleichbar.
Daraus folgt zweierlei. Die besten Modelle sind inzwischen sehr gut, und selbst die besten fügen noch in etwa einer von fünfzig Zusammenfassungen etwas hinzu, das nicht in der Quelle stand. Für den Entwurf einer E-Mail ist das in Ordnung. Für das Anzugsmoment einer Bremse, die Klemmen einer Brandmeldeauslösung oder die Reihenfolge der Schritte, die ein Tor sicher macht, ist es das nicht.
Nutzen Sie das Modell, um die Frage zu verstehen. Antworten Sie mit dem, was Ihre Techniker freigegeben haben.
Fünf Fragen an jeden Anbieter von KI-Support
| Frage | Eine gute Antwort |
|---|---|
| Woher stammt jede einzelne Antwort? | Aus einem benannten Dokument mit Seitenangabe oder aus einem Pfad, den Ihr Team freigegeben hat. Nicht „aus dem Modell“. |
| Wer gibt eine Antwort frei, bevor Installateure sie sehen? | Jemand aus Ihrem Technik-Team, namentlich, und die Änderung wird protokolliert. |
| Was geschieht, wenn das System nicht weiterweiß? | Es sagt das und gibt die Frage samt Gesprächsverlauf an einen Menschen weiter. Es versucht es nicht trotzdem. |
| Bekommen zwei Installateure auf dieselbe Frage dieselbe Antwort? | Das sollten sie: dieselben veröffentlichten Schritte, bis Ihr Team sie ändert. |
| Sagt es dem Installateur, dass es ein automatisierter Dienst ist? | Das sollte es, ab der ersten Nachricht. In der EU muss der Anbieter das seit dem 2. August 2026 sicherstellen. |
Lingo folgt dem zweiten Ansatz: Guides werden aus Ihrer Dokumentation entworfen, und nichts wird veröffentlicht, bevor Ihr Technik-Team es mit dem Quelldokument abgeglichen hat. Ein Installateur kann jederzeit nach einem Menschen fragen. Unser Artikel darüber, wie Lingo aus einem Handbuch einen Guide macht, geht jeden Schritt durch.
Quellen
- Moffatt v. Air Canada, 2024 BCCRT 149British Columbia Civil Resolution Tribunal, 14. Februar 2024. Randnummern 27, 40 und 44.
- AI gone wild: airline has to honor a refund policy its chatbot fabricatedManatt, Phelps and Phillips, Februar 2024.
- Air Canada chatbot decisionDaily Hive, Februar 2024. Zugesprochene Beträge.
- Hallucination leaderboardVectara, Stand 22. September 2026. Vom Anbieter selbst betriebener Benchmark. Zusammenfassung eines vorgegebenen Dokuments, bewertet mit Vectaras eigenem Modell.
- Transparency obligations under Article 50 AI ActEuropäische Kommission, Juli 2026.
- AI Act, Article 113: entry into force and applicationAI Act Service Desk der Europäischen Kommission, Juli 2026.
Häufige Fragen
Was ist der Unterschied zwischen deterministischer und generativer KI im technischen Support?
Ein generatives System schreibt jedes Mal eine neue Antwort aus dem, was es gelernt oder abgerufen hat, sodass sich der Wortlaut und manchmal auch der Inhalt ändern können. Ein deterministisches System gibt für jede Situation, die es erkennt, eine feste, vorab freigegebene Antwort und übergibt alles andere an einen Menschen. Bei Verdrahtung, Sicherheitseinstellungen und Fehlersuche ist der zweite Ansatz der sicherere.
Kann ein Unternehmen für die Aussagen seines Chatbots haftbar gemacht werden?
Ja. Im Fall Moffatt v. Air Canada (Februar 2024) machte ein kanadisches Tribunal die Fluggesellschaft für eine Erstattungsregelung verantwortlich, die der Chatbot auf ihrer Website falsch dargestellt hatte, und verurteilte sie, dem Kunden 650,88 kanadische Dollar Schadenersatz zu zahlen. Das Tribunal behandelte den Chatbot als Teil der Unternehmenswebsite.
Verlangt die KI-Verordnung der EU, dass Chatbots sich als KI zu erkennen geben?
Ja. Artikel 50 Absatz 1 der KI-Verordnung der EU gilt seit dem 2. August 2026. Er verpflichtet Anbieter von KI-Systemen, die direkt mit Menschen interagieren, sicherzustellen, dass diese Menschen erfahren, dass sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist.
