Voor technisch en IT-management
Deterministisch of generatief: wat AI in de technische support goed moet doen
Een chatbot die improviseert is een risico als het antwoord een bedradingsstap is. Wat de Air Canada-uitspraak, onderzoek naar hallucinaties en de AI-verordening van de EU voor fabrikanten betekenen.
Lingo
4 min leestijd
Als een AI-chatbot een restitutiebeleid verkeerd weergeeft, kost dat een paar honderd dollar en een krantenkop. Als hij de aansluiting van een veiligheidslijst verkeerd weergeeft, stopt de deur niet voor het kind dat eronder staat. Fabrikanten hebben een ander soort AI nodig dan de AI die in het nieuws is, en het loont om het verschil precies te benoemen.
In het kort
- Generatieve systemen stellen elke keer een nieuw antwoord samen. Deterministische systemen geven een goedgekeurd antwoord voor elke situatie die ze herkennen en zetten al het andere door naar een medewerker.
- Een Canadees tribunaal behandelde de chatbot van een bedrijf alsof het bedrijf zelf sprak: Air Canada moest een regeling nakomen die zijn chatbot had verzonnen.
- Zelfs de beste taalmodellen maken nog fouten bij het samenvatten van een document dat ze aangereikt krijgen. Voor bedrading en veiligheidsstappen moet het antwoord het antwoord zijn dat uw engineers hebben goedgekeurd.
Twee manieren om een vraag te beantwoorden
Twee ontwerpen om een installateur te antwoorden
Dezelfde vraag, twee routes naar het antwoord
Generatief
- Installateur stelt een vraag
- Het model zoekt passages die relevant lijken
- Het schrijft daar een nieuw antwoord uit
- De formulering, en soms de inhoud, kan per installateur verschillen
Deterministisch
- Installateur stelt een vraag
- Het systeem koppelt de vraag aan een antwoord dat het bedrijf heeft goedgekeurd
- Het stelt de volgende gedocumenteerde vraag of geeft de gedocumenteerde oplossing
- Geen goedgekeurd antwoord: de vraag gaat naar een medewerker
Taalmodellen zijn erg goed in de eerste helft van de deterministische route: begrijpen dat ‘de deur gaat niet dicht en ik zie E12’ en ‘E12, roldeur blijft halfopen hangen’ dezelfde situatie zijn. De ontwerpvraag is wat er daarna gebeurt. Schrijft het model het antwoord, of draagt het over aan een antwoord dat uw engineers al hebben gecontroleerd?
De chatbot is het bedrijf
In februari 2024 deed een Canadees tribunaal uitspraak in Moffatt v. Air Canada. De chatbot op de website van de luchtvaartmaatschappij had een klant verteld dat hij na zijn reis nog restitutie op basis van het rouwtarief kon aanvragen. Het werkelijke beleid van de maatschappij zei iets anders. Air Canada voerde in feite aan dat de chatbot zelf verantwoordelijk was voor zijn woorden. Het tribunaal ging daar niet in mee, oordeelde dat er sprake was van een onjuiste voorstelling van zaken door nalatigheid en hield de maatschappij verantwoordelijk voor alle informatie op haar website. Air Canada moest C$ 650,88 schadevergoeding betalen, C$ 812,02 inclusief rente en kosten.
Het bedrag was klein. Het principe is dat niet.
Een fabrikant die een assistent installatieadvies laat improviseren, is verantwoordelijk voor dat advies, en de gevolgen van het opvolgen ervan zijn zelden een terugbetaald ticket.
Hoe vaak zitten modellen ernaast?
Er bestaat niet één foutpercentage voor AI, en wie er een noemt, wil u iets verkopen. Een veel aangehaalde openbare meting is het hallucination leaderboard van Vectara, dat modellen een document geeft, ze vraagt het samen te vatten en vervolgens controleert of de samenvatting iets beweert wat niet in het document staat. Bij de update van 22 september 2026 omvatte het 108 modellen. Het beste model voegde in 1,8% van de samenvattingen iets toe wat niet in de bron stond, het slechtste in 24,2%. Vectara beoordeelt de samenvattingen met een eigen model op een niet-openbare dataset en heeft die dataset in november 2025 gewijzigd, zodat eerdere cijfers niet vergelijkbaar zijn.
Daar volgen twee dingen uit. De beste modellen zijn inmiddels erg goed, en zelfs de beste voegen nog in ruwweg één op de vijftig samenvattingen iets toe wat niet in de bron stond. Voor het opstellen van een e-mail is dat prima. Het is niet prima voor het aanhaalmoment van een rem, de klemmen voor de ontgrendeling bij brandalarm of de volgorde van stappen die een deur veilig maakt.
Gebruik het model om de vraag te begrijpen. Gebruik het goedgekeurde antwoord van uw engineers om te antwoorden.
Vijf vragen voor elke leverancier van AI-support
| Vraag | Een goed antwoord |
|---|---|
| Waar komt elk antwoord vandaan? | Een met name genoemd document en een pagina, of een pad dat uw team heeft goedgekeurd. Niet ‘het model’. |
| Wie keurt een antwoord goed voordat installateurs het zien? | Iemand van uw technisch team, met naam, waarbij de wijziging wordt vastgelegd. |
| Wat gebeurt er als het systeem het niet weet? | Het zegt dat en zet de vraag door naar een medewerker, met het gesprek erbij. Het doet niet alsnog een poging. |
| Krijgen twee installateurs met dezelfde vraag hetzelfde antwoord? | Dat hoort zo te zijn: dezelfde gepubliceerde stappen, totdat uw team ze aanpast. |
| Vertelt het de installateur dat het een geautomatiseerde dienst is? | Dat hoort het te doen, vanaf het eerste bericht. In de EU moet de aanbieder daar sinds 2 augustus 2026 voor zorgen. |
Lingo is gebouwd op het tweede ontwerp: gidsen worden opgesteld op basis van uw documentatie, en er wordt niets gepubliceerd voordat uw technisch team het met het brondocument heeft vergeleken. Een installateur kan op elk moment om een medewerker vragen. Ons artikel over hoe Lingo van een handleiding een gids maakt loopt elke stap door.
Bronnen
- Moffatt v. Air Canada, 2024 BCCRT 149British Columbia Civil Resolution Tribunal, 14 februari 2024. Punten 27, 40 en 44.
- AI gone wild: airline has to honor a refund policy its chatbot fabricatedManatt, Phelps and Phillips, februari 2024.
- Air Canada chatbot decisionDaily Hive, februari 2024. Toegekende bedragen.
- Hallucination leaderboardVectara, bijgewerkt op 22 september 2026. Benchmark van de leverancier zelf. Samenvatting van een aangeleverd document, beoordeeld door Vectara’s eigen model.
- Transparency obligations under Article 50 AI ActEuropese Commissie, juli 2026.
- AI Act, Article 113: entry into force and applicationAI Act Service Desk van de Europese Commissie, juli 2026.
Vragen die vaak worden gesteld
Wat is het verschil tussen deterministische en generatieve AI in technische support?
Een generatief systeem schrijft elke keer een nieuw antwoord op basis van wat het heeft geleerd of opgezocht, waardoor de formulering en soms de inhoud kan veranderen. Een deterministisch systeem geeft een vast, vooraf goedgekeurd antwoord voor elke situatie die het herkent en zet al het andere door naar een medewerker. Voor bedrading, veiligheidsinstellingen en storingzoeken is het tweede het veiligere ontwerp.
Kan een bedrijf aansprakelijk worden gehouden voor wat zijn chatbot zegt?
Ja. In Moffatt v. Air Canada (februari 2024) hield een Canadees tribunaal de luchtvaartmaatschappij verantwoordelijk voor een restitutieregeling die de chatbot op haar website verkeerd had beschreven, en veroordeelde het de maatschappij tot betaling van C$ 650,88 schadevergoeding aan de klant. Het tribunaal beschouwde de chatbot als onderdeel van de website van het bedrijf.
Verplicht de AI-verordening van de EU chatbots om te zeggen dat ze AI zijn?
Ja. Artikel 50, lid 1, van de AI-verordening van de EU is sinds 2 augustus 2026 van toepassing. Het verplicht aanbieders van AI-systemen die rechtstreeks met mensen communiceren ervoor te zorgen dat die mensen te horen krijgen dat ze met een AI-systeem te maken hebben, tenzij dat duidelijk is.
