Is het gevaarlijk om te vertrouwen op chatbots zoals ChatGPT?

In het digitale tijdperk van vandaag hebben chatbots, zoals ChatGPT, een opmerkelijke groei gekend in het leveren van snelle en gemakkelijke toegang tot informatie. Deze AI-aangedreven virtuele assistenten kunnen op verschillende gebieden helpen: van het beantwoorden van eenvoudige vragen tot het bieden van klantenservice. Terwijl ze ongetwijfeld voordelen bieden, moeten we ons bewust zijn van de potentiële gevaren die schuilen achter het blindelings vertrouwen op deze technologieën voor cruciale informatie.

Is de bekomen informatie betrouwbaar?

Chatbots zijn gebaseerd op machine learning en kunstmatige intelligentie. Hoewel ze snel kunnen leren en informatie kunnen verstrekken op basis van beschikbare gegevens, zijn ze afhankelijk van de kwaliteit en de aard van die gegevens. Dit betekent dat de informatie die ze verstrekken mogelijk niet altijd up-to-date of accuraat is. Het kan gebeuren dat de chatbot verouderde of onjuiste informatie biedt, wat ernstige gevolgen kan hebben als mensen deze informatie blindelings vertrouwen.

Stel je voor dat een aannemer een chatbot gebruikt om snel een overeenkomst op te stellen voor een nieuw project. De aannemer voert de details in, zoals projectomvang, kostenraming en projectduur, en vertrouwt op de chatbot om een contract te genereren op basis van deze informatie.

Het gevaar schuilt hier in het feit dat de chatbot mogelijks niet in staat is om de specifieke juridische en bouwgerelateerde nuances en vereisten volledig te begrijpen. Het kan bijvoorbeeld de wettelijke voorschriften voor bouwprojecten in een bepaald rechtsgebied niet correct interpreteren of kan belangrijke clausules en voorwaarden over het hoofd zien die in dergelijke contracten moeten worden opgenomen.

Dit kan leiden tot contracten die juridisch niet waterdicht zijn, belangrijke verplichtingen over het hoofd zien, of niet voldoen aan de wettelijke normen. Hierdoor kan het bouwproject geconfronteerd worden met ernstige juridische problemen, financiële verliezen en vertragingen, en dat enkel maar door het blindelings vertrouwen dat men stelt in de chatbot voor het opstellen van het contract.

Het benadrukt het belang van het raadplegen van juridische experts en het zorgvuldig controleren van contracten, zelfs als technologie wordt gebruikt om ze te genereren.
 

Begrijpt een chatbot wel de context?

Chatbots hebben moeite met het begrijpen van de volledige context van een vraag. Ze reageren op basis van patronen en sleutelwoorden in de ingevoerde tekst, wat kan leiden tot verkeerde interpretaties. Dit kan leiden tot miscommunicatie en het verstrekken van informatie die niet relevant is voor de specifieke behoeften van de gebruiker.

Stel je voor dat een aannemer via een chatbot informatie zoekt over "dakisolatie" voor een specifiek bouwproject. De aannemer bedoelt specifieke details over isolatiematerialen en -technieken die geschikt zijn voor daken. De chatbot begrijpt echter de vraag als een algemene zoekopdracht naar isolatiematerialen, zonder context naar specifieke dakconstructies. Het risico hier is dat de chatbot mogelijks antwoordt met een breed scala aan isolatiematerialen en hun algemene eigenschappen, wat niet direct relevant is voor het specifieke doel van de aannemer.

Dit gebrek aan contextueel begrip kan leiden tot gevaarlijke situaties. Het kan ook resulteren in het missen van belangrijke details of het ontvangen van ongeschikte informatie met alle gevolgen van dien. Dit maakt duidelijk dat informatie verkregen via chatbots altijd moet worden geverifieerd.

Het onderstreept hoe cruciaal het is voor bouwprofessionals om hun vragen en instructies duidelijk en specifiek te formuleren wanneer ze chatbots gebruiken. Onnauwkeurige of vage vraagstelling kan leiden tot verwarring en fouten, wat kostbaar kan zijn in de bouwsector waar precisie van groot belang is.
 

Verlies van menselijk contact?

Het groeiende gebruik van chatbots kan leiden tot een verlies van menselijke interactie in essentiële domeinen, zoals klantenservice. Hoewel chatbots efficiënt kunnen zijn, kan het ontbreken van empathie en begrip van menselijke emoties problematisch zijn in situaties waarin menselijk contact van onschatbare waarde is.

Stel je voor dat een bouwbedrijf besluit om chatbots te implementeren als de belangrijkste klantenservice-interactie voor hun klanten. Voorheen hadden klanten de mogelijkheid om te bellen of persoonlijk contact op te nemen met de klantenservicemedewerkers van het bedrijf voor vragen, klachten of ondersteuning bij bouwprojecten.

Het gevolg van deze verschuiving naar chatbots kan zijn dat klanten de menselijke interactie en de persoonlijke aandacht missen die ze eerder kregen. Bij het omgaan met complexe bouwprojecten, waarbij financiële investeringen en deadlines van belang zijn, kunnen klanten behoefte hebben aan een empathische en persoonlijke benadering om hun zorgen en vragen te bespreken. Chatbots kunnen moeite hebben met het begrijpen en adequaat reageren op de emoties en behoeften van klanten.

Dit verlies van menselijk contact kan resulteren in ontevredenheid en frustratie bij klanten, een gebrek aan vertrouwen in het bouwbedrijf en mogelijks zelfs verlies van zakelijke kansen. Het benadrukt het belang van het handhaven van een balans tussen automatisering en menselijke interactie in de bouwsector om te zorgen voor klanttevredenheid en het oplossen van complexe problemen die menselijke inzichten vereisen.
 

Wat zijn de privacy risico’s?

Chatbots verzamelen en verwerken vaak persoonlijke gegevens van gebruikers zoals hun vragen en voorkeuren. Dit brengt aanzienlijke privacyrisico’s met zich mee, aangezien deze gegevens kunnen worden misbruikt of onbedoeld kunnen worden gelekt. Als organisaties werken met chatbots is het essentieel dat ze de privacy van gebruikers serieus nemen en robuuste beveiligingsmaatregelen implementeren.
 

Kritisch blijven denken!

Hoewel chatbots zoals ChatGPT ongetwijfeld waardevolle hulpmiddelen zijn voor snelle informatievoorziening en automatisering van processen, is het van cruciaal belang dat gebruikers kritisch blijven bij het gebruik ervan. Het is niet verstandig om blindelings te vertrouwen op deze technologieën voor belangrijke beslissingen of het verkrijgen van nauwkeurige en betrouwbare informatie.

Menselijk toezicht, fact-checking en het gebruik van meerdere (betrouwbare) bronnen blijven essentiële praktijken om de potentiële gevaren bij het gebruik van chatbots te minimaliseren.

Als lid van Bouwunie kan je terecht bij onze adviseurs die jou altijd correcte adviezen en antwoorden geven. Dan ben je helemaal zeker van de juistheid ervan.
 

Nuttige websites

• foto genereren: firefly.adobe.com

• ChatGPT: chat.openai.com

Afbeelding gegenereerd door AI © Adobe Firefly