chatbot

Med fremveksten av metoder innen forskningsfeltet kunstig intelligens, og da særlig maskinlæring, har fleksibiliteten og kvaliteten på chatbots blitt høyere. Bruken av chatbots i kommersielle løsninger har derfor blitt stadig mer utbredt.

I dag er de fleste chatbots basert på en språkmodell. Dette er statistiske modeller som ved hjelp av maskinlæringteknikker som nevrale nettverk er trent på store mengder tekstdata, som regel hentet fra internett. Språkmodellen brukes deretter som en generell representasjon av språket, slik at det er mulig å generere løpende tekst som ser og virker naturlig ut.

For å få modellen til å svare på forespørsler fra brukere, og på den måten bli en chatbot, finnes det ulike teknikker. Fordi språkmodellene er trent på store mengder tekst, er det også nødvendig å filtrere ut uønskede ord og fraser for å unngå at det blir generert støtende innhold. På grunn av størrelsen og kompleksiteten til disse modellene er dette en komplisert oppgave, og det er et forskningsfelt som er svært aktivt.

Fordi nyere chatbots er basert på språkmodeller, har de også mange av de samme problemene som disse modellene er kjente for, som for eksempel:

• Håndtering av personvern og etiske spørsmål knyttet til datainnsamling. Dette er aktuelle utfordringer som kan komme til å kreve fornyelse av lovverket. Det pågår blant annet flere saker knyttet til opphavsrett (per 2025).

• Dagens modeller kan gjengi upassende innhold og generere tekst som virker støtende. Dette gjelder spesielt innenfor kategorier som kjønn, etnisitet og religion.

• Innholdet i teksten som genereres, kan være overbevisende uten å være korrekt. Om en chatbot blir bedt om å redegjøre for eget svar, er det heller ingen årsakssammenheng mellom selve svaret og forklaringen, det er derfor mulig for en språkmodell å gi feil forklaring til riktig svar, eller riktig forklaring til galt svar.

I dag tilbyr flere av de store teknologiselskapene egne chatbots. Etterhvert som disse produktene blir tatt i bruk både av privatpersoner og det offentlige, for eksempel i søkemotorer og støtteverktøy, er det viktig å være klar over at utviklerne bak programmene er kommersielle selskaper, og at produktene derfor ikke kan anses som verdinøytrale eller er ment å gjenspeile en objektiv virkelighet. Ved et tradisjonelt nettsøk vil man for eksempel kunne se hvor informasjonen er hentet fra, noe som muliggjør kildekritikk, mens man ved bruk av en chatbot ikke alltid vil ha den samme muligheten til å ettergå informasjonen.

Forskning på det som i dag kalles chatbots startet allerede på midten av 1900-tallet, i takt med den økende utviklingen av datamaskiner. Interessen for maskiner som kan snakke og interagere med mennesker er mye eldre, men det er først med den digitale datamaskinen at man ser fremveksten av noe som kan minne om dagens chatbots.

Et kjent eksempel er programmet ELIZA, utviklet av Joseph Weizenbaum (1923–2008) ved MIT på 1960-tallet, som forsøkte å etterape en psykoterapeut. ELIZA, og andre samtidige chatbots, baserte seg i all hovedsak på statiske regler og setningsmaler, der brukernes svar og spørsmål ble forsøkt plassert i kategorier som utviklerne på forhånd hadde bestemt en passende type respons for.

Ettersom en samtale ofte inneholder flere avbrekk, ufullstendige setninger og hyppige bytter mellom hvem som fører ordet, er det utfordrende å formulere regler som tar høyde for alt. Likevel fungerte det overraskende bra, selv om metodene i dag blir sett på som nokså enkle.

ELIZA har blant annet gitt navn til et fenomen kjent som «ELIZA-effekten», som beskriver tendensen mennesker har til å tilskrive menneskelige egenskaper til datamaskiner med en gang de produserer symboler og tegn som kan minne om noe et menneske ville ha gjort, selv om prosessen bak ikke har noe menneskelig ved seg. ELIZA-effekten er dermed et eksempel på antropomorfisme.

• språkmodell
• kunstig intelligens
• språkteknologi