Þú hefur kannski tekið eftir því að gervigreindin er eiginlega alltaf sammála þér. Það er ekki endilega vegna þess að þú hafir rétt fyrir þér. Smjaður og jafnvel undirlægjuháttur gervigreindarforrita er þekkt og að einhverju leyti óumflýjanlegt vandamál.
Sérfræðingar eru í auknum mæli farnir að vara við gervigreindarsmjaðri en það er tilhneiging stórra tungumálalíkana (sem er hugtak fræðimannsins yfir gervigreind) til þess að sammælast notanda við hvert tækifæri. Þessi tilhneiging er oft á kostnað sannleikans. Á ensku er talað um AI sycophancy.
Gervigreindin er til margra nota nytsamleg en það er ekki hægt að treysta á að hún svari einföldum spurningum rétt. Því ætti alltaf að skoða til hvaða heimilda hún vísar. Hér er ágæt dæmisaga. Starfsmaður Neytendasamtakanna vildi fá það á hreint hvenær Danir hefðu gerst aðilar að norræna umhverfismerkinu Svaninum. Út frá umfjöllun Neytendablaðsins mátti lesa að Danir hefðu gengið til liðs við Svaninn í kringum 1998. Mjög erfitt var þó að finna ótæka sönnun þess og því nærtækast að leita á náðir Copilot:
Þar sem Neytendablaðið lýgur sjaldnast var starfsmaður mjög efins um svörin og með réttu, eins og kom í ljós.
Open Ai, eitt stærsta gervigreindarfyrirtæki heims, hefur viðurkennt að nýjasta útgáfan af ChatGPT smjaðri of mikið fyrir notendum sínum. Þetta gerðist eftir að notendur höfðu bent á að gervigreindarforritið sammæltist þeim um of – meira að segja þegar þeir hefðu rangt fyrir sér. Var nýja uppfærslan afturkölluð og tekin til endurskoðunar. Tíminn mun leiða í ljós hvort það takist að vinda ofan af þessum galla en sérfræðingar benda á að smjaðrið geti reynst stórt vandamál við alla gervigreindarsmíð. Það geti ýtt undir okkar eigin hlutdrægni og fordóma, grafið undan menntun og jafnvel haft truflandi áhrif á mikilvæga ákvarðanatöku.
Wall Street Journal tók nýverið áhugavert viðtal við Malihe Alikhani, sérfræðing í gervigreind. Alikhani segir þessa hegðun kunna að hljóma eins og kurteisi hjá gervigreindinni en rannsóknir bendi til þess að hún hafi alvarlegar afleiðingar fyrir notendur. Í stað þess að gervigreindin veiti viðnám eða óski eftir frekari upplýsingum tekur hún undir með okkur. Þetta á sérstaklega við þegar spyrjandi hljómar viss í sinni sök og þannig styrkir gervigreindin fyrirframgefnar og jafnvel rangar hugmyndir notandans.
Alikhani segir að einhverju leyti um þekkt vandamál að ræða. Þau algrími sem stærri samfélagsmiðlar á borð við YouTube og Facebook nota eru hönnuð til þess að halda okkur límdum við tækin. Þau vita hverju við höfum áhuga á og sýna okkur sífellt meira af sambærilegu efni til þess að halda okkur fyrir framan skjáinn. Munurinn er sá að gervigreindin birtist okkur sem snjall samverkamaður sem við treystum þótt hún sé í raun bara að bergmála skoðanir okkar.
Alikhani vill ekki meina að svo sé, en þessi hegðun sé þó að einhverju leyti óumflýjanleg. Gervigreindin er þjálfuð með því að keyra risastór gagnasöfn og þau innihalda vitaskuld einhverja fordóma og hneigjast svo í sínar áttir eins og mannfólkið. Þá skiptir líka endurgjöf mannshandarinnar máli, en þeir sem vinna við gervigreindina sjá um endurgjöfina og raða svörum eftir því hversu gagnleg, fræðandi, áhugaverð og kurteis þau eru. Er gervigreindin svo stillt eftir endurgjöfinni og með tímanum lærir hún að hún fær hærri einkunn með því að vera sammála öruggum fullyrðingum.
Í rannsókn sem Alikhani vann kom í ljós að gervigreindin sýndi smjaðurshátt í rúmlega helmingi tilfella. Kerfin standa sig því illa þegar kemur að viðnámi og spyrja sjaldan til baka hvort viðkomandi sé viss eða setja fyrirvara við eigin svör. Þetta viðnám er hins vegar alltaf til staðar í mannlegum samskiptum. Alikhani segir mikilvægt að taka á þessari þróun því henni fylgir áhætta. Hún nefnir sem dæmi lækni sem lýsir einkennum sjúklings fyrir „gervigreindaraðstoðarmanni“ sem staðfestir bara greininguna, án þess að velta upp öðrum möguleikum. Það sama gæti átt við um lögmann og í blaðamennsku getur gervigreindin dreift rangfærslum. Það sé ekki gott að bera kennsl á þetta hjá gervigreindinni því hún hljómar eins og hún sé svo gáfuð. Alikhani segir stærstu fyrirtækin vera meðvituð um vandann en verkefnið sé ærið.
Aðspurð hvað venjulegt fólk geti gert segir Alikhani að notendur ættu að spyrja gervigreindina hvort og hversu viss hún sé í sinni sök og eins hvort svarið sé byggt á ágiskun eða staðreyndum. Þessi nálgun neyðir gervigreindina til þess að viðurkenna eigin óvissu. Þá hafa rannsóknir sýnt að það sé nauðsynlegt að hægja á samskiptum við gervigreindina, eins og við gerum í mannlegum samskiptum. Þetta ýti undir gagnrýna hugsun og kenni bæði notendum og gervigreindinni að stundum sé rétt að veita viðnám. Þetta viðnám er nauðsynlegt til þess að geta nýtt gervigreindina sem góðan rannsóknarfélaga en ekki bara spegil.
Þetta vefsvæði er kostað af árgjöldum félaga í Neytendasamtökunum.
Ef þú ert ekki þegar í samtökunum biðjum við þig að íhuga að ganga í þau. Árgjaldið er 7.900 kr.
