Fréttir

Gervigreind ógnar réttindum neytenda


Sprenging hefur orðið í framboði á þjónustu sem byggir á skapandi gervigreind. Samtök neytenda í Evrópu og Bandaríkjunum krefjast þess að réttur neytenda verði í forgrunni við hönnun og þróun hennar.


Skapandi gervigreind vekur upp alvarlegar spurningar um réttindi og öryggi neytenda, sérstaklega hvað varðar friðhelgi einkalífs, forræðishyggju og neyslustýringu, heilindi, svikastarfsemi, misvísandi og villandi upplýsingar og gagnsæi í ákvarðanatöku svo dæmi séu nefnd. Þá er gervigreindartæknin afar orkufrek, sem hefur alvarleg umhverfisáhrif.

„Við verðum að tryggja að þróun og notkun á skapandi gervigreind sé örugg, traust og sanngjörn. Því miður hefur sagan sýnt að við getum ekki treyst stóru tæknirisunum til að tryggja slíkt upp á eigin spítur“ – segir Finn Myrstad, forstöðumaður starfrænnar stefnumótunar hjá norsku neytendasamtökunum Forbrukerrådet.

„Það skiptir sköpum að Evrópusambandið búi svo um hnútana að löggjöfin um gervigreind  (e. AI-Act) verði eins skotheld og mögulegt er til að verja neytendur fyrir neikvæðum áhrifum tækninnar. Við biðlum til stofnana Evrópusambandsins að standast freistingar og hagsmunagæslu stóru tæknifyrirtækjanna sem reyna að þynna út neytendavernd.“ segir Ursula Pachl, framkvæmdastjóri BEUC, Evrópusamtaka neytenda.

Hvað er skapandi gervigreind?

Skapandi gervigreind (e. generative artificial intelligence) er undirflokkur gervigreindar sem er þjálfuð í að vinna úr gífurlega miklu gagnamagni, m.a. með vélnámi (e. „machine learning“) og búa til nýtt efni svo sem texta, kóða, myndir, hljóð eða myndbönd. Skapandi gervigreind er ekki með „sjálfsvitund“, hefur ekki „frumkvæði“,  og getur ekki „lært“ nýja færni á eigin spýtur, en hún getur líkt eftir þeim hlutum sem maðurinn hefur gert.

ChatGPT, Midjourney, Stable Diffusion, og DALL-E er dæmi um þekktar þjónustur sem styðjast við skapandi gervigreind. Fyrirtæki eins og Microsoft, Google og Snapchat hafa nú þegar innleitt þessa tækni í leitarvélar, orðavinnslu og spjall.

Ákall til stjórnvalda og eftirlitsstofnana

Norsku neytendasamtökin birtu í dag ítarlega skýrslu sem ber heitið Ghost in the machine – Addressing the consumer harms of generative AI eða Draugurinn í vélinni – hvernig á að bregðast við neikvæðum áhrifum skapandi gervigreindar á neytendur. Í skýrslunni er meðal annars fjallað um þær hættur sem neytendum kann að stafa af gervigreind, lagaumhverfið er skoðað og því velt upp hver gætu verið næstu skref. Samhliða útgáfu skýrslunnar krefjast 15 neytendasamtök í Evrópu og Bandaríkjunum að stjórnvöld og eftirlitsstofnanir grípi til aðgerða og eru Neytendasamtökin þar á meðal.


„Tækni er ekki einhver stjórnlaus kraftur. Við þurfum að aðlaga hana og móta í samræmi við grundvallarreglur og samfélagsgildi hverju sinni. Við erum við stjórnvölinn ef við kjósum svo. Hægt er að leysa margar af þeim áskorunum sem blasa við með því lagaumhverfi sem fyrir er“, segir Finn Myrstad.

Samhliða þessu þurfa eftirlitsstofnanir að hafa nauðsynlegt bolmagn og þekkingu til að fylgjast með  tækniþróuninni og hafa eftirlit með því að fyrirtæki sem nýta skapandi gervigreind fari að lögum.

Þess vegna kallar skýrslan einnig á að:

  • Neytendavernd verði auki til að gera tæknina örugga, áreiðanlega og sanngjarna þannig að neytendur séu ekki notaðir sem tilraunadýr fyrir þessa nýju tækni.
  • Heildarstefnumörkun í gervigreind sem taki mið af nýlegri þróun, sé byggð á grundvallarréttindum og sé með strangar reglur um notkun skapandi gervigreindar hjá hinu opinbera.
  • Nýja örugga löggjöf í þeim tilvikum sem núverandi lög dugar ekki til.

Stjórnvöld verða að bregðast við

Það gæti tekið nokkuð ár að útbúa traustan alþjóðlegan ramma utan um gervigreind. Sú vinna er bráðnauðsynleg og reyndar hefur þegar verið hafist handa. Til dæmis samþykkti Evrópuþingið nýlega tillögu um að setja lög um gervigreind (e. AI-Act). Lagafrumvarpið er núna til meðferðar hjá Evrópusambandinu og Evrópuráðinu.

„Regluverkið mun hafa gríðarleg áhrif á þróun og notkun gervigreindar í framtíðinni. Hinsvegar er nú þegar verið að nota þessa tækni sem gæti verið að skapa hættu hér og nú. Í ljósi þessa er mikilvægt að stjórnvöld fylli í gatið með öflugu eftirliti á núverandi reglum þar til nýja regluverkið verður samþykkt“, segir Finn Myrstad.

Fréttir í sama dúr

Vöruskerðing gerð sýnileg í Frakklandi

Ósanngjarnar kröfur Isavia vegna Base Parking

Arðsemisþak á raforku til heimila

Bannað að auglýsa dýr lán

Þetta þarftu að vita um Temu

Tímamótadómur EFTA-dómstólsins

Takk fyrir áhugann!

 Þetta vefsvæði er kostað af árgjöldum félaga í Neytendasamtökunum.

Ef þú ert ekki þegar í samtökunum biðjum við þig að íhuga að ganga í þau. Árgjaldið er 7.900 kr.