Beth mae AI cynhyrchiol yn ei olygu i'r sector cyfathrebu
Mae AI (Deallusrwydd Artiffisial) cynhyrchiol - sy'n cynnwys offer fel ChatGPT a Midjourney - wedi mynd o fod yn dechnoleg gymharol anhysbys i bwnc sy'n dominyddu penawdau dyddiol ledled y byd. Dyma Benedict Dellot, Anna-Sophie Harling a Jessica Rose Smith o dimau Polisi Technoleg a Datblygu Polisi Diogelwch Ar-lein Ofcom yn trafod sut mae Ofcom yn ymateb i'r datblygiadau hyn.
Er mwyn cael ymdeimlad o ba mor gyflym y mae'r byd AI cynhyrchiol yn symud, y cyfan sydd angen i ni ei wneud yw edrych ar y nifer o fodelau newydd sydd wedi cael eu rhyddhau bob wythnos, neu faint o arian sydd wedi llifo i fusnesau AI newydd dros y misoedd diwethaf. Denodd y model mwyaf adnabyddus, ChatGPT, dros 100 miliwn o ddefnyddwyr yn ystod y ddau fis cyntaf ar ôl ei ryddhau. Adroddodd dadansoddwyr mai hwn oedd yr ap rhyngrwyd i ddefnyddwyr sydd wedi tyfu gyflymaf, gan ei gymharu â TikTok, a gymerodd naw mis i gyrraedd 100 miliwn o ddefnyddwyr, ac Instagram, a gymerodd dros ddwy flynedd.
Felly, beth mae hyn yn ei olygu ar gyfer dyfodol y sector cyfathrebiadau?
Trawsnewid y sector cyfathrebiadau
Waeth p'un a ydych yn credu bod gan AI cynhyrchiol y potensial i newid y byd er gwell, neu ei fod yn peri mwy o risgiau na buddion, mae'r rhan fwyaf o arbenigwyr yn cytuno ei fod yn debygol o gael effaith arwyddocaol ar ddyfodol ein heconomi a'n cymdeithas yn gyffredinol.
Mae hyn yn sicr yn wir am y diwydiannau cyfathrebu. O ddiogelwch telathrebu i gynnwys darlledu, ac o ddiogelwch ar-lein i reoli sbectrwm, mae AI cynhyrchiol yn siŵr o effeithio ar ddarpariaeth gwasanaethau traddodiadol, modelau busnes ac ymddygiad defnyddwyr.
Gallai llawer o'r newidiadau hyn fod yn fuddiol. Gellir defnyddio modelau AI cynhyrchiol wrth gynhyrchu, gan wella gallu cynhyrchwyr i greu effeithiau gweledol cymhellol. Yn yr un modd, ym maes diogelwch ar-lein, mae ymchwilwyr yn archwilio sut y gellir defnyddio AI cynhyrchiol i greu setiau data newydd - sydd hefyd yn cael eu galw'n ddata hyfforddi synthetig - i wella cywirdeb technolegau diogelwch. Gall AI cynhyrchiol amlygu gweithgarwch maleisus posib trwy nodi annormaleddau ar rwydwaith, gan warchod diogelwch data ac asedau ar-lein.
"O ddiogelwch telathrebu i gynnwys darlledu, mae AI cynhyrchiol yn siŵr o effeithio ar ddarpariaeth gwasanaethau traddodiadol, modelau busnes ac ymddygiad defnyddwyr"
Gallai'r defnydd o AI cynhyrchiol achosi risgiau hefyd. Gellid defnyddio offer efelychu llais a grëir gan offer AI cynhyrchiol i dwyllo pobl dros y ffôn trwy ddynwared anwyliaid. Gallai twyllwyr hefyd ddefnyddio modelau AI cynhyrchiol i greu cynnwys gwe-rwydo mwy effeithiol. Gallai AI cynhyrchiol achosi risgiau amrywiol i ddefnyddwyr gwasanaethau ar-lein, er enghraifft trwy alluogi pobl i gael mynediad haws at gyfarwyddiadau ar gyfer hunan-niweidio neu drwy ddarparu cyngor ar smyglo sylweddau anghyfreithlon.
Gellid defnyddio modelau AI cynhyrchiol hefyd i greu newyddion a chyfryngau 'ffug', a all ledu'n gyflym ar-lein, gan achosi heriau i newyddiadurwyr darlledu wrth ddilysu lluniau o ffynonellau ar-lein. Pryder cysylltiedig yw y gallai'r offer hyn gynhyrchu cynnwys newyddion anghywir yn anfwriadol neu gyflwyno cynnwys newyddion sy'n rhagfarnllyd tuag at argyhoeddiad gwleidyddol penodol, a allai danseilio ymdrechion i greu ecosystem newyddion plwralaidd ar-lein.
Sut mae Ofcom yn gweithio ar AI cynhyrchiol
Mae timau ar draws Ofcom yn monitro datblygiad AI cynhyrchiol yn agos. Mae ein timau technegol, ymchwil a pholisi yn ymgymryd ag ymchwil i ddeall yn well y cyfleoedd a'r risgiau newydd sy'n gysylltiedig â datblygu a defnyddio modelau AI cynhyrchiol ar draws y sectorau cyfathrebu y mae Ofcom yn eu rheoleiddio, a'r camau y mae datblygwyr a rhanddeiliaid eraill y diwydiant yn eu cymryd i liniaru'r risgiau hynny.
Rydym yn ymchwilio i sut y gall Ofcom fanteisio i'r eithaf ar y dechnoleg hon ar gyfer y diwydiannau cyfathrebu, gan sicrhau y gall defnyddwyr a sefydliadau ar draws ein sectorau elwa o'i botensial trawsnewidiol, ar yr un pryd â chael eu hamddiffyn rhag unrhyw niwed y mae'n ei achosi.
Beth rydyn ni'n ei wneud
- Gweithio gyda chwmnïau sy'n datblygu ac yn integreiddio offer AI cynhyrchiol a allai fod o fewn cwmpas y Mesur Diogelwch Ar-lein, i ddeall sut maent yn mynd ati'n rhagweithiol i asesu risgiau diogelwch eu cynhyrchion a rhoi mesurau lliniaru effeithiol ar waith i amddiffyn defnyddwyr rhag niweidiau posib.
- Monitro'r effaith ar ymwybyddiaeth cyfryngau pobl o ran technolegau newydd gan gynnwys AI cynhyrchiol a realiti estynedig a rhithwir.
- Cyhoeddi gwybodaeth ar gyfer y sectorau a reoleiddiwn am yr hyn y gallai AI cynhyrchiol ei olygu iddynt hwy a'u cyfrifoldebau i'w cwsmeriaid a'u defnyddwyr. Mae hyn yn cynnwys cyngor i ddarlledwyr y DU mewn bwletin diweddar, a fu'n esbonio sut mae'r defnydd o gyfryngau synthetig yn ddarostyngedig i'r Cod Darlledu.
- Adolygu'r dystiolaeth ynghylch technegau darganfod y gellid eu defnyddio i wahaniaethu rhwng delweddau a chynnwys fideo go iawn a'r hyn a gynhyrchir gan AI. Rydym hefyd yn ymchwilio i'r rôl y gall tryloywder ei chwarae wrth helpu i nodi a yw cynnwys wedi cael ei ddatblygu gan fodel AI dynol neu gynhyrchiol. Enghraifft dda yw safon y Fenter Dilysrwydd Cynnwys.
- Cymryd rhan mewn trafodaethau trwy felinau trafod rhyngwladol ar reoleiddio AI yn gyffredinol ac mewn grŵp arbenigol amlochrog i helpu wrth siapio arferion gorau sy'n dod i'r amlwg ar gyfer y defnydd moesegol o AI mewn newyddiaduraeth. Rydym hefyd yn gweithio gyda chyd-reoleiddwyr darlledu ar sut i ymgorffori gwybodaeth am AI mewn polisïau ymwybyddiaeth o'r cyfryngau.
- Parhau i adeiladu ein dealltwriaeth o AI cynhyrchiol – gan gynnwys trefnu 'wythnos dechnoleg' AI cynhyrchiol a ddaeth â siaradwyr allanol ynghyd i drafod datblygiadau yn y dechnoleg yn ogystal â mesurau i liniaru ei risgiau.
.
Rydym hefyd yn alinio ein hymdrechion â'n partneriaid rheoleiddio digidol trwy'r Fforwm Cydweithredu ar Reoleiddio Digidol. Fel rhan o hyn, byddwn yn cynnal nifer o drafodaethau yn fewnol ac yn allanol dros y misoedd nesaf i rannu ein hymchwil ar AI cynhyrchiol a nodi cyfleoedd ar gyfer cydweithredu pellach.
Ein camau nesaf
Rydym yn falch o weld llawer o randdeiliaid ar draws ein sectorau'n ymgymryd â gwaith i wireddu buddion AI cynhyrchiol ac ar yr un pryd isafu'r risgiau posib.
Pan fydd cwmnïau a darparwyr gwasanaeth yn integreiddio modelau AI cynhyrchiol yn eu cynhyrchion a'u gwasanaethau, rydym yn disgwyl iddynt ystyried y risgiau a'r niweidiau posib a allai godi. Rydym hefyd yn disgwyl i gwmnïau feddwl am ba systemau a phrosesau y gallent eu defnyddio i liniaru'r risgiau hynny. Mae tryloywder ynghylch sut mae'r offer hyn yn gweithio, sut y cânt eu defnyddio a'u hintegreiddio i wasanaethau, a pha gamau a gymerwyd i ymwreiddio mesurau amddiffyn rhag niwed yn debygol o fod yn hollbwysig i fagu hyder y gellir lleihau risgiau ac ar yr un pryd galluogi defnyddwyr i fwynhau'r buddion y gall AI cynhyrchiol eu darparu.
Mae Ofcom yn croesawu ymgysylltiad parhaus gan y rhai sy'n datblygu modelau AI cynhyrchiol yn ogystal â'r rhai sy'n ymgorffori AI cynhyrchiol yn eu gwasanaethau a'u cynhyrchion wrth i ni ystyried y materion hyn.
