Diogelwch ar-lein: ein hagenda ymchwil

Risg a niwed ar-lein

Mae deall natur, achosion ac effeithiau niwed ar-lein yn ganolog i’n dyletswyddau diogelwch ar-lein. Mae’r Ddeddf Diogelwch Ar-lein yn gwahaniaethu rhwng cynnwys anghyfreithlon, fel deunydd cam-drin plant yn rhywiol, terfysgaeth a chynnwys casineb, a chynnwys nad yw’n anghyfreithlon ond a allai fod yn niweidiol i blant, fel pornograffi a chynnwys sy’n annog neu’n hyrwyddo anhwylderau bwyta.

Er bod gennym eisoes lawer o arbenigedd a thystiolaeth am y rhain, bydd sicrhau bod ein sylfaen dystiolaeth yn gyfredol i adlewyrchu’r datblygiadau diweddaraf yn broses barhaus.

Casineb a therfysgaeth

Mae defnyddio gwasanaethau ar-lein i ysgogi a radicaleiddio pobl agored i niwed, gan gynnwys plant, tuag at gasineb a thrais yn peri risg fawr. Gall arwain at ganlyniadau difrifol a phellgyrhaeddol, gan gynnwys i leiafrifoedd wedi’u targedu a grwpiau gwarchodedig. Yn y maes hwn sy’n newid o hyd, mae parhau i adeiladu ar ein dealltwriaeth o’r niwed hwn ar draws yr amrywiaeth enfawr o wasanaethau sydd o fewn ein cwmpas yn hanfodol i ni.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Mesurau diogelwch yn y dyfodol a allai fod yn effeithiol o ran lliniaru yn erbyn lanlwytho cynnwys/gweithgarwch casineb a therfysgaeth a’i ledaenu ar-lein.
• Technegau ar gyfer dysgu mwy am yr ymddygiadau a’r nodweddion sy’n gysylltiedig â phobl sy’n cyflawni iaith casineb a gweithgarwch/cynnwys terfysgol ar-lein.
• Technegau ar gyfer dysgu mwy am y berthynas rhwng gwasanaethau chwarae gemau ac iaith casineb ac eithafiaeth.

Camwybodaeth a thwyllwybodaeth

Mae camwybodaeth yn un o’r niwed posibl mwyaf cyffredin y mae oedolion a phlant yn dod ar ei draws ar-lein. Mae dyletswydd Ofcom i hyrwyddo ymwybyddiaeth o'r cyfryngau yn cynnwys helpu'r cyhoedd i ddeall natur ac effaith camwybodaeth a thwyllwybodaeth, a sut gallant leihau eu cysylltiad â hynny. Mae gennym ddyletswydd statudol hirsefydlog i ymchwilio i ymwybyddiaeth o’r cyfryngau, a’i hybu.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Tactegau, technegau a gweithdrefnau sy’n dod i’r amlwg ar gyfer ymgyrchoedd twyllwybodaeth, ac unrhyw gyfranogwyr sy’n dod i’r amlwg.
• Nifer yr achosion o gamwybodaeth/twyllwybodaeth, a’r cydberthynas rhwng yr achosion hynny ag adegau/digwyddiadau arwyddocaol, fel datblygiadau gwleidyddol neu argyfyngau dyngarol.
• Y modd y mae lleoliadau ar-lein yn dod yn gysylltiedig â chamwybodaeth/twyllwybodaeth dros amser.

Twyll

Twyll yw’r drosedd a brofir amlaf yn y DU, gyda dioddefwyr twyll yn aml yn profi colled ariannol ac effaith negyddol ar eu hiechyd meddwl. Gwyddom fod twyllwyr yn addasu’n gyflym i fanteisio ar dechnolegau newydd, felly mae’n bwysig ein bod yn gwella ac yn diweddaru ein dealltwriaeth yn barhaus hefyd.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Gwahaniaethau yn y defnydd o hysbysebion ar-lein mewn gweithgarwch twyllodrus - rhwng cynnwys a gynhyrchir gan ddefnyddwyr, a hysbysebion y telir amdanynt (gan gynnwys ar wasanaethau chwilio).
• Y methodolegau y mae drwgweithredwyr yn eu defnyddio i dwyllo defnyddwyr.

Trais yn erbyn menywod a merched

Mae menywod a merched yn profi mathau anghymesur ac unigryw o niwed ar-lein. Mae hyn yn cynnwys amrywiaeth eang o niwed cymhleth a chysylltiedig sy’n ceisio bygwth, monitro, tawelu a bychanu menywod a merched. Er mwyn cyflawni ein dyletswyddau o amddiffyn diogelwch a hawliau defnyddwyr, mae’n bwysig parhau i ddatblygu ein dealltwriaeth o sut mae’r niwed hwn yn dod i’r amlwg, yn newid ac yn addasu i ddatblygiadau technolegol.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Sut mae cam-drin ar sail rhywedd yn dod i’r amlwg ar-lein a sut gall technolegau datblygol neu wendidau unigol effeithio arno (e.e. nodweddion gwarchodedig, ffigurau cyhoeddus).
• Mesurau lliniaru posibl ar gyfer atal ac ymateb i gam-drin sy’n gysylltiedig â rhywedd ar-lein (e.e. ataliaeth, adnoddau diogelwch) a pha heriau y gellid eu hwynebu wrth roi’r mesurau lliniaru ar waith.

Cam-drin a chamfanteisio’n rhywiol ar blant

Mae cam-drin a chamfanteisio’n rhywiol ar blant ar-lein yn fygythiad parhaus a chynyddol, gyda chanlyniadau dinistriol i’r rhai yr effeithir arnynt. Mae risgiau newydd yn dod i’r amlwg wrth i’r ffordd rydym yn rhyngweithio ar-lein esblygu, a byddwn yn parhau i gydweithio â rhanddeiliaid i gryfhau ein sylfaen dystiolaeth a chael yr effaith fwyaf bosibl ar ddiogelwch plant ar-lein.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Deall tirwedd niwed ar-lein Cam-drin a chamfanteisio’n rhywiol ar blant (yn benodol Camfanteisio’n rhywiol ar blant ar-lein, troseddu ar draws llwyfannau, delweddau anweddus wedi’i hunan-gynhyrchu, gemau a bygythiadau ddatblygol fel realiti estynedig a deallusrwydd artiffisial cynhyrchiol)
• Deall effaith Cam-drin a chamfanteisio’n rhywiol ar blant ar-lein ar ddioddefwyr a goroeswyr, gan gynnwys effaith niwed sy’n dod i’r amlwg
• Gwerthuso effeithiolrwydd a defnyddioldeb adnoddau cymedroli sy’n dod i’r amlwg ar gyfer Cam-drin a chamfanteisio’n rhywiol ar blant ar-lein, fel dosbarthwr cynnwys awtomatig sy’n seiliedig ar algorithmau dysgu peirianyddol (ML).

Cynnwys sy’n niweidiol i blant

Mae’r Ddeddf Diogelwch Ar-lein yn nodi mathau penodol o gynnwys sy’n niweidiol i blant. Er ein bod wedi datblygu sylfaen dystiolaeth gref ar natur, amlder ac effaith y cynnwys hwn, mae profiadau plant ar-lein a’r cynnwys maen nhw’n dod ar ei draws yn parhau i esblygu. Mae adrannau 61 a 62 o’r Ddeddf restr o gynnwys sy’n niweidiol i blant.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Mesur effeithiau niwed o ganlyniad i gynnwys sy’n niweidiol i blant fel y’i diffinnir yn y Ddeddf Diogelwch Ar-lein.
• Adnabod niwed newydd a niwed sy’n dod i’r amlwg nad yw’n anghyfreithlon o bosibl, ond a allai fod yn niweidiol i blant.

Dylunio gwasanaethau

Mae’n bwysig ein bod yn diweddaru ein dealltwriaeth o wasanaethau ar-lein er mwyn sicrhau ein bod yn gallu nodi swyddogaethau sy’n dod i’r amlwg a lliniaru eu canlyniadau anfwriadol. Rhaid i ni fod yn ymwybodol o’r modelau moneteiddio sy’n effeithio ar ddyluniad gwasanaeth, ac ystyried sut gallai’r modelau hyn effeithio ar ryngweithio defnyddiwr â chynnwys niweidiol a defnyddwyr eraill. Bydd cynnal yr ymchwil hon yn ein galluogi i fonitro gwasanaethau o fewn y cwmpas sy’n dod i’r amlwg a dadansoddi sut gallai eu nodweddion gael effaith ar y defnyddiwr.

Sut mae gwasanaethau ar-lein yn cael eu cynllunio a’u gweithredu

Mae deall nodweddion a swyddogaethau gwasanaethau, yn ogystal â sut maent yn datblygu dros amser, yn ganolog i gyflawni amrywiaeth o’n dyletswyddau rheoleiddio. Mae gennym ddiddordeb mewn:

• mathau newydd o wasanaeth;
• nodweddion dylunio newydd sydd â’r potensial i newid neu ddylanwadu ar brofiadau defnyddwyr; ac
• unrhyw nodweddion gwasanaeth eraill sy’n berthnasol i ddiogelwch ar-lein.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Goblygiadau mathau newydd o wasanaethau, fel gwasanaethau technoleg ymgolli a datganoledig, ar gyfer diogelwch defnyddwyr ac ymwybyddiaeth o’r cyfryngau.
• Y technegau sydd ar gael i ddysgu mwy am y berthynas rhwng swyddogaethau gwasanaeth a’r risg o niwed i’w ddefnyddwyr.
• Y ffordd y mae dulliau gwahanol o ymdrin â dylunio algorithmig yn effeithio ar brofiad y defnyddiwr, fel bod yn agored i mathau neilltuol o gynnwys, ac ymgysylltu ag ef.

Sut mae modelau busnes darparwyr gwasanaethau ar-lein yn gweithio

Mae modelau busnes yn ddylanwad pwysig ar sut mae gwasanaeth yn datblygu dros amser. Mae angen i ni gael y wybodaeth ddiweddaraf am sut mae’r modelau busnes hyn yn gweithredu ar draws gwahanol ddiwydiannau er mwyn ein galluogi i ddeall eu cymhellion, a rhagweld risgiau sy’n dod i’r amlwg.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Technegau i ddeall yn well y berthynas rhwng model busnes darparwr gwasanaeth a’r risg o niwed i’w ddefnyddwyr.
• Sut mae busnesau bach a chanolig yn defnyddio cyfryngau cymdeithasol a llwyfannau chwilio at ddibenion masnachol neu gynhyrchu refeniw.
• Y ffordd y mae polisïau moneteiddio gwasanaethau yn gallu effeithio ar ddiogelwch defnyddwyr, ac ysgogwyr ar gyfer buddsoddi mewn diogelwch defnyddwyr.

Mesurau a thechnoleg diogelwch

Rydym yn gwneud ymchwil i ddatblygu ein sgiliau a’n dealltwriaeth o fesurau a thechnolegau ymddiriedaeth a diogelwch, ac mae’n bwysig ein bod yn dal i fyny â’r gyfradd gyflym o newid ac arloesi yn y maes hwn. Mae’n bwysig ein bod yn parhau i ddysgu sut mae dyluniad mesurau diogelwch mewn gwasanaethau yn gallu effeithio ar eu heffeithiolrwydd o ran cadw defnyddwyr yn ddiogel ar-lein.

Gwerthuso mesurau diogelwch

Mae asesu a yw mesurau diogelwch gwasanaethau yn effeithiol o ran lleihau’r risg o niwed i ddefnyddwyr yn y DU yn rhan bwysig o’r drefn Diogelwch Ar-lein. Bydd gwerthuso mesurau diogelwch hefyd yn ein helpu i ddeall a yw’r rhain yn creu’r risg o effeithiau anfwriadol – cadarnhaol neu negyddol. Gall hyn gynnwys asesu effaith ymyriadau diogelwch ar gystadleuaeth ac arloesedd, rhyddid mynegiant, preifatrwydd a phrofiadau defnyddwyr. Mae gennym ddiddordeb mewn nodi’r metrigau a’r technegau dadansoddi cywir i asesu effaith gwahanol fathau o fesurau diogelwch, ar raddfa fawr lle bo hynny’n bosibl. Rydym hefyd eisiau archwilio sut y gallai’r dulliau hyn amrywio yn ôl y math o niwed neu’r gwasanaethau a astudir.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Dulliau a metrigau dadansoddi newydd neu sy’n dod i’r amlwg i gefnogi’r gwaith o werthuso mesurau diogelwch y mae’r defnyddiwr yn rhyngweithio â nhw ar lwyfannau (e.e. adnoddau rhoi gwybod a fflagio, offer grymuso defnyddwyr).
• A yw mesurau diogelwch yn gallu cael effeithiau anfwriadol ar brofiad defnyddwyr, hawliau defnyddwyr, ac ar arloesi a chystadleuaeth – a sut gellir mesur effeithiau o’r fath.
• Y potensial i ymyriadau yn y gwasanaethau mwyaf arwain at ddadleoli niwed a gorfodi defnyddwyr i symud i wasanaethau eraill a/neu wasanaethau llai.
• Dulliau dadansoddol o asesu ar raddfa fawr y risg o niwed i ddefnyddwyr y DU wrth ddefnyddio gwasanaethau ar-lein.

Gwerthuso technoleg diogelwch

Er bod nifer o gyfleoedd a manteision yn gysylltiedig â dyfodiad technolegau newydd, mae hefyd yn dod â’r potensial ar gyfer niwed newydd neu wahanol. Mae angen i ni werthuso effaith technoleg a mesurau technoleg diogelwch newydd yn barhaus a chael yr arbenigedd cywir i argymell mesurau newydd yn y dyfodol. Byddem yn gwerthfawrogi ymdrechion gan y gymuned ymchwil ehangach i ddatblygu dulliau a methodolegau newydd a all ein helpu yn ein tasg i asesu technolegau a mesurau technoleg diogelwch.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Datblygu methodolegau newydd i wella diogelwch a/neu asesu effeithiolrwydd mesurau technoleg diogelwch newydd, a hynny wrth werthuso saernïaeth aml-haenog yn ei chyfanrwydd neu yn y meysydd canlynol:
  • Systemau argymell
  • Sicrwydd oedran
  • Technolegau gwella preifatrwydd
  • Cymedroli cynnwys yn awtomataidd
  • Deallusrwydd Artiffisial Cynhyrchiol
  • Technoleg cynnwys synthetig a ‘deep fakes’
• Technegau (gan gynnwys dulliau, egwyddorion a metrigau technegol) i greu a rhannu data hyfforddi sy’n cynnwys elfennau niweidiol mewn dull moesegol.

Deallusrwydd Artiffisial Cynhyrchiol

Wrth i systemau deallusrwydd artiffisial cynhyrchiol ddod yn fwy soffistigedig, ac wrth i’r defnydd o gymwysiadau o’r fath gynyddu, rydym angen cadw ein sylfaen dystiolaeth yn gyfredol. Rhaid i ni barhau i ddatblygu ein dealltwriaeth o effeithiau posibl deallusrwydd artiffisial cynhyrchiol ar ddefnyddwyr o ddemograffeg wahanol, a gwahanol fathau o niwed ar-lein.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Technegau i archwilio effaith deallusrwydd artiffisial cynhyrchiol ar wahanol fathau o gynnwys niweidiol a gwahanol grwpiau o ddefnyddwyr.
• Yr effaith benodol y gall deallusrwydd artiffisial cynhyrchiol ei gael ar brofiadau plant ar-lein.
• Technegau i sicrhau bod offer deallusrwydd artiffisial a setiau data hyfforddi yn cael eu llywodraethu mewn dull moesegol, er enghraifft, lliniaru unrhyw risg o ragfarn.

Rheolaethau rhieni

Mae ein hymchwil yn dangos bod rhieni’n defnyddio amrywiaeth o ddulliau i ymgysylltu â gweithgarwch ar-lein eu plant, a bod sawl ffactor yn dylanwadu ar agweddau rhieni/gofalwyr a phlant at y dulliau hyn. Mae deall y ffactorau hyn, yn ogystal ag effeithiolrwydd offer rheoli rhieni pam maen nhw ar waith yn bwysig er mwyn rhoi’r gefnogaeth sydd ei hangen ar rieni a phlant ar-lein.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

• Y ffactorau sy’n dylanwadu ar agweddau rhieni a phlant tuag at rheolaethau rhieni, a’u gallu i gydymffurfio â nhw.
• Sut mae rheolaethau rhieni yn gweithredu ochr yn ochr â mesurau diogelwch eraill a ddarperir gan lwyfannau.
• Sut i werthuso effeithiolrwydd rheolaethau rhieni ac unrhyw ganlyniadau anfwriadol sy’n deillio ohonynt.