Mae sgwrsfotiau AI wedi bod yn flaengar yn y newyddion yn ddiweddar. Maent yn offeryn newydd a chynyddol gyffredin y mae rhai pobl yn ei ddefnyddio ar gyfer gwaith, astudio, ymchwil, adloniant neu yn syml ar gyfer sgwrsio.
Ond wrth i'r defnydd o dechnoleg sgwrsfotiau newydd gynyddu, felly hefyd y potensial am niwed a achosir ganddynt.
Bu adroddiadau am bobl sy'n eu defnyddio i ddynwared pobl go iawn – gan gynnwys pobl sydd wedi marw – ac i greu cynnwys sy'n anelu at gynhyrfu ac aflonyddu eraill.
Yn syfrdanol, bu adroddiadau am achosion lle mae sgwrsbotiau wedi annog pobl i niweidio eu hunain neu hyd yn oed gymryd eu bywyd eu hunain.
Yma rydym yn egluro sut mae sgwrsfotiau AI wedi’u cynnwys o dan Ddeddf Diogelwch Ar-lein y DU, a beth y mae'n rhaid i ddarparwyr ei wneud i ddiogelu pobl sy'n eu defnyddio. Mae esboniad mwy manwl wedi'i gynnwys yn ein llythyr agored at wasanaethau ar-lein a gyhoeddwyd yn flaenorol.
Y mathau o wasanaethau y mae'r Ddeddf Diogelwch Ar-lein yn berthnasol iddynt
O dan reolau diogelwch ar-lein y DU, rhaid i ddarparwyr rhai gwasanaethau ar-lein asesu a lleihau'r risg o niwed i'w defnyddwyr – yn enwedig plant.
Mae'r rheolau'n berthnasol i:
- Gwasanaethau defnyddiwr-i-ddefnyddiwr – y rhai sy'n caniatáu i bobl rannu delweddau, fideos, negeseuon, sylwadau neu ddata gyda phobl eraill. Mae safleoedd ac apiau cyfryngau cymdeithasol yn enghraifft o hyn.
- Gwasanaethau chwilio – y rhai sy'n galluogi defnyddwyr i chwilio mwy nag un wefan neu gronfa ddata, gan gynnwys ond heb fod yn gyfyngedig i beiriannau chwilio traddodiadol.
- Gwasanaethau sy'n cyhoeddi delweddau pornograffig, fideo neu sain ar-lein, gan gynnwys trwy sgwrsfotiau - rhaid iddynt ddefnyddio sicrwydd oedran hynod effeithiol i atal plant rhag cael mynediad i'r cynnwys hwnnw.
Gallwch ddarllen mwy am y mesurau y mae'n rhaid i wasanaethau ar-lein o fewn cwmpas y Ddeddf Diogelwch Ar-lein eu cymryd i ddiogelu pob defnyddiwr rhag cynnwys anghyfreithlon, a sicrhau bod plant yn cael eu diogelu rhag cynnwys niweidiol.
Ble mae sgwrsfotiau’n dod o dan y Ddeddf Diogelwch Ar-lein
Mae sgwrsfotiau sy'n bodloni diffiniadau'r Ddeddf Diogelwch Ar-lein o'r mathau o wasanaeth uchod - neu sy'n rhan o un o'r mathau hyn o wasanaethau - yn cael ei gwmpasu gan y rheolau o dan y Ddeddf Diogelwch Ar-lein.
Cynnwys arall a gynhyrchir gan AI
Mae unrhyw gynnwys a gynhyrchir gan AI a rennir gan ddefnyddwyr ar wasanaeth defnyddiwr-i-ddefnyddiwr yn cael ei ddosbarthu fel cynnwys a gynhyrchir gan ddefnyddwyr a byddai'n cael ei reoleiddio yn yr un modd â chynnwys a gynhyrchir gan bobl. Er enghraifft, mae postiadau cyfryngau cymdeithasol sy'n cynnwys delweddau niweidiol a gynhyrchir gan AI, yn cael ei reoleiddio yn yr un modd â chynnwys tebyg a grëwyd gan fod dynol.
Rôl Ofcom
Fel rheoleiddiwr diogelwch ar-lein y DU, ein rôl yw diogelu pobl ar-lein trwy weithredu a gorfodi'r rheolau a basiwyd gan y Senedd y DU yn y Ddeddf Diogelwch Ar-lein. Gallwn gymryd camau gorfodi – gan gynnwys cyhoeddi dirwyon – os nad yw llwyfannau yn cyflawni eu dyletswyddau.
Nid yw rhai sgwrsfotiau na'r cynnwys a gynhyrchir ganddynt wedi’u cynnwys yn y Ddeddf Diogelwch Ar-lein. Er enghraifft, nid yw sgwrsfotiau yn destun rheoleiddio os ydynt:
- Dim ond yn caniatáu i bobl ryngweithio â'r sgwrsfotiau ei hun a dim defnyddwyr eraill;
- Ddim yn chwilio sawl gwefan neu gronfa ddata wrth roi ymatebion i ddefnyddwyr;
- Methu creu cynnwys pornograffig.
Dim ond niwed ar-lein a gwmpesir gan y Ddeddf y gallwn gymryd camau, gan ddefnyddio'r pwerau a roddwyd i ni. Byddai unrhyw newidiadau i'r pwerau hyn yn fater i'r llywodraeth a'r Senedd. Rydym yn cefnogi Llywodraeth y DU wrth iddi ystyried newidiadau posibl.
Ble a allaf ddarganfod mwy?
Gyda thechnoleg yn newid yn gyson a bygythiadau newydd yn dod i'r amlwg, mae Ofcom yn cadw llygad barcud ar sut mae'r defnydd o AI yn esblygu. Mae ein cyfres o bapurau trafod yn archwilio'r ffyrdd newidiol y mae pobl yn defnyddio AI, y risgiau diogelwch ar-lein a allai ddod i'r amlwg a'r hyn y gellir ei wneud i fynd i'r afael â nhw. Mae'r papurau trafod ar gael isod: