Deallusrwydd Artiffisial mewn gofal iechyd: pwy sydd â'r grym?

Safais y tu allan i feddygfa’r meddyg teulu yn teimlo cymysgedd o emosiynau na allwn eu lleoli’n iawn. Rhyddhad, rhwystredigaeth, gobaith ac anghrediniaeth i gyd ar unwaith. Ar ôl 30 mlynedd o fyw gyda symptomau’n gwaethygu, roeddwn o’r diwedd wedi cael fy atgyfeirio at arbenigwr gynaecoleg. Yr hyn a wnaeth y foment honno’n wahanol oedd nid yn unig yr atgyfeiriad ei hun, ond sut y cyrhaeddais yno. Roedd deallusrwydd artiffisial, yn benodol Gemini, wedi chwarae rhan wrth fy helpu i gael fy nghlywed o’r diwedd ac eiriol yn effeithiol dros atgyfeiriad ar ôl blynyddoedd o’r mater iechyd hwn yn cael ei anwybyddu. Mae’r profiad hwnnw’n codi cwestiwn ehangach wrth wraidd y blog hwn: os yw deallusrwydd artiffisial eisoes yn llunio mynediad at ofal, pwy sy’n llunio sut mae’n cael ei gynllunio a’i ddefnyddio?

Yn y blog hwn, rwy'n rhannu'r hyn y mae cleifion yn ei ddweud am AI, sut mae eisoes yn cael ei ddefnyddio mewn gofal yn y byd go iawn, a pham mae cynnwys cleifion yn ei ddylunio yn hanfodol ar gyfer gofal iechyd diogel a chyfartal.

Beth mae cleifion yn ei ddweud wrthym am AI

Y llynedd, rhoddais gyflwyniad ar AI sy'n canolbwyntio ar y claf yn sesiwn Arweinyddiaeth Gofal Iechyd Fforwm Arweinyddiaeth Ddigidol, ochr yn ochr â siaradwyr o Roche, GSK, Amazon Web Services a King's College Llundain. Er bod ein safbwyntiau'n wahanol, roedd y neges yn gyson. Mae AI yma i aros. Mae ofnau, pryderon, disgwyliadau a gobeithion cleifion yn adlewyrchu rhai ymarferwyr a darparwyr gofal iechyd. Dyma pam nad yw cynnwys cleifion yn y ffordd y mae AI yn cael ei gynllunio, ei weithredu a'i ddefnyddio yn ddewisol.

Cyn y sesiwn honno, cynhaliais arolwg byr o fewn fy rhwydweithiau i ddeall canfyddiadau o AI mewn gofal iechyd, a rhannais y canfyddiadau allweddol hyn yn y digwyddiad:

• nid oedd gan y rhan fwyaf o bobl unrhyw brofiad uniongyrchol o ddefnyddio deallusrwydd artiffisial yn eu gofal
• roedd y rhai a oedd wedi dod ar ei draws yn tueddu i wneud hynny'n anuniongyrchol, yn aml drwy leoliadau proffesiynol yn hytrach nag fel cleifion
• roedd agoredrwydd gofalus, ond dim ond gydag amodau clir
• roedd pobl eisiau goruchwyliaeth ddynol, mesurau diogelwch cryf, a thryloywder ynghylch sut mae eu data yn cael ei ddefnyddio
• roedd pryder cryf ynghylch cydraddoldeb, amrywiaeth a chynhwysiant
• Roedd y cyfranogwyr yn glir, os caiff deallusrwydd artiffisial ei hyfforddi ar ddata rhagfarnllyd neu anghyflawn, y bydd yn atgyfnerthu anghydraddoldebau presennol ac yn arwain at ganlyniadau gwaeth i grwpiau sydd eisoes wedi'u hymylu.

Mae'r canfyddiadau hyn yn tynnu sylw at flaenoriaethau clir i gleifion ar gyfer sut y dylid rheoleiddio a defnyddio deallusrwydd artiffisial mewn gofal iechyd:

• Dylai deallusrwydd artiffisial gefnogi barn ddynol, nid ei disodli, gyda phob allbwn yn cael ei wirio gan weithiwr proffesiynol cymwys
• dylid dweud wrth gleifion pryd mae deallusrwydd artiffisial yn cael ei ddefnyddio yn eu gofal a rhoi opsiwn gwirioneddol iddynt optio allan
• rhaid i sefydliadau ddangos na fydd unrhyw offeryn AI yn ehangu anghydraddoldebau iechyd cyn iddo gael ei fabwysiadu
• rhaid bod prosesau clir ar gyfer ymchwilio i wallau ac atebolrwydd pan fydd niwed yn digwydd
• Mae angen yr hyder a'r hyfforddiant ar glinigwyr i gwestiynu neu ddiystyru deallusrwydd artiffisial pan nad yw'n cyd-fynd â'u barn broffesiynol.

Gyda'i gilydd, mae'r blaenoriaethau hyn yn gwneud un peth yn glir: nid yw cleifion yn gwrthsefyll deallusrwydd artiffisial; maent yn gofyn iddo fod yn ddiogel, yn dryloyw ac yn deg.

O Dr Google i “Dr AI”

Rwy'n gweld newid yn ymddygiad cleifion, lle mae'r rhai sydd â llythrennedd digidol sylfaenol yn symud o ddibynnu ar beiriannau chwilio i ddefnyddio offer AI. Mae pobl yn defnyddio AI i ofyn cwestiynau gwell, archwilio patrymau a pharatoi ar gyfer sgyrsiau clinigol. Mae'r newid hwn o "Dr Google" i'r hyn y byddwn i'n ei ddisgrifio fel "Dr AI" yn dod â manteision a heriau.

Yn fy achos fy hun, defnyddiais AI i ddadansoddi bron i 20 mlynedd o gofnodion fy meddyg teulu, eu croesgyfeirio â chanllawiau NICE, ac adolygu ymchwil a adolygwyd gan gymheiriaid. Es i fy apwyntiad gyda dealltwriaeth glir, strwythuredig o fy symptomau a'm pryderon. Newidiodd y paratoad hwnnw'r sgwrs. ​​Ni ddisodlodd farn glinigol, ond fe alluogodd drafodaeth fwy ffocws ac arweiniodd at atgyfeiriad at wasanaeth arbenigol.

AI ar waith: cyfle a risg

Nid yw'r profiadau hyn yn unigryw. Disgrifiodd stori ddiweddar yn y DU fenyw ifanc a ddefnyddiodd AI i archwilio ei symptomau ar ôl teimlo ei bod wedi'i diystyru, a chadarnhawyd y cyflwr awgrymedig yn ddiweddarach. Yn yr Unol Daleithiau, dangosodd achos a adroddwyd gan The New York Times sut y defnyddiodd clinigwyr AI i nodi opsiwn triniaeth annisgwyl ar gyfer claf â chyflwr prin a oedd yn peryglu bywyd. Mae'r enghreifftiau hyn yn dangos sut mae AI eisoes yn dylanwadu ar ymddygiad cleifion a gwneud penderfyniadau clinigol.

Rydym hefyd yn gweld deallusrwydd artiffisial yn cael ei ddefnyddio mewn meysydd fel radiograffeg, lle mae'n cefnogi clinigwyr i ddehongli sganiau a chanfod canserau'n gynharach. Mae hyn â'r potensial i leihau oedi a gwella canlyniadau. Fodd bynnag, gall yr un dechnoleg a all wella gofal hefyd greu niwed os na chaiff ei chynllunio, ei llywodraethu a'i phrofi gydag ymrwymiad cryf i gydraddoldeb, amrywiaeth, cynhwysiant a safonau moesegol. Heb hyn, mae deallusrwydd artiffisial mewn perygl o ymgorffori rhagfarn mewn penderfyniadau clinigol a gwaethygu canlyniadau i'r union grwpiau y dylai'r system iechyd fod yn eu hamddiffyn.

O ddeallusrwydd artiffisial i ddeallusrwydd estynedig

Ni ddylai'r ffocws fod ar ddeallusrwydd artiffisial ar ei ben ei hun, ond ar ddeallusrwydd estynedig. Gall AI brosesu llawer iawn o wybodaeth yn gyflym, ond nid yw'n deall cyd-destun, profiad byw na naws. Nid yw'n defnyddio synnwyr cyffredin yn y ffordd y mae bodau dynol yn ei wneud, ac rydym eisoes wedi gweld enghreifftiau lle mae AI yn cynhyrchu allbynnau hyderus ond anghywir, a elwir yn aml yn rhithwelediadau. Nid yw hyn oherwydd bod AI yn ddiffygiol yn y ffordd y gallai bodau dynol fod, ond oherwydd nad yw'n ddynol.

Dyma'n union pam mae cynnwys a goruchwyliaeth ddynol yn hanfodol. Mae clinigwyr yn dod â barn, empathi ac atebolrwydd. Mae cleifion yn dod â phrofiad byw a mewnwelediad i'r hyn sy'n bwysig yn eu gofal. Gall deallusrwydd artiffisial gefnogi'r ddau drwy ddod â phatrymau a gwybodaeth i'r amlwg a allai gael eu colli fel arall, ond ni ddylid byth ei adael i weithredu ar ei ben ei hun. Yr her yw peidio â dewis rhwng bodau dynol a deallusrwydd artiffisial, ond taro'r cydbwysedd cywir rhyngddynt. Pan fydd yr elfennau hyn yn gweithio gyda'i gilydd, mae gwneud penderfyniadau'n gwella. Pan nad ydynt, mae'r risgiau'n cynyddu.

Dylunio AI gyda chleifion, nid ar gyfer cleifion

I ddatblygwyr a thimau technoleg: nid yw cynnwys cleifion yn ddewisol, mae'n hanfodol. Mae adeiladu AI ar gyfer gofal iechyd heb gleifion yn anniogel ac yn annerbyniol. Nid yw'n ddigon ymgynghori â chleifion ar ôl i offer AI gael eu cynllunio a'u swyddogaeth gael ei gosod, pan fydd newidiadau'n anodd neu'n rhy hwyr. Mae angen cynnwys cleifion fel partneriaid cyfartal o'r camau cynharaf o ddiffinio a chwmpasu problemau, trwy ddatblygu, ac i gyfnodau profi fel alffa a beta, lle mae offer yn cael eu rhoi ar brawf a'u mireinio mewn lleoliadau byd go iawn.

I'r rhai sy'n caffael offer AI mewn gofal iechyd, mae cyfrifoldeb i edrych y tu hwnt i dechnolegau newydd a rhai sy'n dod i'r amlwg ac osgoi syndrom y "gwrthrych disglair". Ni ddylai penderfyniadau gael eu gyrru gan newydd-deb na addewid yn unig, ond gan dystiolaeth, data profiad cleifion a dealltwriaeth glir o effaith y byd go iawn. Mae hyn yn cynnwys cynnwys arbenigwyr profiad cleifion mewn caffael a gwneud penderfyniadau. Rhaid i unrhyw offeryn a gyflwynir i ofal iechyd fod yn addas at y diben, yn ddiogel, yn deg ac yn cyd-fynd ag anghenion y boblogaeth.

Os na chaiff amrywiaeth a chynhwysiant eu hymgorffori, bydd deallusrwydd artiffisial yn ymgorffori ac yn mwyhau anghydraddoldebau presennol. Dylai deallusrwydd artiffisial mewn gofal iechyd gau bylchau anghydraddoldeb iechyd, cefnogi penderfyniadau clir ac atebol, a gweithio dros gleifion, nid dim ond cael ei ddefnyddio arnynt.

Ynglŷn â'r awdur

Mae Ruth Ajayi yn eiriolwr cleifion ac yn Gyfarwyddwr Anweithredol portffolio gyda ffocws ar gynnwys cleifion a'r cyhoedd, anghydraddoldebau iechyd a gwella gofal. Ar hyn o bryd mae hi'n Aelod Cyswllt o'r Bwrdd yn yr Awdurdod Safonau Proffesiynol, gan gwblhau ei thymor ym mis Mai 2026. 

Mae Ruth yn Bartner Llais y Cleifion a'r Cyhoedd ar sawl rhaglen yn GIG Lloegr, gan gynnwys y pwyllgor Mabwysiadu Cyfrifol o AI. Mae hi hefyd yn aelod o Fwrdd Blaenoriaethu NICE a'r Pwyllgor Cynghori Diagnostig.

Mae Ruth yn gwasanaethu ar nifer o grwpiau a phwyllgorau cynghori ar draws y system iechyd ac ymchwil. Mae hi'n cadeirio Fforwm Pobl a Chymunedau Gwasanaeth Meddygaeth Genomig y GIG ac yn gyd-ymchwilydd ar ymchwil a ariennir gan NIHR, gan gynnwys prosiectau sy'n canolbwyntio ar iechyd menywod a defnyddio cofnodion cleifion electronig yn y GIG.

Mae hi'n cadeirio Fforwm Pobl a Chymunedau Gwasanaeth Meddygaeth Genomig y GIG ac yn gyd-ymchwilydd ar ymchwil a ariennir gan NIHR sy'n canolbwyntio ar iechyd menywod.