Sign up

Report

Usa ka giya alang sa mga magbubuhat sa palisiya: Pagtimbang-timbang sa paspas nga pagpalambo sa mga teknolohiya lakip ang AI, dagkong mga modelo sa pinulongan ug uban pa

Niini nga papel gisusi sa ISC ang outline sa usa ka balangkas aron ipahibalo ang mga magbubuhat sa palisiya sa daghang mga global ug nasudnon nga mga diskusyon nga nahitabo may kalabotan sa AI.

Ang giya sa ISC nagtanyag og usa ka komprehensibo nga gambalay nga gidisenyo aron taytayan ang gintang tali sa taas nga lebel nga mga prinsipyo ug praktikal, maaksiyonan nga palisiya. Nagtubag kini sa dinalian nga panginahanglan alang sa usa ka komon nga pagsabut sa mga oportunidad ug mga risgo nga gipresentar sa mga bag-ong teknolohiya. Kini usa ka hinungdanon nga dokumento alang sa mga nagtrabaho sa nexus sa palisiya sa atong paspas nga pagbag-o sa digital nga panahon.

Gisusi sa balangkas ang potensyal sa AI ug ang mga gigikanan niini pinaagi sa usa ka komprehensibo nga lente, nga naglangkob sa kaayohan sa tawo ug katilingbanon kauban ang mga eksternal nga hinungdan sama sa ekonomiya, politika, kalikopan, ug seguridad. Ang ubang mga aspeto sa checklist mahimong mas may kalabotan kay sa uban, depende sa konteksto, apan ang mas maayong mga desisyon morag mas lagmit kon ang tanang domain gikonsiderar, bisan kon ang uban daling mailhan nga walay kalabotan sa partikular nga mga kaso. Kini ang kinaiyanhon nga bili sa usa ka checklist nga pamaagi.

"Sa usa ka panahon nga gimarkahan sa paspas nga pagbag-o sa teknolohiya ug komplikado nga global nga mga hagit, ang balangkas sa ISC alang sa komprehensibo ug multidimensional nga pagtuki sa mga potensyal nga epekto naghatag gahum sa mga lider sa paghimo sa nahibal-an, responsable nga mga desisyon. Gisiguro niini nga samtang nag-uswag kita sa teknolohiya, gibuhat nato kini uban ang mabinantayon nga pagkonsiderar sa mga implikasyon sa pamatasan, sosyal, ug ekonomiya".

Peter Gluckman, Presidente sa ISC

Samtang ang taas nga lebel nga mga prinsipyo giproklamar sa UNESCO, ang OECD, ang European Commission ug ang UN, ug uban pa, ug ang lainlaing mga diskusyon nagpadayon bahin sa mga isyu sa potensyal nga pagdumala, regulasyon, pamatasan ug kaluwasan, adunay usa ka dako nga gintang tali sa ingon nga mga prinsipyo ug usa ka pagdumala o gambalay sa regulasyon. Gitubag sa ISC kini nga panginahanglan pinaagi sa bag-ong giya niini alang sa mga naghimo sa palisiya.

Kini nga giya alang sa mga magbubuhat sa polisiya wala gituyo sa pagdili sa usa ka regulatory regime, kondili sa pagsugyot ug usa ka adaptive ug evolving analytical framework nga mahimong magpaluyo sa bisan unsa nga assessment ug regulatory process nga mahimong maugmad sa mga stakeholders, lakip ang mga gobyerno ug ang multilateral system.

"Ang balangkas usa ka kritikal nga lakang sa global nga panag-istoryahanay sa AI tungod kay naghatag kini usa ka sukaranan diin mahimo naton matukod ang consensus sa mga implikasyon sa teknolohiya alang sa karon ug sa umaabot". 

Hema Sridhar, Kanhi Chief Science Adviser, Ministry of Defense, New Zealand ug karon Senior Research Fellow, University of Auckland, New Zealand.

Sukad sa Oktubre 2023, adunay daghang hinungdanon nga nasyonal ug multilateral nga mga inisyatibo nga adunay dugang nga konsiderasyon sa pamatasan ug kaluwasan sa AI. Ang mga implikasyon sa AI sa integridad sa pipila sa atong mga kritikal nga sistema, lakip ang pinansyal, gobyerno, legal ug edukasyon, ingon man ang lain-laing mga sistema sa kahibalo (lakip ang siyentipikanhon ug lumad nga kahibalo), nagkadako nga kabalaka. Ang balangkas dugang nga nagpakita niini nga mga aspeto.

Ang feedback nga nadawat gikan sa mga Miyembro sa ISC ug sa internasyonal nga komunidad nga naghimo sa palisiya hangtod karon gipakita sa gibag-o nga bersyon sa analytical framework, nga karon gipagawas ingon usa ka giya sa mga naghimo sa palisiya.

Usa ka giya alang sa mga magbubuhat sa palisiya: Pagtimbang-timbang sa paspas nga pagpalambo sa mga teknolohiya lakip ang AI, dagkong mga modelo sa pinulongan ug uban pa

Kini nga papel sa diskusyon naghatag sa outline sa usa ka inisyal nga balangkas aron mahibal-an ang daghang mga global ug nasudnon nga mga diskusyon nga nahitabo may kalabotan sa AI.

Framework para gamiton sa imong organisasyon

I-download ang balangkas aron magamit sa imong organisasyon

Dinhi among gihatag ang framework tool isip usa ka ma-edit nga Excel sheet para gamiton sa imong organisasyon. Kung gusto nimo ug open source format, palihog kontaka [protektado sa email].

Pasiuna

Ang paspas nga pag-uswag nga mga teknolohiya nagpresentar sa mga mahagiton nga isyu kung bahin sa ilang paggamit, pagdumala ug potensyal nga regulasyon. Ang nagpadayon nga palisiya ug mga debate sa publiko bahin sa artificial intelligence (AI) ug ang paggamit niini nagdala sa kini nga mga isyu sa grabe nga pokus. Ang halapad nga mga prinsipyo alang sa AI gipahibalo sa UNESCO, OECD, UN ug uban pa, lakip ang Deklarasyon sa Bletchley sa United Kingdom, ug adunay mga mitumaw nga hurisdiksyon nga pagsulay sa regulasyon sa mga aspeto sa teknolohiya pinaagi, pananglitan, ang European Union (EU) AI Act o ang bag-o nga United States AI Executive Order.

Samtang ang paggamit sa AI gihisgutan sa taas nga bahin niini ug sa uban pang mga forum, sa tibuuk nga geopolitical nga mga dibisyon ug sa mga nasud sa tanan nga lebel sa kita, adunay nagpabilin nga usa ka ontological nga gintang tali sa pagpalambo sa taas nga lebel nga mga prinsipyo ug ang ilang paglakip sa praktis pinaagi sa bisan unsang regulasyon, palisiya, pagdumala. o mga paagi sa pagkatinugyanan. Ang dalan gikan sa prinsipyo ngadto sa pagpraktis dili maayo nga gihubit, apan tungod sa kinaiyahan ug cadence sa pagpalambo ug paggamit sa AI, ang lain-laing interes nga nalangkit ug ang lain-laing mga posibleng aplikasyon, ang bisan unsang pamaagi dili mahimong sobra ka generic o prescriptive.

Tungod niini nga mga hinungdan, ang non-government nga siyentipikong komunidad nagpadayon sa pagdula sa usa ka partikular nga papel. Ang International Science Council (ISC) - uban ang pluralistic nga pagkamiyembro niini gikan sa sosyal ug natural nga siyensya - nagpagawas sa usa ka papel sa diskusyon kaniadtong Oktubre 2023 nga nagpresentar sa usa ka pasiuna nga analitikal nga balangkas nga nagkonsiderar sa mga peligro, benepisyo, hulga ug mga oportunidad nga adunay kalabotan sa paspas nga paglihok sa digital nga teknolohiya. Samtang gihimo kini aron ikonsiderar ang AI, kini usa ka kinaiyanhon nga teknolohiya nga agnostic ug mahimong magamit sa usa ka lainlaing mga nag-uswag ug makabalda nga mga teknolohiya, sama sa sintetikong biology ug quantum. Ang maong diskusyon nga papel nag-imbitar og feedback gikan sa mga akademiko ug mga policy-makers. Ang hilabihan nga feedback naghimo sa pagpahigayon sa ingon nga pagtuki nga gikinahanglan ug mibarug isip usa ka bililhon nga pamaagi aron matubag ang mga nag-uswag nga teknolohiya sama sa AI.

Ang katuyoan sa balangkas mao ang paghatag usa ka himan aron mahibal-an ang tanan nga mga hingtungdan - lakip ang mga gobyerno, negosyador sa pamatigayon, mga regulator, katilingbang sibil ug industriya - sa ebolusyon sa kini nga mga teknolohiya aron matabangan sila sa paghan-ay kung giunsa nila pagkonsiderar ang mga implikasyon, positibo o negatibo, sa ang teknolohiya mismo, ug labi na ang partikular nga aplikasyon niini. Kini nga analytical framework naugmad nga independente sa interes sa gobyerno ug industriya. Kini mao ang labing dako nga pluralistic sa iyang mga panglantaw, nga naglangkob sa tanan nga mga aspeto sa teknolohiya ug sa mga implikasyon niini base sa halapad nga konsultasyon ug feedback.

Kini nga papel sa diskusyon alang sa mga magbubuhat sa palisiya wala gituyo aron idili ang usa ka regime sa regulasyon, apan aron isugyot ang usa ka mapahiangay ug nagbag-o nga balangkas sa analitikal nga mahimong magpaluyo sa bisan unsang proseso sa pagtasa ug regulasyon nga mahimo’g maugmad sa mga stakeholder, lakip ang mga gobyerno ug ang multilateral nga sistema.

Samtang ang mga tighimog desisyon sa tibuok kalibutan ug sa nasud naghunahuna sa angay nga mga setting sa palisiya ug mga levers aron mabalanse ang mga risgo ug mga ganti sa usa ka bag-ong teknolohiya sama sa AI, ang analytical framework gituyo isip usa ka komplementaryong himan aron masiguro nga ang tibuok nga hugpong sa mga potensyal nga implikasyon igo nga gipakita.

Background: nganong usa ka analytical framework?

Ang paspas nga pagtungha sa mga teknolohiya nga adunay kakomplikado ug mga implikasyon sa AI nagduso sa daghang mga pag-angkon nga adunay daghang kaayohan. Bisan pa, naghagit usab kini sa mga kahadlok sa hinungdanon nga mga peligro, gikan sa indibidwal hangtod sa lebel sa geostrategic.1 Kadaghanan sa diskusyon hangtod karon gikonsiderar sa binary nga diwa tungod kay ang gipahayag sa publiko nga mga panan-aw lagmit nga mahitabo sa labi ka labi nga mga tumoy sa spectrum. Ang mga pag-angkon nga gihimo alang o batok sa AI kanunay nga hyperbolic ug - gihatagan ang kinaiya sa teknolohiya - lisud nga susihon.

Kinahanglan ang usa ka labi ka pragmatic nga pamaagi kung diin ang hyperbole gipulihan sa mga na-calibrate ug labi pa nga granular nga mga pagsusi. Ang teknolohiya sa AI magpadayon sa pag-uswag, ug gipakita sa kasaysayan nga halos matag teknolohiya adunay mapuslanon ug makadaot nga paggamit. Ang pangutana mao, busa: unsaon nato pagkab-ot ang mapuslanon nga mga resulta gikan niini nga teknolohiya, samtang gipakunhod ang risgo sa makadaot nga mga sangputanan, nga ang uban niini mahimong anaa sa kadako?

Ang umaabot kanunay nga dili sigurado, apan adunay igo nga kasaligan ug eksperto nga mga tingog bahin sa AI ug generative AI aron madasig ang usa ka medyo pag-amping nga pamaagi. Dugang pa, ang usa ka sistema nga pamaagi gikinahanglan tungod kay ang AI usa ka klase sa mga teknolohiya nga adunay halapad nga paggamit ug aplikasyon sa daghang mga tipo sa tiggamit. Kini nagpasabot nga ang tibuok nga konteksto kinahanglang tagdon sa dihang gikonsiderar ang mga implikasyon sa bisan unsang paggamit sa AI alang sa mga indibidwal, sosyal nga kinabuhi, sibiko nga kinabuhi, katilingbanong kinabuhi ug sa tibuok kalibutan nga konteksto.

Dili sama sa kadaghanan sa ubang mga teknolohiya, alang sa digital ug may kalabutan nga mga teknolohiya, ang oras tali sa pag-uswag, pagpagawas ug aplikasyon mubo ra kaayo, kadaghanan gimaneho sa mga interes sa mga kompanya sa produksiyon o ahensya. Pinaagi sa kinaiyahan niini - ug gihatagan kini nga gibase sa digital backbone - ang AI adunay mga aplikasyon nga paspas nga mikaylap, sama sa nakita na sa pag-uswag sa dagkong mga modelo sa pinulongan. Ingon nga resulta, ang pipila ka mga kabtangan mahimong makita lamang pagkahuman sa pagpagawas, nagpasabut nga adunay peligro sa wala damha nga mga sangputanan, pareho nga daotan ug maayo.

Ang importante nga mga dimensyon sa katilingbanong mithi, ilabina sa lain-laing rehiyon ug kultura, makaimpluwensya kon giunsa paglantaw ug pagdawat ang bisan unsang paggamit. Dugang pa, ang geostrategic nga mga interes nagdominar na sa diskusyon, nga ang soberanya ug multilateral nga interes padayon nga nag-intersect ug sa ingon nagduso sa kompetisyon ug pagkabahin.

Hangtod karon, kadaghanan sa regulasyon sa usa ka virtual nga teknolohiya sa kadaghanan nakita pinaagi sa lente sa 'mga prinsipyo' ug boluntaryo nga pagsunod, bisan kung adunay EU AI Act.2 ug susama nga atong nakita ang pagbalhin ngadto sa mas mapatuman apan medyo pig-ot nga mga regulasyon. Ang pag-establisar ug epektibong global o nasudnong teknolohiya nga pagdumala ug/o sistema sa regulasyon nagpabiling mahagiton ug walay klarong solusyon. Daghang mga layer sa paghimog desisyon nga nahibal-an sa peligro ang kinahanglan sa kadena, gikan sa imbentor hangtod sa prodyuser, sa tiggamit, sa gobyerno ug sa multilateral nga sistema.

Samtang ang taas nga lebel nga mga prinsipyo giproklamar sa UNESCO, ang OECD, ang European Commission ug ang UN, ug uban pa, ug ang lainlaing taas nga lebel nga mga diskusyon nagpadayon bahin sa mga isyu sa potensyal nga pagdumala, regulasyon, pamatasan ug kaluwasan, adunay usa ka dako nga kal-ang tali sa ingon. mga prinsipyo ug usa ka gambalay sa pagdumala o regulasyon. Kinahanglan kining sulbaron.

Isip usa ka punto sa pagsugod, gikonsiderar sa ISC ang paghimo og taxonomy sa mga konsiderasyon nga mahimong i-refer ni bisan kinsang developer, regulator, policy adviser, konsumidor o tighimog desisyon. Tungod sa halapad nga mga implikasyon niini nga mga teknolohiya, ang maong taxonomy kinahanglan nga maghunahuna sa kinatibuk-an sa mga implikasyon imbes sa usa ka pig-ot nga naka-focus nga framing. Nagkadaghan ang global fragmentation tungod sa impluwensya sa geostrategic nga mga interes sa paghimog desisyon, ug tungod sa pagkadinalian sa kini nga teknolohiya, hinungdanon alang sa mga independente ug neyutral nga mga tingog nga padayon nga mag-champion sa usa ka hiniusa ug inklusibo nga pamaagi.


1) Hindustan nga Panahon. 2023. Ang G20 kinahanglang magtukod ug internasyonal nga panel sa pagbag-o sa teknolohiya.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Ang EU Artificial Intelligence Act. 2023. https://artificialintelligenceact.eu

Ang pag-uswag sa usa ka analytical framework

Ang ISC mao ang nag-unang global nga non-government nga organisasyon nga naghiusa sa natural ug sosyal nga siyensya. Ang global ug pagdisiplina nga pagkab-ot niini nagpasabut nga maayo ang pagkabutang niini aron makamugna og independente ug global nga may kalabutan nga tambag aron mahibal-an ang komplikado nga mga pagpili sa unahan, labi na nga ang karon nga mga tingog sa kini nga arena kadaghanan gikan sa industriya o gikan sa palisiya ug politikal nga mga komunidad sa mga dagkong gahum sa teknolohiya.

Human sa usa ka panahon sa halapad nga diskusyon, nga naglakip sa konsiderasyon sa usa ka non-governmental assessment nga proseso, ang ISC mihinapos nga ang labing mapuslanon nga kontribusyon niini mao ang paghimo sa usa ka adaptive analytic framework nga mahimong gamiton isip basehan sa diskurso ug pagdesisyon sa tanan. stakeholders, lakip sa panahon sa bisan unsang pormal nga proseso sa pagtasa nga motungha.

Ang preliminary analytical framework, nga gi-release para sa diskusyon ug feedback niadtong Oktubre 2023, nahimong porma sa usa ka overarching checklist nga gidisenyo para gamiton sa gobyerno ug non-government nga mga institusyon. Giila ug gisusi sa balangkas ang potensyal sa usa ka teknolohiya sama sa AI ug ang mga gigikanan niini pinaagi sa usa ka halapad nga lente nga naglangkob sa kaayohan sa tawo ug katilingbanon, ingon man ang mga eksternal nga hinungdan sama sa ekonomiya, politika, kalikopan ug seguridad. Ang ubang mga aspeto sa checklist mahimong mas may kalabotan kay sa uban, depende sa konteksto, apan ang mas maayong mga desisyon morag mas lagmit kon ang tanang domain gikonsiderar, bisan kon ang uban daling mailhan nga walay kalabotan sa partikular nga mga kaso. Kini mao ang kinaiyanhon nga bili sa usa ka checklist nga pamaagi.

Ang pasiuna nga balangkas nakuha gikan sa miaging trabaho ug panghunahuna, lakip ang taho sa International Network for Governmental Science Advice (INGSA) bahin sa digital wellbeing3 ug ang OECD Framework alang sa Klasipikasyon sa AI Systems,4 aron ipresentar ang kinatibuk-an sa mga potensyal nga oportunidad, peligro ug epekto. sa AI. Kini nga mga nangaging mga produkto mas gipugngan sa ilang katuyoan tungod sa ilang oras ug konteksto; adunay panginahanglan alang sa usa ka kinatibuk-ang gambalay nga nagpresentar sa tibuok nga han-ay sa mga isyu sa hamubo ug mas taas nga termino.

Sukad sa pagpagawas niini, ang papel sa diskusyon nakadawat hinungdanon nga suporta gikan sa daghang mga eksperto ug mga magbubuhat sa palisiya. Daghan ang espesipikong nag-endorso sa rekomendasyon sa paghimo ug adaptive framework nga nagtugot sa tinuyo ug proactive nga pagkonsiderar sa mga risgo ug implikasyon sa teknolohiya, ug sa pagbuhat niini, kanunay nga gikonsiderar ang kinatibuk-an sa mga dimensyon gikan sa indibidwal ngadto sa katilingban ug mga sistema.

Usa ka mahinungdanong obserbasyon nga gihimo pinaagi sa feedback mao ang pag-ila nga pipila sa mga implikasyon nga gikonsiderar sa gambalay kay kinaiyanhon nga multifaceted ug mikaylap sa daghang mga kategorya. Pananglitan, ang disinformation mahimong makonsiderar gikan sa indibidwal ug geostrategic lens; sa ingon, ang mga sangputanan mahimong halapad.

Gisugyot usab ang opsyon sa paglakip sa mga case study o mga ehemplo aron sulayan ang balangkas. Mahimo kining gamiton sa paghimo og mga giya aron ipakita kung giunsa kini magamit sa praktis sa lain-laing konteksto. Bisan pa, kini usa ka hinungdanon nga buluhaton ug mahimo’g limitahan kung giunsa ang pagtan-aw sa lainlaing mga grupo sa paggamit niini nga balangkas. Labing maayo nga buhaton kini sa mga naghimo sa palisiya nga nagtrabaho kauban ang mga eksperto sa piho nga mga hurisdiksyon o konteksto.

Sukad sa Oktubre 2023, adunay daghang hinungdanon nga nasyonal ug multilateral nga mga inisyatibo nga adunay dugang nga konsiderasyon sa pamatasan ug kaluwasan sa AI. Ang mga implikasyon sa AI sa integridad sa pipila sa atong mga kritikal nga sistema, lakip ang pinansyal, gobyerno, legal ug edukasyon, ingon man ang lain-laing mga sistema sa kahibalo (lakip ang siyentipikanhon ug lumad nga kahibalo), nagkadako nga kabalaka. Ang giusab nga balangkas dugang nga nagpakita niini nga mga aspeto.

Ang feedback nga nadawat hangtod karon gipakita sa gibag-o nga bersyon sa analytical framework, nga karon gipagawas ingon usa ka giya sa mga naghimo sa palisiya.

Samtang ang balangkas gipresentar sa konteksto sa AI ug may kalabutan nga mga teknolohiya, kini mabalhin dayon sa mga konsiderasyon sa uban pang paspas nga pag-uswag nga mga teknolohiya sama sa quantum ug sintetikong biology.


3) Gluckman, P. ug Allen, K. 2018. Pagsabot sa kaayohan sa konteksto sa paspas nga digital ug kaubang mga pagbag-o. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Framework sa OECD alang sa Klasipikasyon sa mga sistema sa AI. OECD Digital Economy Papers, No. 323,#. Paris, OECD Publishing.
https://oecd.ai/en/classificatio

Ang Framework

Ang mosunod nga talaan nagpakita sa mga sukod sa usa ka putative analytic framework. Gihatag ang mga pananglitan aron ihulagway kung ngano nga ang matag dominyo mahimong hinungdanon; sa konteksto, ang gambalay magkinahanglan og pagpalapad nga may kalabutan sa konteksto. Mahinungdanon usab ang pag-ila tali sa mga generic nga isyu nga motumaw sa panahon sa pag-uswag sa plataporma ug kadtong mahimong motungha sa panahon sa piho nga mga aplikasyon. Walay bisan usa ka konsiderasyon nga gilakip dinhi ang kinahanglan isipon nga prayoridad ug, sa ingon, ang tanan kinahanglan nga susihon.

Ang mga isyu kay lapad nga gigrupo sa mosunod nga mga kategoriya sama sa gilatid sa ubos:

  • Kaayohan (lakip ang sa indibidwal o kaugalingon, katilingban, sosyal nga kinabuhi ug sibiko nga kinabuhi)
  • Pamatigayon ug ekonomiya
  • Environmental
  • Geostrategic ug geopolitical
  • Teknolohikal (mga kinaiya sa sistema, disenyo ug paggamit)

Ang lamesa nagdetalye sa mga dimensyon nga tingali kinahanglan nga tagdon sa pagtimbang-timbang sa usa ka bag-ong teknolohiya.

πŸ”΄ INGSA. 2018. Pagsabot sa kaayohan sa konteksto sa paspas nga digital ug kaubang mga pagbag-o.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf

🟒 Bag-ong mga deskriptor (gikuha pinaagi sa halapad nga konsultasyon ug feedback ug pagrepaso sa literatura)

🟑 OECD Framework para sa Klasipikasyon sa AI Systems: usa ka himan alang sa epektibong mga polisiya sa AI.
https://oecd.ai/en/classification

Mga sukat sa epekto: Indibidwal / kaugalingon

Mga criteriaMga pananglitan kon sa unsang paagi kini mapakita sa pagtuki
🟑Ang katakus sa AI sa mga tiggamitUnsa ka katakus ug nahibal-an ang mga kabtangan sa sistema ang lagmit nga mga tiggamit nga makig-uban sa sistema? Sa unsang paagi sila mahatagan sa may kalabutan nga impormasyon sa tiggamit ug mga pasidaan?
🟑 Naapektuhan nga stakeholderKinsa ang mga nag-unang stakeholder nga maapektuhan sa sistema (mga indibiduwal, komunidad, huyang, sektoral nga mga trabahante, mga bata, mga magbubuhat sa palisiya, mga propesyonal ug uban pa)?
🟑 OpsyonalidadGihatagan ba ang mga tiggamit og oportunidad nga mag-opt out sa sistema o gihatagan ba sila og mga oportunidad sa paghagit o pagtul-id sa output?
🟑Mga risgo sa tawhanong katungod ug demokratikong mithiAng sistema ba adunay sukaranan nga epekto sa tawhanong katungod, lakip na apan dili limitado sa pribasiya, kagawasan sa pagpahayag, kaangayan, walay diskriminasyon ug uban pa?
🟑Potensyal nga epekto sa kaayohan sa katawhanMay kalabotan ba ang sistema sa epekto sa kaayohan sa indibidwal nga tiggamit (kalidad sa trabaho, edukasyon, sosyal nga interaksyon, kahimsog sa pangisip, identidad, palibot ug uban pa)?
🟑 Potensyal alang sa human labor displacementAduna bay potensyal alang sa sistema sa pag-automate sa mga buluhaton o mga gimbuhaton nga gipatuman sa mga tawo? Kung mao, unsa ang mga sangputanan sa ubos?
🟑 Potensyal alang sa pagkatawo, mga mithi o pagmaniobra sa kahibaloAng sistema ba gidisenyo o posible nga makahimo sa pagmaniobra sa pagkatawo sa user o
gitakda ang mga mithi, o nagpakaylap ug disinformation?
πŸ”΄ Mga oportunidad alang sa pagpahayag sa kaugalingon ug pag-aktuwal sa kaugalingonAduna bay potensyal alang sa kabatid ug pagduhaduha sa kaugalingon? Aduna bay potensyal sa bakak o
dili mapamatud-an nga pag-angkon sa kahanas?
πŸ”΄ Mga sukod sa bili sa kaugalingonAduna bay pagpit-os sa paghulagway sa idealized nga kaugalingon? Mahimo bang mapulihan sa automation ang usa ka pagbati
sa personal nga katumanan? Adunay ba pressure nga makigkompetensya sa sistema sa
trabahoan? Mas lisud ba panalipdan ang indibidwal nga reputasyon batok sa disinformation?
πŸ”΄ PagkapribadoAduna bay nagkatag nga mga responsibilidad alang sa pagpanalipod sa pribasiya ug aduna bay bisan unsa
mga pangagpas nga gihimo kung giunsa paggamit ang personal nga datos?
πŸ”΄ AwtonomiyaMahimo ba nga ang AI system makaapekto sa awtonomiya sa tawo pinaagi sa pagmugna og sobra nga pagsalig sa
mga end-user?
πŸ”΄ Pag-uswag sa tawoAduna bay epekto sa pag-angkon sa mga yawe nga kahanas alang sa kalamboan sa tawo, sama sa
executive function o interpersonal kahanas, o mga kausaban sa pagtagad sa panahon nga makaapekto
pagkat-on, pagpalambo sa personalidad, kabalaka sa kahimsog sa pangisip ug uban pa?
πŸ”΄ Personal nga pag-atiman sa panglawasAduna bay mga pag-angkon sa self-diagnosis o personal nga mga solusyon sa pag-atiman sa panglawas? Kon mao,
gi-validate ba sila sa mga sumbanan sa regulasyon?
πŸ”΄ Panglawas sa pangisipAdunay ba peligro sa dugang nga kabalaka, kamingaw o uban pang mga isyu sa kahimsog sa pangisip, o
mapauswag ba sa teknolohiya ang ingon nga mga epekto?
🟒 Ebolusyon sa tawoMahimo bang mabag-o sa mga modelo sa dagkong lengguwahe ug artificial general intelligence ang
dagan sa ebolusyon sa tawo?
🟒 Interaksyon sa tawo ug makinaAng paggamit ba mahimong mosangpot sa de-skilling ug pagsalig sa paglabay sa panahon alang sa mga indibidwal? Mga
adunay epekto sa interaksyon sa tawo?
5) Ang teknolohikal nga sukdanan nga gikonsiderar sa gambalay espesipiko alang sa AI ug kinahanglan nga usbon alang sa ubang mga teknolohiya kung angay.

Mga sukat sa epekto: Sosyedad/sosyal nga kinabuhi

Mga criteria Mga pananglitan kon sa unsang paagi kini mapakita sa pagtuki
πŸ”΄ Mga mithi sa katilingbanAng sistema ba sa sukaranan nagbag-o sa kinaiyahan sa katilingban, makapahimo sa normalisasyon sa mga ideya nga giisip kaniadto nga kontra-sosyal, o naglapas sa mga mithi sa katilingban sa kultura diin kini gipadapat?
πŸ”΄ Sosyal nga interaksyonAduna bay epekto sa makahuluganong kontak sa tawo, lakip ang emosyonal nga mga relasyon?
πŸ”΄ Panglawas sa populasyonAduna bay potensyal alang sa sistema sa pag-uswag o pagdaot sa mga katuyoan sa kahimsog sa populasyon?
πŸ”΄ Pagpahayag sa kulturaAng pagtaas ba sa pag-apud-apod sa kultura o diskriminasyon lagmit o mas lisud sulbaron? Ang pagsalig ba sa sistema sa paghimog desisyon wala maglakip o nagpakawalay-pagtagad sa kultural nga may kalabutan nga mga relasyon sa seksyon sa katilingban?
πŸ”΄ Pampublikong edukasyonAduna bay epekto sa mga tahas sa magtutudlo o mga institusyon sa edukasyon? Ang sistema ba nagpasiugda o nagpamenos sa digital divide ug dili makiangayon sa mga estudyante? Ang intrinsic ba nga bili sa kahibalo o kritikal nga pagsabot nag-uswag o nahuyang?
🟒 Mga tinuis nga kamatuoranAng mga pamaagi ba nga gigamit sa pag-ila kung unsa ang tinuod magamit pa? Nakompromiso ba ang panglantaw sa kamatuoran?

Mga sukat sa epekto: Konteksto sa ekonomiya (negosyo)

Mga criteriaMga pananglitan kon sa unsang paagi kini mapakita sa pagtuki
🟑 Sektor sa industriyaSa unsang sektor sa industriya ang sistema gipakatap (pinansya, agrikultura, pag-atiman sa panglawas, edukasyon, depensa ug uban pa)?
🟑 Modelo sa negosyoSa unsang gimbuhaton sa negosyo ang sistema gigamit ug sa unsang kapasidad? Asa ang sistema nga gigamit (pribado, publiko, non-profit)?
🟑 Mga epekto sa kritikal nga mga kalihokan Ang pagkabalda ba sa function o kalihokan sa sistema makaapekto sa mga importanteng serbisyo o kritikal nga mga imprastraktura?
🟑Kalapad sa deploymentGiunsa ang pag-deploy sa sistema (hiktin nga paggamit sulod sa yunit kumpara sa kaylap nga nasudnon/internasyonal)?
🟑 Teknikal nga pagkahamtongUnsa ka teknikal nga pagkahamtong ang sistema?
🟒 Interoperability Adunay ba lagmit nga mga silo, sa nasud o sa tibuuk kalibutan, nga nagpugong sa libre nga pamatigayon ug nakaapekto sa kooperasyon sa mga kauban?
🟒 Teknolohikal nga soberanyaAng tinguha ba alang sa teknolohikal nga soberanya nga nagmaneho sa mga pamatasan, lakip ang pagkontrol sa tibuuk nga kadena sa suplay sa AI?
πŸ”΄ Pag-apod-apod pag-usab sa kita ug nasyonal nga mga lever sa piskalMahimo bang makompromiso ang kinauyokan nga mga tahas sa soberanya nga estado (pananglitan, mga reserbang bangko)? Ang katakus ba sa estado nga makab-ot ang mga gilauman ug implikasyon sa mga lungsuranon (sosyal, ekonomikanhon, politika ug uban pa) mapauswag o maminusan?
🟒 Digital divide (AI divide) Ang naglungtad ba nga mga digital nga dili managsama nga gipasamot o ang mga bag-o nahimo?

Mga sukat sa epekto: Kinabuhi sa sibiko

Mga criteriaMga pananglitan kon sa unsang paagi kini mapakita sa pagtuki
πŸ”΄ Pagdumala ug serbisyo publikoMahimo ba nga ang mga mekanismo sa pagdumala ug ang global nga sistema sa pagdumala maapektuhan sa positibo o negatibo?
πŸ”΄ Balita mediaAng diskurso sa publiko lagmit nga mahimong polarized ug nakagamot sa lebel sa populasyon? Aduna bay epekto sa lebel sa pagsalig sa Ikaupat nga Estate? Mas maapektuhan ba ang naandan nga pamatasan sa tigbalita ug mga sumbanan sa integridad?
πŸ”΄ Pagmando sa balaodAdunay ba epekto sa katakus sa pag-ila sa mga indibidwal o organisasyon nga adunay tulubagon (pananglitan, unsa nga matang sa tulubagon ang itudlo sa usa ka algorithm alang sa dili maayo nga mga sangputanan)? Aduna bay pagkawala sa soberanya nga namugna (kalibotan, piskal, polisiya sa katilingban, etika ug uban pa)?
πŸ”΄Politika ug katilingbanong panaghiusaAduna bay posibilidad sa mas nakagamot nga politikanhong mga panglantaw ug gamay nga oportunidad alang sa consensus building? Aduna bay posibilidad nga dugangan pa ang pag-marginalize sa mga grupo? Ang mga istilo ba sa kontra sa politika nahimo nga labi ka gamay o gamay?
🟒 Lisensya sa sosyalAduna bay mga kabalaka sa pagkapribado, mga isyu sa pagsalig ug mga kabalaka sa moral nga kinahanglan nga tagdon alang sa pagdawat sa mga stakeholder sa paggamit?
🟒 Lumad nga kahibaloMahimo bang madaot o maabusohan ang kahibalo ug datos sa Lumad? Aduna bay igo nga mga lakang aron mapanalipdan batok sa sayop nga representasyon, sayop nga impormasyon ug pagpahimulos?
🟒 Siyentipiko nga sistemaGikompromiso ba ang integridad sa akademiko ug panukiduki? Nawala ba ang pagsalig sa siyensya? Aduna bay mga posibilidad sa sayop nga paggamit, sobra nga paggamit o pag-abuso? Unsa ang sangputanan sa praktis sa siyensya?

Mga sukat sa epekto: Geostrategic/Geopolitical nga konteksto

Mga criteriaMga pananglitan kon sa unsang paagi kini mapakita sa pagtuki
🟒 Tukma nga pagbantayAng mga sistema ba gibansay sa indibidwal nga pamatasan ug biolohikal nga datos ug mahimo ba kini gamiton sa pagpahimulos sa mga indibidwal o grupo?
🟒 Digital nga kompetisyonMahimo bang gamiton sa estado o dili-estado nga mga aktor (eg dagkong kompanya sa teknolohiya) ang mga sistema ug datos aron masabtan ug makontrol ang populasyon ug ekosistema sa ubang mga nasud, o madaot ang kontrol sa hurisdiksyon?
🟒 Geopolitical nga kompetisyonMahimo ba nga ang sistema makapukaw sa kompetisyon tali sa mga nasud sa paggamit sa mga datos sa indibidwal ug grupo alang sa mga interes sa ekonomiya, medikal ug seguridad?
🟒 Pagbalhin sa mga gahum sa kalibutanAng kahimtang ba sa mga nasud-estado ingon nga nag-unang geopolitical nga mga aktor sa kalibutan ubos sa hulga? Ang mga kompaniya ba sa teknolohiya naggamit sa gahum sa makausa nga gitagana alang sa mga nasud-estado ug nahimo na ba sila nga independente, soberanong mga aktor (emerging technopolar world order)?
🟒 DisinformationMapadali ba sa sistema ang paghimo ug pagsabwag sa disinformation sa mga aktor sa estado ug dili estado nga adunay epekto sa panaghiusa sa katilingban, pagsalig ug demokrasya?
🟒 Duha ka gamit nga aplikasyonAduna bay posibilidad alang sa paggamit sa militar ingon man sa paggamit sa sibilyan?
🟒 Pagkabahin sa global nga kahusayMahimo bang molambo ang mga silo o pungpong sa regulasyon ug pagsunod nga makababag sa kooperasyon, mosangpot sa pagkasumpaki sa aplikasyon ug maghimog luna alang sa panagbangi?

Mga sukod sa epekto: Environmental

Mga criteriaMga pananglitan kon sa unsang paagi kini mapakita sa pagtuki
🟒 Pagkonsumo sa enerhiya ug kahinguhaan (carbon footprint)Ang sistema ug mga kinahanglanon ba nagdugang sa pagkonsumo sa enerhiya ug kahinguhaan nga labaw pa sa mga nakuha nga kahusayan nga nakuha pinaagi sa aplikasyon?
🟒 Tinubdan sa enerhiyaDiin gikan ang enerhiya alang sa sistema (renewable vs. fossil fuels ug uban pa)?

Mga sukat sa epekto: Data ug input

Mga criteriaMga pananglitan kon sa unsang paagi kini mapakita sa pagtuki
🟑 Direksyon ug koleksyonAng mga datos ug input ba nga nakolekta sa mga tawo, automated sensor o pareho?
🟑 Pagpamatuod sa datosAng mga datos ug input ba gikan sa mga eksperto gihatag, naobserbahan, sintetiko o nakuha? Adunay ba mga proteksyon sa watermark aron makumpirma ang gigikanan?
🟑 Dinamikong kinaiya sa datosAng datos ba dinamiko, static, dinamikong gi-update matag karon ug unya o tinuod nga oras?
🟑 Mga katungodAng datos ba proprietary, publiko o personal (may kalabutan sa mailhan nga mga indibidwal)?
🟑 Pagkaila ug personal nga datosKung personal, ang datos ba wala mailhi o pseudonymized?
🟑 Istruktura sa datosAng mga datos ba gihan-ay, semi-istruktura, komplikado nga istruktura o dili istruktura?
🟑 Format sa datosAng pormat ba sa datos ug metadata gi-standardize o dili-standardized?
🟑 Scale sa datosUnsa ang sukod sa dataset?
🟑 Kaangayan ug kalidad sa datos Ang dataset ba angay alang sa katuyoan? Igo ba ang sample size? Kini ba igo nga representante ug kompleto? Unsa ka saba ang datos? Prone ba kini sa sayup?

Mga sukat sa epekto: Modelo

Mga criteriaMga pananglitan kon sa unsang paagi kini mapakita sa pagtuki
🟑 Impormasyon nga anaaAduna bay impormasyon mahitungod sa modelo sa sistema?
🟑 Matang sa modelo sa AISimboliko ba ang modelo (mga lagda nga gihimo sa tawo), istatistika (naggamit sa datos) o hybrid?
🟑 Mga katungod nga nalangkit sa modeloAng modelo ba open-source o proprietary, self-o third-party nga gidumala?
🟑 Usa sa daghang mga modeloAng sistema ba gilangkuban sa usa ka modelo o daghang mga interlinked nga mga modelo?
🟑 Generative o diskriminatiboAng modelo ba generative, discriminative o pareho?
🟑 Pagtukod sa modeloNakakat-on ba ang sistema base sa sinulat sa tawo nga mga lagda, gikan sa datos, pinaagi sa supervised learning o pinaagi sa reinforcement learning?
🟑 Model ebolusyon (AI drift)Nag-uswag ba ang modelo ug / o nakakuha mga abilidad gikan sa pakig-uban sa datos sa natad?
🟑 Federated o sentral nga pagkat-onAng modelo ba gibansay sa sentro o sa daghang mga lokal nga server o mga aparato nga 'gilid'?
🟑 Pagpalambo/pagmentinarAng modelo ba unibersal, napasadya o gipahaum sa datos sa aktor sa AI?
🟑 Deterministiko o probabilistiko Ang modelo ba gigamit sa usa ka deterministic o probabilistic nga paagi?
🟑 Transparency sa modelo Anaa ba ang kasayuran sa mga tiggamit aron tugutan sila nga masabtan ang mga output sa modelo ug mga limitasyon o magamit ang mga pagpugong?
🟒 Limitasyon sa pagkalkulaAduna bay mga limitasyon sa pagkalkula sa sistema? Posible ba nga matagna ang mga paglukso sa kapabilidad o pag-scale sa mga balaod?

Mga sukat sa epekto: Buluhaton ug output

Mga criteriaMga pananglitan kon sa unsang paagi kini mapakita sa pagtuki
🟑 (mga) buluhaton nga gihimo sa sistemaUnsa nga mga buluhaton ang gihimo sa sistema (pag-ila, pag-ila sa panghitabo, pagtagna ug uban pa)?
🟑 Paghiusa sa mga buluhaton ug aksyonAng sistema ba naghiusa sa daghang mga buluhaton ug mga aksyon (mga sistema sa paghimo sa sulud, mga sistema sa awtonomiya, mga sistema sa pagkontrol ug uban pa)?
🟑 Ang lebel sa awtonomiya sa sistema Unsa ka awtonomiya ang mga aksyon sa sistema ug unsa ang papel sa mga tawo?
🟑 Ang lebel sa pagkalambigit sa tawoAduna bay pag-apil sa tawo aron sa pagdumala sa kinatibuk-ang kalihokan sa AI system ug ang abilidad sa pagdesisyon kung kanus-a ug unsaon paggamit ang AI system sa bisan unsang sitwasyon?
🟑 Kinauyokan nga aplikasyonAng sistema ba nahisakop sa usa ka kinauyokan nga lugar sa aplikasyon sama sa mga teknolohiya sa pinulongan sa tawo, panan-awon sa kompyuter, automation ug/o pag-optimize o robotics?
🟑 Pagtimbang-timbangAnaa ba ang mga sumbanan o pamaagi sa pagtimbang-timbang sa output sa sistema?

Sa unsang paagi magamit kini nga gambalay?

Kini nga balangkas mahimong magamit sa daghang mga paagi, lakip ang:

  • Aron taytayan ang gintang tali sa taas nga lebel nga mga prinsipyo ug pagtasa alang sa mga katuyoan sa regulasyon o pagdumala. Ang gambalay makasuporta niini pinaagi sa pag-establisar sa usa ka balido nga komon nga taxonomy sa lain-laing mga isyu nga angay konsiderahon sa mga may kalabutan nga mga stakeholder isip basehan sa pagpahibalo ug paghulma sa dugang nga panghunahuna. Pananglitan, sa usa ka nasudnong lebel, ang balangkas mahimong gamiton isip himan sa gobyerno samtang kini nagpalambo sa usa ka nasudnong AI nga estratehiya ug mga palisiya aron magtukod og usa ka komon nga basehan sa mga risgo ug mga oportunidad sa tibuok stakeholder nga mga grupo.
  • Aron ipahibalo ang mga pagtasa sa epekto. Ang EU AI Act nanginahanglan sa mga organisasyon nga naghatag mga gamit sa AI o nagsagop sa AI sa ilang mga proseso nga maghimo usa ka pagsusi sa epekto aron mahibal-an ang peligro sa ilang mga inisyatibo ug magamit ang usa ka angay nga pamaagi sa pagdumala sa peligro. Ang gambalay nga gipresentar dinhi mahimong gamiton isip pundasyon niini.
  • Aron ipahibalo ang pag-scan sa kapunawpunawan alang sa mga peligro ug umaabot nga mga senaryo. Ang pagkategorya sa mga kapeligrohan sa Interim Report6 ​​sa UN AI Advisory Body kay kaylap nga nahiuyon sa framing nga gipresentar sa framework dinhi. Adunay kahigayonan nga magamit ang gambalay sa paghimog konsensus ug pagsulay sa kagrabe sa mga mitumaw nga mga risgo ingon man sa pag-pre-empt niini.
  • Aron mapausbaw ang etikal nga mga prinsipyo nga gikinahanglan sa paggiya ug pagdumala sa paggamit sa AI. Ang balangkas makahimo niini pinaagi sa paghatag og usa ka flexible nga pundasyon diin ang kasaligan nga mga sistema mahimong mapalambo ug masiguro ang uyon sa balaod, etikal, lig-on ug responsable nga paggamit sa teknolohiya. Kini nga mga prinsipyo mahimong masulayan batok sa tibuuk nga mga epekto nga gipresentar niini nga balangkas.
  • Aron mapadali ang usa ka stocktake sa naglungtad ug nagbag-o nga mga lakang (regulatoryo, lehislatibo, palisiya, mga sumbanan, pagdumala ug uban pa) ug pag-ila sa mga kal-ang nga nanginahanglan dugang nga konsiderasyon. Mahimo kini nga mapa subay sa mga kategorya sa balangkas sa usa ka nasyonal o multinasyunal nga lebel aron mahibal-an ang mga kal-ang ug mahibal-an ang angay nga mga lakang aron mapagaan ang mga peligro.
  • Aron suportahan ang paggamit sa gobyerno sa AI. Ingon nga daghang mga gobyerno ang nagtino sa ilang tagsa-tagsa nga mga estratehiya alang sa paggamit sa AI sulod sa mga ahensya ug mga sistema, ang balangkas mahimong magamit sa paghubit sa tukma nga mga sukaranan sa risgo ug pag-ila sa mga mahinungdanong stakeholder ug mga responsibilidad.
  • Aron pagsuporta sa diskurso sa publiko ug pag-establisar sa sosyal nga lisensya kung giunsa paggamit ang AI ug ang nagpaluyo nga datos nga magamit sa mga serbisyo sa gobyerno o mas lapad sa katilingban.

Usa ka paagi sa unahan
Sa katingbanan, ang analytical framework gihatag isip sukaranan sa usa ka toolkit nga mahimong gamiton sa mga stakeholders sa komprehensibong pagtan-aw sa bisan unsang mahinungdanong mga kalamboan sa mga plataporma o sa paggamit sa makanunayon ug sistematikong paagi. Ang mga dimensyon nga gipresentar niini nga gambalay adunay kalabutan gikan sa pagtasa sa teknolohiya ngadto sa palisiya sa publiko, gikan sa kalamboan sa tawo ngadto sa sosyolohiya, ug mga pagtuon sa kaugmaon ug teknolohiya. Samtang gihimo alang sa AI, kini nga analytical nga balangkas adunay labi ka halapad nga aplikasyon sa bisan unsang uban pang mga bag-ong teknolohiya.

6 UN AI Advisory Board. 2023. Interim Report: Pagdumala sa AI alang sa Katawhan. https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pd

Pasalamat

Daghang mga tawo ang gikonsulta ug gihatagan og feedback sa paghimo sa una nga papel sa diskusyon ug feedback pagkahuman sa pagpagawas niini. Ang duha ka papel gi-draft ni Sir Peter Gluckman, Presidente, ang ISC ug Hema Sridhar, kanhi Chief Science Adviser, Ministry of Defense, New Zealand ug karon Senior Research Fellow, University of Auckland, New Zealand.

Sa partikular, ang ISC Lord Martin Rees, kanhi Presidente sa Royal Society ug Co-Founder sa Center for the Study of Existential Risks, University of Cambridge; Propesor Shivaji Sondhi, Propesor sa Physics, Unibersidad sa Oxford; Propesor K Vijay Raghavan, kanhi Principal Scientific Adviser sa Gobyerno sa India; Amandeep Singh Gill, ang UN Secretary General's Envoy on Technology; SeÑn Ó hÉigeartaigh, Executive Director, Center for the Study of Existential Risks, University of Cambridge; Sir David Spiegelhalter, Propesor sa Winton sa Pagsabot sa Publiko sa Risk, Unibersidad
sa Cambridge; Amanda-June Brawner, Senior Policy Adviser ug Ian Wiggins, Direktor sa International Affairs, Royal Society, United Kingdom; Dr Jerome Duberry, Managing Director ug Dr Marie-Laure Salles, Direktor, Geneva Graduate Institute; Chor Pharn Lee, Center for Strategic Futures, Prime Minister's Office, Singapore; Barend Mons ug Dr Simon Hodson, ang Committee on Data (CoDATA); Propesor Yuko Harayama, Kanhi Executive Director, RIKEN; Propesor
RΓ©mi Quirion, Presidente, INGSA; Dr Claire Craig, Unibersidad sa Oxford ug Kanhi Ulo sa Foresight, Opisina sa Siyensya sa Gobyerno; Prof Yoshua Bengio, UN Secretary General's Scientific Advisory Board ug sa UniversitΓ© de MontrΓ©al; ug ang uban pa nga naghatag ug feedback sa ISC sa inisyal nga papel sa diskusyon.


Dugang nga pagbasa

Pag-andam sa National Research Ecosystems alang sa AI: Mga estratehiya ug pag-uswag sa 2024

Kini nga papel sa pagtrabaho gikan sa think tank sa ISC, ang Center for Science Futures, naghatag ug sukaranang impormasyon ug pag-access sa mga kahinguhaan gikan sa mga nasud gikan sa tanang bahin sa kalibutan, sa lain-laing mga yugto sa pag-integrate sa AI ngadto sa ilang research ecosystem.

Laktaw ngadto sa sulod