Uwchgyfrifiadur wedi'i Anelu at Eich Ymennydd: Ymwybyddiaeth Ofalgar, Peiriannau a Metrigau

Mae pob platfform rydych chi'n ei ddefnyddio'n pwyntio at yr un ddadl: fe wnaethoch chi glicio, felly mae'n rhaid eich bod chi wedi'i eisiau. Mae Randima Fernando yn credu mai dyna'r celwydd mwyaf y mae'r economi sylw yn ei ddweud amdani ei hun - yr un adlewyrchiad sy'n tynnu llygaid gyrrwr tuag at ddamwain car ar y briffordd, wedi'i gamgymryd am awydd. Adeiladwch ffrwd sy'n cynhyrchu damweiniau ceir drwy'r dydd a chewch gliciau. Ni chewch unrhyw beth yr oedd unrhyw un ei eisiau mewn gwirionedd.

Magwyd Randima Fernando gan rieni Bwdhaidd, treuliodd saith mlynedd yn adeiladu sefydliad dielw a oedd yn ehangu ymwybyddiaeth ofalgar i ysgolion, ac mae wedi treulio wyth mlynedd arall yn cynghori Silicon Valley ar ddylunio dyngarol. Felly mae'n beth rhyfedd ei glywed yn dweud wrth Thomas Hübl, yn blwmp ac yn blaen, nad yw myfyrdod yn unig yn mynd i'ch achub. Nid oherwydd nad yw ymwybyddiaeth ofalgar yn gweithio - oherwydd y peth ar ochr arall eich sgrin, yn ei eiriau ef, yw uwchgyfrifiadur wedi'i bwyntio at eich ymennydd, ac nid oes unrhyw faint o ddisgyblaeth yn curo gwrthwynebydd sydd â mwy o ddata amdanoch chi nag sydd gennych chi amdanoch chi'ch hun yn ddibynadwy. Nid dyna lle mae'n ei adael, serch hynny: mae ei ateb gwirioneddol yn rhedeg ar ddau lwybr ar unwaith, un wedi'i anelu at yr hyn y gall person ei wneud yn ei fywyd ei hun, ac un wedi'i anelu at yr hyn sydd angen newid yn y system ei hun.

Yn y Crynodeb Hwn

Rhan Un

Moneteiddio Unedau Bywyd Sylfaenol

"'Sylw," meddai Randima, "yw'r uned sylfaenol y mae'r meddwl yn gweithredu ynddi" - ac mae diwydiant cyfan yn bodoli oherwydd bod yr uned honno wedi troi allan i fod yn rhanadwy, ac yn werthadwy. Mae cynhyrchion am ddim yn bodoli i gynaeafu'r sleisys, yna eu hailwerthu i hysbysebwyr, sy'n golygu nad yw platfform wedi'i optimeiddio ar gyfer yr hyn y daethoch i'w wneud mewn gwirionedd. Mae wedi'i optimeiddio ar gyfer pa mor hir y gall eich dal cyn eich trosglwyddo i rywun arall.

Mae'r un camliniad hwnnw'n rhaeadru allan. Pan ddaeth TikTok o hyd i ffordd gyflymach o gipio sylw gyda fideo ffurf fer, anfonwyd pob cystadleuydd, yn ei eiriau ef, "yn ôl i'r ystafelloedd bwrdd a'r sesiynau strategaeth" i'w gopïo neu golli tir - ras sy'n gwobrwyo beth bynnag sy'n dal sylw gyflymaf, heb unrhyw fecanwaith i ofyn beth mae'n ei gostio i'r person ar y pen arall. Mae newyddiaduraeth yn symud tuag at ben "clic-bait, hyperbolig, rhaniadol" y sbectrwm oherwydd dyna sy'n goroesi'r algorithm. Mae ymgyrchoedd gwleidyddol yn cynnal profion A/B ac yn dysgu, yn empirig, mai'r pennawd sy'n cynhyrchu'r mwyaf o ddicter sy'n ennill - felly maen nhw'n rhedeg mwy ohonyn nhw. Mae botwm "hoffi" yn dysgu platfform yn dawel beth i'w ddangos i chi fwy ohono, ac mae porthiant yn culhau, flwyddyn ar ôl blwyddyn, i fersiwn gynyddol eithafol o beth bynnag sydd eisoes wedi atseinio. Mae ei arbrawf awgrymedig bron yn syml yn aflonyddgar: cyfnewid porthiannau gyda ffrind sy'n pleidleisio'n wahanol i chi. Fe welwch chi, meddai, "cynnwys gwahanol iawn a realiti gwahanol iawn." Mae plant yn codi "ffiseg gymdeithasol" sylfaenol hoffterau ac yn rhannu'r ffordd maen nhw'n dysgu disgyrchiant - yn gynnar, a thrwy deimlad, nid cyfarwyddyd. Mae Randima yn tynnu'r un rhesymeg echdynnu allan i ymyl y blaned: mae twf a adeiladwyd ar "biliynau o gyflyrwyr aer, biliynau o geir, biliynau o dda byw" yn ymddwyn yn yr un ffordd ag y mae echdynnu sylw yn ei wneud - mae'r ddau yn y pen draw yn rhagori ar yr hyn y gall y system sylfaenol, meddwl neu awyrgylch, ei amsugno.

Rhan Dau

Atgyrch, Nid Awydd

Mae Thomas yn dod â'i ffrâm ei hun i'r patrwm: mae system nerfol reoleiddiedig, mae'n awgrymu, yn creu perthynas fwy cynnil â thechnoleg - mwy o allu i sylwi ar yr hyn sydd o'i le, mwy o ddewis go iawn. Mae un sydd wedi'i ddadreoleiddio, trawma sy'n gwthio rhywun i or-actifadu, diffyg teimlad, neu ddarnio, yn culhau'r un maes cyn i berson hyd yn oed gael dewis. Mae'n gofyn i Randima'n uniongyrchol: a yw'r economi sylw yn dysgu manteisio ar y ddadreoleiddio mewnol hwnnw'n fwriadol?

Mae ateb Randima yn rhedeg trwy gaethiwed fel mater o ddyfnder - pa mor bell, yn ei eiriau ef, mae "y jac" yn mynd i'r ymennydd. Mae'r technolegau hyn wedi dysgu sbarduno'r ymatebion dopamin a esblygodd i wobrwyo goroesiad ac atgenhedlu, a'u hanelu at ddim byd: hysbysiad, sgrôl, fflach o olau. Yr achos cliriaf, iddo ef, yw plant - nid oherwydd bod unrhyw beth o'i le gyda nhw, ond oherwydd bod eu systemau dopamin yn dal i galibro i'r byd. Rhowch sgrin o flaen plentyn dwy oed a bydd eu llygaid yn ei olrhain yn anwirfoddol, oherwydd bod y disgleirdeb wedi'i beiriannu i ragori ar bopeth arall yn yr ystafell - yr hyn y mae'n ei alw'n "ysgogiad hypernormal," y tu hwnt i unrhyw beth y mae corff wedi esblygu i'w ddisgwyl. Unwaith y bydd derbynyddion dopamin plentyn wedi calibro i'r lefel honno o fewnbwn, mae bywyd cyffredin yn darllen fel gwastad, a gall tynnu'r ddyfais i ffwrdd sbarduno gofid go iawn, anghymesur.

Mae'n ofalus ynglŷn â gwahaniaeth y mae'r rhan fwyaf o sgyrsiau am dechnoleg yn ei hepgor: nid yw'r hyn y mae pobl yn ei glicio yr un peth â'r hyn maen nhw ei eisiau. "Cliciodd pobl arno, felly dyna maen nhw ei eisiau," meddai cwmnïau - ond mae hynny, yn ôl Randima, yn drysu atgyrch â bwriad.

Mae pawb yn edrych ar ddamwain car ar y briffordd, meddai, oherwydd bod sylw i berygl yn fecanwaith goroesi, nid oherwydd bod unrhyw un mewn gwirionedd eisiau byd yn llawn damweiniau car. Mae ei gasgliad yn strwythurol, nid yn foesol: mae gan fusnes sy'n goroesi ar eich sylw wrthdaro buddiannau adeiledig â'ch gwasanaethu mewn gwirionedd , oherwydd byddai cynnyrch gwirioneddol ddefnyddiol yn rhoi'r hyn yr oeddech ei angen ac yn gadael i chi adael - y gwrthwyneb i'r hyn sy'n cadw'r metrigau i fyny.

Rhan Tri

Terfynau Echdynnu a Symud y System

Wedi'i ofyn sut mae'r system yn newid mewn gwirionedd, mae Randima yn rhannu'r cwestiwn yn ddau'n glir: beth sy'n bosibl o fewn yr economi bresennol, ac a yw'r economi honno'n gynaliadwy o gwbl. Y tu mewn iddi, meddai, mae popeth yn y pen draw yn rhedeg trwy bris - felly'r ymyriadau sy'n gweithio yw'r rhai sy'n cyffwrdd â llinell waelod cwmni yn y pen draw . Mae rhaglen ddogfen fel The Social Dilemma yn meithrin ymwybyddiaeth y cyhoedd; mae ymwybyddiaeth yn dod yn bwysau gwleidyddol am gyfreithiau newydd; mae cyfreithiau'n galluogi ymgyfreitha; mae ymgyfreitha yn y pen draw yn cysylltu ffigur doler â niwed a oedd wedi bod yn rhydd i'w achosi. Mae chwythwyr chwiban yn bwysig am yr un rheswm - mae dogfen fewnol sydd wedi'i gollwng yn brawf bod cwmni'n gwybod, sef yr hyn sy'n troi ymwybyddiaeth yn atebolrwydd. Y rhwystr, bob amser, yw cyflymder: mae technoleg yn symud yn gyflymach nag y gall unrhyw un o'r mecanweithiau cywiro hyn ei olrhain.

Chwyddo allan ymhellach, ac mae Randima yn cymhwyso'r un gyfraith i'r meddwl ag y byddai'n ei chymhwyso i olew.

Tynnu olew allan o'r ddaear yn gyflymach nag y gall miliynau o flynyddoedd ei ddisodli, ac mae hynny'n broblem. Torri sylw, ffocws, a gwneud synnwyr yn gyflymach nag y gall gorffwys a myfyrio eu hailadeiladu, ac - yn ôl yr un rhesymeg - mae hynny'n broblem hefyd. Mae galluoedd a enillwyd yn galed fel sylw parhaus yn cymryd disgyblaeth go iawn i'w hadeiladu ac ychydig iawn i'w herydu; nid yw ymarfer myfyrdod wythnosol, mae'n nodi, yn cyfateb i ffôn a beiriannwyd i gystadlu am sylw wyth awr y dydd neu fwy. Plant, y mae eu meddyliau'n fwy hyblyg, sy'n ei deimlo gyflymaf.

Mae'n cysylltu'r llinyn ag anghydraddoldeb gyda llinell sy'n gweithredu fel diagnosis hefyd: mae cyfalafiaeth "yn sensitif iawn i gyfalaf" - yn wirioneddol gyfrifol am ddatblygiadau gwirioneddol mewn meddygaeth, bwyd a thechnoleg, ac yr un mor ddibynadwy o ran crynhoi cyfoeth oni bai bod rhywbeth yn ei wrthweithio'n weithredol. Mae'n gweld dyfodiad AI pwerus yn llai fel problem newydd nag fel yr hen un ar gyflymder uwch - ac, o bosibl, fel y pwysau sy'n gorfodi'r strwythur cymhelliant i newid yn y pen draw.

Rhan Pedwar

AI: Problem Echdynnu, Nawr yn Gyflymach

Mae fframwaith Randima ar gyfer deallusrwydd artiffisial bron yn syml o dwyllodrus: technoleg fu cyflymydd mwyaf dynoliaeth erioed, a'r genhedlaeth hon o AI yw'r fersiwn fwyaf pwerus o'r cyflymydd hwnnw eto - gan gyfansoddi enillion ar draws caledwedd, algorithmau, data, a chyfrifiadura i gyd ar unwaith, yn gyflymach nag y symudodd Cyfraith Moore erioed. Mae yna eironi nad yw'n canolbwyntio arni: yr un caledwedd graffeg a dreuliodd saith mlynedd yn Nvidia yn ei adeiladu, ar gyfer gwneud lluniau ar sgrin, "yn goleuo picseli," a drodd allan, bron trwy ddamwain, i fod yn beiriant yr union gyflymiad y mae bellach yn rhybuddio amdano.

Ond nid yw cyflymydd yn newid cyfeiriad. Mae'n ymhelaethu ar ba bynnag gyfeiriad y mae system eisoes wedi'i bwyntio iddo. Gan ei fod wedi'i bwyntio at economi echdynnol yn bennaf, nid yw AI yn ailgyfeirio'r echdynnu - mae'n ei roi "ar or-yrru." Yr effaith agosaf, mae'n dadlau, yw awtomeiddio gwaith gwybyddol cyn llafur corfforol, am y rheswm plaen bod meddalwedd yn haws i'w awtomeiddio na roboteg. Nid yw'r rhesymeg fusnes yn sinistr cymaint ag yn ddiflas: nid oes angen diwrnodau salwch, gwyliau na gofal iechyd ar beiriannau, felly lle bynnag y gall cwmni dorri costau trwy symleiddio, bydd - yr un disgyrchiant strwythurol a wnaeth i economeg diferu fethu â dosbarthu unrhyw beth mewn gwirionedd.

Mae'n ofalus i beidio â gwneud i hon fod yn stori gydag un diweddglo yn unig. Mae ochr dda deallusrwydd artiffisial - mewn meddygaeth, mewn atebion hinsawdd, mewn ffynonellau ynni newydd - yn real, meddai, ac ni ddylid ei hanwybyddu. Mae ei rybudd yn ymwneud â dilyniant: mae'n rhaid i gymdeithas fynd trwy ddrws o wneud synnwyr da a dewisiadau ar y cyd doeth cyn y gall y manteision hynny lanio mewn gwirionedd, ac os yw'r systemau sylfaenol yn chwalu yn gyntaf - polareiddio, anghydraddoldeb, realiti a rennir eisoes wedi'i dorri - ni fydd y canlyniadau da byth yn cyrraedd o gwbl.

Yr hyn sy'n gwneud yr ail gyswllt hwn yn fwy peryglus, yn ei adroddiad ef, yw dosbarthu: nid yw'r dechnoleg hon wedi'i chanoli fel yr oedd llwyfannau cyfryngau cymdeithasol, sy'n golygu bod yr offer rheoleiddio a oedd yn ei chael hi'n anodd hyd yn oed gyda llond llaw o gwmnïau mawr yn wynebu rhywbeth sy'n rhedeg ar ffôn pawb - gall unrhyw un nawr gynhyrchu fideo ffug argyhoeddiadol, neu bapur ymchwil ffug, yn ôl ei ewyllys.

Rhan Pump

Ennill Trwy Beidio â Bod yn y Frwydr

Wrth gloi, mae Randima yn cynnig dau symudiad gwahanol — nid yn olynol, nid naill ai/neu, ond yn ddigon gwahanol fel bod pob un yn haeddu ei bwysau ei hun. Mae un wedi'i anelu at y system. Mae un wedi'i anelu at yr hunan.

Newid y Cymhellion

I ddeall beth mae unrhyw system, cwmni, neu berson yn ei optimeiddio mewn gwirionedd, darllenwch y strwythur cymhellion, nid y geiriau a nodwyd: mae cymhellion yn datgelu llawer mwy am ymddygiad na geiriau , neu ymgyrchoedd hysbysebu. Yr un rhesymeg sylfaenol a drafodwyd uchod yn Rhan Tri — mecanweithiau prisio, deddfwriaeth, ymgyfreitha, chwythwyr chwiban yn troi ymwybyddiaeth dawel yn atebolrwydd go iawn. Mae newid yr hyn y mae cwmni'n cael ei wobrwyo am ei wneud yn arafach na newid arfer, ond dyma'r lifer sy'n cyffwrdd â'r system ei hun, nid dim ond perthynas un person â hi.

Ymwrthodiad

Mae'r symudiad personol yn dechrau cyn unrhyw beth arall o hyn: cael eglurder gwirioneddol, yn ddelfrydol ar lafar, gyda phobl ac athrawon rydych chi'n ymddiried ynddynt, ynglŷn â beth mae bywyd doeth a ffyniant go iawn yn ei olygu i chi mewn gwirionedd - a gadael i'r eglurder hwnnw, nid bwydlenni algorithmig Netflix na chyfryngau cymdeithasol, osod cyfeiriad eich sylw.

Mae Thomas yn troi'r sgwrs yn ôl at ymwybyddiaeth ofalgar yn uniongyrchol: pa rôl mae'n ei chwarae yma mewn gwirionedd? Mae gan ateb Randima ddwy ran, a dyma lle mae'r honiad o frig y darn hwn yn cael ei gyfrif yn llawn. Mae'r rhan gyntaf yn hael: mae ymwybyddiaeth ofalgar yn meithrin ymwybyddiaeth wirioneddol - o feddwl, emosiwn, teimlad corfforol - sy'n creu'r gofod mewnol i sylwi ar ddewis cyn iddo gael ei wneud yn hytrach nag ar ôl hynny. Ynghyd ag eglurder ymlaen llaw ynghylch sut olwg sydd ar fywyd medrus, y saib hwnnw yw lle mae dewisiadau gwell yn digwydd mewn gwirionedd.

Yr ail ran yw'r un anoddaf, a dyma'r un ag y dechreuodd ag ef: hyd yn oed hyfforddiant ymwybyddiaeth ofalgar uwch ddim yn mynd i wneud cymaint i chi os ydych chi'n sefyll y tu mewn i system a adeiladwyd gan gwmni sy'n cynnal dadansoddiad cyson yn erbyn rhagfarn wybyddol ddynol sylfaenol - uwchgyfrifiadur wedi'i bwyntio at yr ymennydd, fel y mae'n ei ddweud. Ei gyngor olaf yw peidio â gor-ddisgyblu'r algorithm. Mae'n fath o ymwrthod, gwahanu bwriadol oddi wrth beth bynnag sydd eisoes wedi'i nodi fel rhywbeth anfedrus, yn hytrach na brwydr i'w hennill trwy geisio'n galetach.

Ddim yn ennill. Gwrthod ymladd o gwbl — a defnyddio unrhyw eglurder y mae ymwybyddiaeth ofalgar yn ei ddarparu i weld, yn gliriach, ble i beidio â sefyll.

Nid yw'r naill symudiad na'r llall yn sefyll i mewn i'r llall. Mae newid cymhellion yn newid yr hyn y mae'r system yn ei wobrwyo; mae ymwrthod â'r system yn newid eich perthynas eich hun â'r system honno tra ei bod hi'n dal i fod yr hyn ydyw. Mae Randima wedi treulio blynyddoedd bellach yn gwneud y ddau ar unwaith.

↑ Yn ôl i'r brig