Hlavnou otázkou, ktorou sa tu budem zaoberať je úvaha nad tým, kde sú hranice medzi všeobecnou umelou inteligenciou a vedomím, a prečo je z tohto hľadiska ťažké vytvoriť všeobecnú umelú inteligenciu.
Je ťažké písať úvahu o vedomí, prípadne o tom, čo je to vedomie. Vedomie je tak veľmi individuálna vec, že sa nedá merať zvonku. Je to možno iba abstrakt, a nie reálne existujúca vec. Napriek tomu s tým pojmom pracujeme, a snažíme sa ním popísať niečo, čo je živé a akýmsi spôsobom hodnotnejšie, významnejšie, než umelé, mechanické, či automatické. Vo vedomí sa skrýva samostatnosť, naše preferencie, uvedomovanie si vlastnej existencie, schopnosť sa rozhodovať, a naša mysľová mapa. Slová ako "vedome", "s vedomím", intuitívne označujú tieto schopnosti. Keď páchateľ urobil niečo "s plným vedomím", tak je vinný, na rozdiel od psychickej "nespôsobilosti", kde to "vedomie" mohlo chýbať.
Všeobecná umelá inteligencia, AGI, je často definovaná ako systém schopný riešiť, resp. systém schopný prispôsobiť svoj prístup k riešeniu akejkoľvek (rôznej) úlohy, podobne ako človek. So schopnosťou učiť sa z vlastných chýb, učiť sa automaticky (bez prepínania do režimu učenia), a hlavne učiť sa podľa vlastného výberu (nie všetko). Vedieť prijímať a odmietať. Chcieť a nechcieť.
To mi v mnohom príde podobné, ako intuitívne chápem samotné "vedomie". Mám dojem, že si to ľudia často aj zamieňajú - umelé vedomie vs. umelá inteligencia sa môže zdať natoľko podobná, že môže ísť o to isté. Jeden smer je chápať AGI ako nástroj na riešenie úloh, podobne ako Google je nástroj, ktorý odpovedá na akékoľvek dotazy. Druhý smer je chápať AGI ako umelú osobnosť, ktorá môže "nadobudnúť vedomie".
Príde mi, akoby cieľom snaženia o dosiahnutie "všeobecného" nástroja AGI je naše presvedčenie, že len tak môže AGI nadobudnúť vedomie. Čím bližšie nám bude, tým "vedomejšia" by si teoreticky mohla byť - akoby sme sa snažili vytvoriť podmienky na vznik umelého vedomia - a tým je AGI. Podobne, ako sa zamýšľame nad tým, ako je možné, že ani 99% spoločnej DNA u šimpanzov nestačí na to, aby tie opice boli tak inteligentné a "vedomé" samých seba ako my.
Je to veľké zjednodušenie a môže sa zdať ako moje cynické ignorovanie faktu, že aj zvieratá vedia spolu komunikovať, využívajú určité nástroje a chránia svoj život tak, akoby si uvedomovali svoju existenciu. Prečo ich potom tak oddeľujeme od ľudí?
Ako odpoveď sa vynára náš bias - anchoring, ktorý vzniká práve v tom našom presvedčení, že to naše intuitívne ľudské vedomie je to "pravé orechové", teda skutočné vedomie. A odtiaľ pramení to naše prianie (alebo chápanie), že "AGI = človek". Tu je tá pasca pletenia pojmov s dojmami. Ide nám naozaj o "skutočné vedomie", alebo o to, aby AGI bola taká, ako je človek?
Človek môže využívať známe vzorce svojej tvorivosti len z toho, čo pozná. A môže využívať biologické nástroje, ktoré evolučne dostal. To má vplyv aj na to, čoho je vôbec schopný náš mozog v tejto chvíli. Keď sa rozvíjam, vedome sa niečo učím, zlepšujú sa aj moje schopnosti. Keď to nerobím, chradnú. Lenže aké schopnosti? Keď píšem, ktoré veci precvičujem? Písanie? Ale kdeže. Precvičujem abstraktné myslenie, vymýšľanie, tvorivosť, motoriku prstov, oči, a taktiež vnímam to, o čom chcem písať. V písaní sa prejavuje môj osobný štýl, moja osobnosť. Bez ohľadu na druh textu, každý žáner a formát má nejaké "stupne voľnosti", kde sa moja osobnosť môže konzistentne prejaviť. A ten prejav je "cítiť". Čitatelia poznajú svojich autorov, ich "stopa" je jasná, ale veľmi ťažko slovne definovateľná. Podobne je to aj v športe alebo hudbe či inej činnosti.
Všetky tieto skilly sa učíme správnou interpretáciou pozorovania - či už priamych "odpovedí" ako na to, alebo pomocou náhodných objavov, ktoré nám zapadnú do kontextu. Vďaka pamäti a schopnosti komunikovať sme sa naučili tento kontext enkódovať do sekvenčných slov, alebo obrazov (a snáď aj zvukov!), ktoré sme si odovzdávali a pamätali po generácie. Každým novým objavom sme tento kontext rozšírili. A rozširovaním tohto kontextu sme zlepšovali aj schopnosť udržiavať a používať tento kontext, pretože bol čoraz zložitejší a spletitejší. Teda rozvíjame sa ako celok.
A prečo sme to robili-robíme? Keď sa to tak vezme, deje sa to u každej živej bytosti. Každá živá bytosť má svoj - nepriamy - výber nejakej prevládajúcej vlastnosti, evolučnej "prednosti", ktorú rozširuje alebo zlepšuje. Jej zlepšovaním sa telo prispôsobuje tomu (aj mozog je fyzická časť tela), aby sme sa tú vlastnosť mohli v ďalších generáciách učiť ešte lepšie - v prípade, že prežijeme (čo je akoby tá fitness funkcia).
Otázka samozrejme je, či naša potreba sociálneho života, potreba sa necítiť byť sám, naše ego, alebo vyhodnotenie radosti ako niečoho veľmi pozitívneho - a mnoho ďalších vecí - či tieto veci sú tiež súčasťou evolučného balíčka, v striktnom zmysle - či sú súčasťou nášho balíčka "prežitia". Ak je to tak, v takom prípade celý náš koncept dôležitosti vlastností, ktoré formujú naše vedomie - vrátane schopnosti vyberať si, a chcieť, sú pravdepodobne veľmi ovplyvnené našou zaobalenou túžbou prežiť. Teda nemôžeme tieto vlastnosti zovšeobecniť, ako to "skutočné vedomie", pretože je zjednodušene povedané - tendenčné, a kontextovo závislé na našom biologickom živote.
Tým chcem povedať, že tieto tendenčné sociálne potreby a ego, zaobalená túžba prežitia, mohla veľmi významne prispieť k rozvoju samotného vedomia a pravdepodobne teda aj k samotnej schopnosti riešiť všeobecné úlohy, aké chceme od AGI.
A dostávame sa k tomu, prečo je vlastne tak ťažké vytvoriť stroj - osobnosť, "human-relatable" AGI. V súlade s úvahami prezentovanými vyššie je to preto, že naše "moderné" emócie a potreby sa jednoducho vyvinuli v prostredí, v ktorom softvér nikdy nebude, a nevieme ho dostatočne dobre nasimulovať. To, čo zatiaľ vieme, je trénovanie dielčích vlastností, ale nie komplex.
A po bé, tým, že umelá inteligencia nevzniká "prirodzene" - teda v našom živom systéme interakcií, kde funguje prirodzený čas a následky, tieto veci sú simulované a to nutne vytvára úplne inú realitu, ktorú by mohlo také "AGI dieťa" vnímať. Môže sa naučiť s nami komunikovať, ale nemôže dávať tým istým veciam taký istý význam ako my. Naša "zelená tráva" bude úplne iná "zelená tráva" pre AGI.
