Človek môže využívať známe vzorce svojej tvorivosti len z toho, čo pozná. A môže využívať biologické nástroje, ktoré evolučne dostal. To má vplyv aj na to, čoho je vôbec schopný náš mozog v tejto chvíli. Keď sa rozvíjam, vedome sa niečo učím, zlepšujú sa aj moje schopnosti. Keď to nerobím, chradnú. Lenže aké schopnosti? Keď píšem, ktoré veci precvičujem? Písanie? Ale kdeže. Precvičujem abstraktné myslenie, vymýšľanie, tvorivosť, motoriku prstov, oči, a taktiež vnímam to, o čom chcem písať. V písaní sa prejavuje môj osobný štýl, moja osobnosť. Bez ohľadu na druh textu, každý žáner a formát má nejaké "stupne voľnosti", kde sa moja osobnosť môže konzistentne prejaviť. A ten prejav je "cítiť". Čitatelia poznajú svojich autorov, ich "stopa" je jasná, ale veľmi ťažko slovne definovateľná. Podobne je to aj v športe alebo hudbe či inej činnosti.
Všetky tieto skilly sa učíme správnou interpretáciou pozorovania - či už priamych "odpovedí" ako na to, alebo pomocou náhodných objavov, ktoré nám zapadnú do kontextu. Vďaka pamäti a schopnosti komunikovať sme sa naučili tento kontext enkódovať do sekvenčných slov, alebo obrazov (a snáď aj zvukov!), ktoré sme si odovzdávali a pamätali po generácie. Každým novým objavom sme tento kontext rozšírili. A rozširovaním tohto kontextu sme zlepšovali aj schopnosť udržiavať a používať tento kontext, pretože bol čoraz zložitejší a spletitejší. Teda rozvíjame sa ako celok.
A prečo sme to robili-robíme? Keď sa to tak vezme, deje sa to u každej živej bytosti. Každá živá bytosť má svoj - nepriamy - výber nejakej prevládajúcej vlastnosti, evolučnej "prednosti", ktorú rozširuje alebo zlepšuje. Jej zlepšovaním sa telo prispôsobuje tomu (aj mozog je fyzická časť tela), aby sme sa tú vlastnosť mohli v ďalších generáciách učiť ešte lepšie - v prípade, že prežijeme (čo je akoby tá fitness funkcia).
Otázka samozrejme je, či naša potreba sociálneho života, potreba sa necítiť byť sám, naše ego, alebo vyhodnotenie radosti ako niečoho veľmi pozitívneho - a mnoho ďalších vecí - či tieto veci sú tiež súčasťou evolučného balíčka, v striktnom zmysle - či sú súčasťou nášho balíčka "prežitia". Ak je to tak, v takom prípade celý náš koncept dôležitosti vlastností, ktoré formujú naše vedomie - vrátane schopnosti vyberať si, a chcieť, sú pravdepodobne veľmi ovplyvnené našou zaobalenou túžbou prežiť. Teda nemôžeme tieto vlastnosti zovšeobecniť, ako to "skutočné vedomie", pretože je zjednodušene povedané - tendenčné, a kontextovo závislé na našom biologickom živote.
Tým chcem povedať, že tieto tendenčné sociálne potreby a ego, zaobalená túžba prežitia, mohla veľmi významne prispieť k rozvoju samotného vedomia a pravdepodobne teda aj k samotnej schopnosti riešiť všeobecné úlohy, aké chceme od AGI.
A dostávame sa k tomu, prečo je vlastne tak ťažké vytvoriť stroj - osobnosť, "human-relatable" AGI. V súlade s úvahami prezentovanými vyššie je to preto, že naše "moderné" emócie a potreby sa jednoducho vyvinuli v prostredí, v ktorom softvér nikdy nebude, a nevieme ho dostatočne dobre nasimulovať. To, čo zatiaľ vieme, je trénovanie dielčích vlastností, ale nie komplex.