total training uvod

Mysliaci stroj, klamstvo a inteligencia

S kým chatujete? Ako viete že je to človek?

Keď vieš klamať, si inteligentný

Jednou z najviac diskutovaných tém v oblasti umelej inteligencie je takzvaný Turingov test. Dokážu počítače komunikovať prirodzeným jazykom tak, že ich komunikácia bude nerozlíšiteľná od komunikácie medzi ľuďmi?

Otázku „Dokážu stroje myslieť?“ môžeme vnímať ako značne nejednoznačnú a nešpecifikovanú. Čo vlastne znamená, že stroj myslí? Alan Turing túto otázku konkretizoval a položil ku nej ekvivalenciu s nasledovnou otázkou: „Dokáže stroj hrať imitačnú hru?“ A čo je to imitačná hra?

Imitačnú hru hrajú traja ľudia, muž (A), žena (B) a vyšetrovateľ (C). Vyšetrovateľ je v inej miestnosti ako A a B. Muž a žena chatujú z C cez počítač, komunikujú výlučne prostredníctvom textových správ. Cieľom vyšetrovateľa je zistiť, kto z A a B je žena. Cieľom A a B je presvedčiť C, že práve on/ona je žena. C kladie otázky A a B a získava odpovede, pričom môžu komunikovať o ľubovoľných témach, matematika, poézia, hudba, počasie, zamestnanie, jednoducho čokoľvek.

imitation1

Podľa Turinga otázku „Dokážu stroje myslieť?“ môžeme stotožniť (predefinovať) s otázkou: „Čo ak namiesto muža umiestnime do role A počítač? Bude vyšetrovateľ robiť zlé rozhodnutia rovnako často ako vtedy, keď budú v roli A a B muž a žena?“

imitation2

V ďalšom scenári môžeme vylúčiť to, že B musí byť muž. Situácia vyzerá nasledovne:

imitation3

Prejdime ku Turingovmu testu (TT). Cieľom TT prirodzene nie je vytvoriť algoritmus ktorý by vedel simulovať ženu, ale celkovo človeka. Poznámky ktoré nasledovali potom ako vznikla imitačná hra boli zamerané na to, aby sa ignoroval rozdiel pohlavia. TT hrajú tri entity, stroj A, človek B a vyšetrovateľ (človek) C. Cieľom C je zistiť, ktorá z entít s ktorou komunikuje je človek a ktorá je algoritmus.

imitation4

Môžeme si všimnúť, že stroj a žena nebojujú proti sebe, stroj musí presvedčiť vyšetrovateľa a tým dokázať svoju kompetenciu. V prípade že sa snažia presvedčiť C stroj a muž, obaja musia simulovať niečo čo nie sú, musia imitovať ženu. Napriek tomu, že imitačnú hru môžu mnohí považovať za obskúrnu, je to veľmi dobre pripravený návrh, ktorého základom je porovnanie.

Turing mohol predefinovať hru tak, že by bol iba vyšetrovateľ a subjekt. Vyšetrovateľ by musel zistiť či je subjekt muž alebo žena. Rovnako by sme mohli navrhnúť v inej verzii, aby vyšetrovateľ zistil, či je subjekt človek alebo stroj. V tomto prípade by ale vyšetrovateľ nemal k dispozícii porovnanie. Ťažko ale povedať, či by to mal počítač v takejto hre ľahšie alebo ťažšie. Keď hrajú imitačnú hru dvaja, odpoveďou je „A je žena“ alebo „A je muž“. Keď ju hrajú traja, odpoveďou je „A je skôr ženou ako B“.

Turing nešpecifikoval ako by mali byť stroje hrajúce imitačnú hru implementované. Veril, že ak je stroj / počítač skonštruovaný tak aby hral imitačnú hru úspešne, nezáleží na tom, či jeho procesy, simulácia, spracovávanie odrážajú ľudský proces. V tomto prípade môže stroj využiť akúkoľvek stratégiu aby uspel. Dokonca zvážil možnosť, že stroj ktorý dokáže úspešne hrať imitačnú hru, nemôže byť vysvetlený svojim tvorcom, pretože bol vytvorený experimentálnymi metódami. Najlepšou stratégiou by prirodzene bolo, keby dával na svojom výstupe také odpovede, ktoré by dával človek. Turing nehovoril o žiadnych obmedzeniach ako modelovať ľudské kognitívne procesy, avšak odradil akýkoľvek pokus ktorý by sa príliš vzďaľoval od ľudských spôsobov. Napriek tomu sa nestaval ku žiadnemu extrémnemu pohľadu a akceptoval možnosť, že aj taký stroj by mohol prejsť testom.

Zaujímavé na imitačných hrách je to, že obsahujú v sebe kľúčový prvok, a tým je klamstvo. To znamená, že podvádzanie je integrálnou súčasťou TT. Počítač by prirodzene musel klamať a jednoduchou možnosťou by bolo, že by občas urobil chybu. Pri ťažších aritmetických operáciách by počkal s výsledkom. Takéto triky by stroj musel mať buď naprogramované alebo naučené. Avšak výsledky z domény induktívneho učenia nám hovoria, že žiadny učiaci sa algoritmus negarantuje korektné výsledky na dátach, ktoré pred tým ešte nespracovával. V takomto prípade počítače robia chyby ktoré sa nedajú programátormi predvídať a niekedy ani pochopiť.

Protiargumenty

Pravdepodobne v dnešnej dobe super-počítačov to už nebude až tak rozšírený názor, ale mnohí ľudia si stále môžu povedať, že ľudské myslenie je niečo špeciálne, niečo čo je pre nás ľudí charakteristické a predstava mysliacich strojov v nich môže vyvolávať averziu. To, že nejaké stroje budú zdieľať túto špeciálnu ľudskú schopnosť nie je pre nich príjemná. Turing veril, že tento argument nie je hodný ani len vyvrátenia a s trochou sarkazmu tvrdí, že viac primeraná je v tomto prípade útecha.

Jednou zo zaujímavých tém je výpočtová obmedzenosť strojov, presnejšie povedané algoritmov. Známa Gödelova veta tvrdí, že konzistentné logické systémy ktoré majú určitú zložitosť, obsahujú také tvrdenia ktoré sú pravdivé, ale v rámci daného systému sa nedajú nijako dokázať ani vyvrátiť.

Túto námietku nazýva Turing námietkou z matematiky. Hoci vieme matematicky dokázať, že každý algoritmus má svoje obmedzené hranice, bolo iba povedané, bez akéhokoľvek dôkazu, že žiadne také obmedzenia sa nekladú na ľudský intelekt. To, že algoritmus má svoje hranice je v poriadku, stroj môže robiť chyby, pretože to nie je požiadavka pre inteligenciu.

Ďalším postojom je argument z vedomia. Niektorí veria, že na to aby stroje mysleli, musia mať vedomie. Extrémom je takzvaný solipsizmus. Jediný spôsob ako zistiť či stroj myslí, je byť tým strojom. Jediným spôsobom ako zistiť či druhý človek myslí, je byť tým človekom. Toto je takzvaný problém dvoch myslí. Turing jednoducho navrhol zdvorilo predpokladať, že každý myslí: „Alternatívou ku imitačnej hre by mohol byť solipsizmus, ale toto voči ľuďom nepraktikujeme. Radšej opustime tento argument, ako by sme mali prijať solipsizmus.“

Niektoré argumenty hovoria, že stroje nás nikdy nenaučia nič nové, nedokážu nás ničím prekvapiť. Problém je, že stroje môžu ľudí prekvapiť celkom často. Iní tvrdia že nervový systém je spojitý, predstavuje analógové hodnoty a teda ho nemožno simulovať diskrétnymi stavmi / hodnotami. Turing ale tvrdí, že dostatočne kvantované diskrétne hodnoty dokážu simulovať nervový systém tak dobre, že počítač testom prejde.

Spomeňme ešte posledný argument, ktorý hovorí, že správanie sa nedá formalizovať. Keby existovali jasné pravidlá ktoré by popisovali čo presne človek urobí v každej situácii, človek by bol strojom. Ale keďže takéto pravidlá nie sú, človek stroj určite nie je. Problém je, že je potrebné uvedomiť si rozdiel medzi pravidlami správania a pravidlami operovania. Zatiaľ nie je evidentné, že by neexistovala kompletná množina popisujúca pravidlá správania. Ďalšou zaujímavou myšlienkou je fakt, že niekedy nedokážeme predpovedať správanie počítača s diskrétnymi stavmi iba pomocou pozorovania jeho rozhodnutí. Existuje mnoho rozličných kritík a argumentov vychádzajúcich z rozličných filozofických, psychologických, informatických a iných oblastí, ale my sa bližšie s nimi zaoberať nebudeme.

Ako by sa mal teda stroj učiť? Podľa Turinga, na to aby sme mohli modelovať ľudskú myseľ musíme zvážiť tri náležitosti: počiatočný stav mysle, vzdelanie subjektu a vlastnú skúsenosť subjektu. Jednou z možností je simulovať model detskej mysle a vzdelávať ju.

Turingove myšlienky sú veľmi zaujímavé, zvlášť tým, že vznikli pred viac ako 50-timi rokmi. Turing veril, že na to aby stroj prešiel TT, by bolo potrebné simulovať ľudskú myseľ čo najpresnejšie ako sa dá. Zároveň by to bol dobrý a férový postoj umožniť stroju učiť sa tak ako sa učia ľudia.

Podstatou TT je teda klamanie -- respektíve dokázať imitovať niečo čo nie som. Možno by sme mohli povedať, že ekvivalentne ťažkým problémom je rozpoznať, či druhý človek hovorí pravdu alebo klame. V podstate tu ide tiež o simuláciu niečoho, čo nenastalo. Ak je človek dostatočne inteligentný, presvedčí druhého o tom že má pravdu.

Jedna z definícií inteligencie hovorí, že je to schopnosť predstaviť si situácie z iných pohľadov, ako ich vníma iný človek, vedieť sa vžiť do role nepriateľa a podobne. Do tejto definície celkom dobre zapadá aj definícia, že sme inteligentní práve vtedy keď vieme klamať.

Medzi mnohé úspechy umelej inteligencie patrí napríklad algoritmus hrajúci šach, ktorý niekedy dokáže poraziť aj majstrov sveta, alebo rozpoznávanie a generovanie ľudskej reči.

Ako navrhnúť stroj ktorý by simuloval človeka?

Poďme sa teda pozrieť na to, kam vedomie „cestuje“ aby sme zistili, čo všetko musí vedieť AI stroj, a síce začnime pri našich „vnútorných reprezentáciách“, poďme robiť netradičnú činnosť a síce „trackovať“, pozorovať, kde všade sa naše myšlienky túlajú, na čo myslíme, ako sa postupne menia obsahy vedomia. Takýto proces môže mať jednu praktickú výhodu: niektoré postupnosti obsahov (napríklad dve-tri vizuálne predstavy, zvuk a určitý pocit) u nás vyprodukujú určitý emočný stav. Do istej miery môžeme svoje emócie ovládať, korigovať, tak ako to napríklad robia herci. Postupnosť myšlienok ktorá navodí daný stav môže k tomu dopomôcť.

Poďme sa zamerať na to, ako zareagujeme v určitej situácii. Napríklad píšete email známemu, ako ste sa vrátili z dovolenky. Keby sme chceli mať navrhnutý AI stroj, ktorý by toto dokázal urobiť za nás, odkiaľ a aké informácie by musel použiť aby dokázal simulovať našu činnosť ako píšeme email? Keď začneme takto „trackovať“ naše vlastné myšlienky aby nás doviedli k odpovedi na otázku, je jasné, že by tento stroj musel mať naučené rozpoznávanie reči, musel by vedieť odpovedať v danom jazyku, tak ako my, musel by si niekedy v minulosti „odsedieť“ učenie sa a získať interpretácie písmen, slov a viet. Ďalej, na to aby popísal svoj zážitok, by musel nevyhnutne „vidieť“ a „zažiť“ danú dovolenku a mať z nej určité „dáta“, ktoré by pomocou slov opísal. Inými slovami, musel by sa pohybovať a interagovať a učiť sa v reálnom prostredí rovnako ako človek. Geneticky by dostal určitú výbavu (pohybový aparát, senzory, pamäť a výpočtovú silu, spravovanie energie) a potom by musel existovať a „fungovať“ rovnako ako človek v tom zmysle, že by musel spracovávať informácie a učiť sa.

Hypotéza: Pri takomto „stroji“ nebudeme vedieť, čo ktorý bajt alebo hodnota znamená, ale budeme môcť získať výstup a ponúknuť nový vstup. Stroj bude nepresný tak ako človek, bude robiť chyby, bude len optimálny vzhľadom na ciele, prostredie a naučenú skúsenosť.

Je to spôsob ako si „lacno“ vytvoriť pracovnú silu ktorá by pracovala za nás? Je to spôsob ako rýchlejšie klonovať a rozšíriť svoje memy vo svete? Je to spôsob ktorý sa objavil v evolučnom procese ktorým sa dokáže evolúcia extrémne zrýchliť tým, že sa vytvoria inteligentnejšie a bystrejšie „bytosti“, navrhujúce lepšie a výkonnejšie entity, stroje navrhované strojmi?

Dokážeme sa rozhodovať "slobodne"?

V rámci tejto témy sa pozrime ešte na jednu otázku. Do akej miery sa dokážeme rozhodovať slobodne? Možno sa budeme vedieť uspokojiť s nasledovnou odpoveďou. „Áno“ je správne aj „nie“ je správne. Záleží od pohľadu. Keď sme v meta-pozícii a pozeráme sa na ľudský mozog ako na množinu bežiacich procesov, tak môžeme povedať že sa slobodne nerozhodujeme, naše rozhodnutia sú dopredu dané. Jednoducho „automaticky“ prebehne proces v tom okamihu keď sa „udeje“ rozhodnutie. Predtým je podvedomie ovplyvnené mnohými vonkajšími a vnútornými faktormi ktorých výsledkom toto rozhodnutie je.

Keď sme ale na danú aktivitu fokusovaní, asociovaní v danej skúsenosti (čo si vtedy práve neuvedomujeme, ináč by sme boli v meta pozícii), prežívame danú vec, máme „vedomé“ pocity že sa dokážeme rozhodovať podľa seba, podľa našej vôle, slobodne. Takýto postoj z meta-pohľadu ponúka odpoveď prostredníctvom dvoch odlišných rámcov. Záleží už len od toho, na ktorej strane práve stojíme.

Referencie

Vedecký článok :: Turing Test: 50 Years Later

Kľúčové slová

Alan, Turing, turingov, test, 50, 100, rokov, algoritmus, klamstvo, klamanie, problém, dvoch, myslí, rozhodovať, slobodne, sloboda, filozofia, ľudské, kognitívne, procesy, myslenie, simulácia, človeka, je, človek, stroj, logika, matematika