Už v první kapitole se autor zabývá primární otázkou: může počítač myslet? Už dávno totiž postuloval Alan Turing dnes světoznámý test, který měl odpovědět na tuto otázku. Turing byl významný britský matematik, pionýr v oboru počítačů a hlavní z kryptologů, kteří rozluštili kódy, vyráběné německou kódovací mašinou "Enigma", tehdejším vrcholem strojového kódovacího umění. Tím spojencům ušetřil mnoho obětí a značně pomohl ke konečnému vítězství. Ve svém článku "Computing machinery and Intelligence" (1950) uvádí právě tento test, který se od té doby jmenuje po něm. Na otázku ale neodpovídá přímo: jeho test nám jen řekne, kdy počítač "myslí jako člověk", jinými slovy, kdy ho "nelze ho do člověka rozeznat". Jak dalece přesně nám to řekne, zda onen stroj skutečně samostatně myslí, to je ovšem  jiná otázka. Někdy tot totiž nepoznáme ani u lidí :-).

O co v testu jde? Testu se zúčastní dvě osoby a počítač: jedna osoba coby "zkoušený objekt", druhá jen coby "pozorovatel" teda vlastně sudí. Počítač i zkoušený jsou umístěni v oddělených místnosti, aniž by mohli nějak ovlivňovat pozorovatele, který jim - jenom po klávesnici - klade otázky. Už zde je trochu nepřesnosti. Nikde se neříká, zda jsou otázky pro oba objekty stejné (asi ano, protože on sám neví, kdo je kdo), zda může zkoušený člověk také sledovat kromě svých i odpovědi počítače (asi ne) a jiné - ale počítám, že tyto věci jsou prostě zařízeny tak, aby byl onen test zcela nezávislý a objektivní. Neměl jsem příležitost číst originální článek, ale teprve v Penrosově knize jsem se dočetl, že se pozorovatel se musí snažit klást otázky tak, aby počítač na něco "chytil", zatímco desítky autorů, kteří Turinga citují, se o této "rafinovanosti" testu - já bych řekl dokonce nutné podmínce - kupodivu ani nezmiňují. Přitom je to ale podstata věci: jednoduché otázky by prostě nikam nevedly. Pouze tehdy, když pozorovatel nemůže z obsahu odpovědí s jistotou říci, kdo je počítač a kdo je člověk (odpovědi vidí jen na obrazovce), pak může říci, že počítač myslí jako člověk.

Dr. Penrose ve své knize také hned klade tyto námitky: 

- otázky nesmí vybočovat z mezí inteligence zkoušeného člověka

- otázky jistě nemohou - z nedostatku času - zahrnovat všechny obory lidské činnosti, a také nejde o zjištění nashromážděné zkušenosti, ale jen o uvažování jako takové. Jinak by počítač nikdy neobstál, nikdy nebude mít přesně ty stejné zkušenosti, jako zkoušený člověk, pokud tento je bude mít, zrovna v té kategorii, na kterou s epozorovatel ptá.

- počítač musí uměle omezovat své schopnosti, aby nevypadal chytřejší, lépe řečeno schopnější, než člověk. Jinak by ho mohl pozorovatel nachytat tak, že by mu dal příklad, který člověk zpaměti prostě nemůže vypočítat nebo by mu to trvalo příliš dlouho. Zatímco počítač by měl odpověď "hned", člověk by nebyl schopen odpovědět. To bych ale nenechával na počítači: prostě by odpovědi měly stejném, umělé zpoždění (u zkoušeného i u počítače) a v případě obtížnosti nad lidské schopnosti by hned jiný sudí (tj. nadřazený) špatnou otázku zrušil.

- otázek je omezený počet, ale je v nich třeba pokračovat tak dlouho, dokud nebude pozorovatel jasně překračovat hranice "naprogramovaného" myšlení, směrem k samostatnému uvažování. A také dodává, že  

- imitace myšlení člověka  je jen druh "myšlení" (navíc je to ten nejnižší  druh myšlení)

Seznam námitek je ovšem delší, ale jedna věc z knihy nakonec vyplývá: Penrose tu nemá odvahu přímo test odsoudit - naopak se domnívá, že je to asi to nejlepší, co máme. Pokud se prý počítači opravdu podaří nás oklamat tak, že si budeme myslet, že "myslí", to prý nám to musí stačit. Proč už v tomto bodě neuznal, že Turingův text nebude pracovat, to nevím.

Ale vraťme se k Turingovu testu, který sice najdeme už po padesát let všude možně citován, ale dosud jsme nevyrobili ani jeden počítač, lépe řečeno program, který by tímto testem prošel vítězně. Je to ale naše chyba? Není test postaven poněkud neprakticky a vágně? Turing jako matematik si jistě uvědomoval, že se daný problém zcela vymyká omezeným možnostem matematiky, vědy jinak docela přesné a spolehlivé. Proto nás udivuje poměrně ležérní zacházení s myšlením jako takovým. Podívejme se jen na jeho podmínky testu:

1) Neuvažujeme zde vůbec schopnosti zkoušeného. Můžeme je ale zcela zanedbat? Turing tvrdí, že musí odpovídat po pravdě - no prosím, ale i tak mohou být jeho znalosti nepřesné, nedokonalé anebo se může i mýlit. Pak by i poměrně "nemyslící" počítač mohl obstát v této zkoušce.

2) Ještě daleko kritičtější jsou schopnosti pozorovatele: on přece klade otázky a na jejich složitosti závisí i odpovědi. Navíc musí být natolik chytrý, aby byl schopen počítač "chytit do pasti", jinak by test nebyl hodnotný. Pravda, ani u dnešních počítačů by k tomu ještě příliš inteligence nepotřeboval :-), ale pro opravdovou zkoušku "myšlení" to chce i znalost strategie a určité taktické schopnosti. Jak dalece schopný v tom vlastně musí pozorovatel být?

3) Schopnostem počítače se pochopitelně meze přímo nekladou, ale už na schopnosti jeho programátora jsou nároky nesmírně veliké. Rozhodně musí být sám inteligentnější, než zkoušená osoba :-), jinak by počítač určitě v souboji selhal. Musí také umět předvídat všechny možné druhy otázek, aby mohl do programu zařadit, jak si má stroj počínat.. 

4) Tím, že je definice testu tak široká, vlastně požadujeme od počítače nejen inteligenci, ale přímo super-inteligenci: musí být dokonce chytřejší než kterýkoliv pozorovatel a to - protože to není specifikováno - vlastně ve všech oborech. 

A co víc: stačí tohle vše k tomu, aby se mohlo říci, že počítač myslí? Je tato "simulace" myšlení postačující? Definovat lidské myšlení je velmi obtížné, stejně jako inteligenci, ale o to nám tu nejde. Důležitější je si uvědomit, že naše myšlení je cílevědomá činnost, spojená u člověka s:

a) vědomím vlastní existence 

b) potřebou myslet a také motivací, tou silou, která nás nutí myslet;

c) vědomím, že výsledek myšlení má nějakou aplikaci v realitě

d) se schopností učit se a opravovat se

e) se schopností rozpoznávat nejen logické chyby ( např. použitím nesprávných premis či špatných závěrů) , ale i omyly a nepřesnosti jakožto "lidské" speciality (počítač může selhat, ale nemůže se mýlit - pracuje přece jen podle programu)

f) schopnost lhát a klamat - nemylme se, to je také součást myšlení, i když je to z morální stránky povětšině (:-)) odsouzeníhodné.

Nemůžeme očekávat, že počítač nutně splní všechny body a) až f), patrně ani jeden. Ale co když jsou to právě ty, které nám pomáhají myslet dál než na špičku nosu?. Uvedu příklad, jak jsem se snažil zabudovat do programu počítače bod f). Kdysi jsem napsal program, vlastně hru nazvanou  "Teach me to cheat" (Uč mě klamat"), kde člověk hraje proti počítači, s těmito pravidly: "Neutrální počítač" dodá náhodné číslo do počítače-hráče, který ho člověku prezentuje, ale  jen prohlášením, že je to číslo "sudé" či "liché". Člověk má pak uhodnout, zda počítač lže či mluví pravdu (může totiž obojí). Když to člověk uhodne, vyhrává, jinak vyhrává počítač - což opět spravedlivě posoudí neutrální počítač, který pochopitelně zná dané číslo.

Hrající počítač začíná tím, že mluví pravdu, což člověk brzo správně uhodne. Legrace začne, až když počítač začne stále prohrávat, protože řekl pravdu: když třikrát prohraje, začne podle programu lhát. Ale i to člověk brzo pochopí, obrátí strategii a tak začne počítač zase prohrávat. I on ale pak změní strategii, tak jak to má předem naplánováno. Pak už je pro člověka složitější ho porazit - tak např. počítač třeba dvakrát zalže, třikrát řekne pravdu, nebo mění strategii, až když prohraje čtyřikrát, atd. V tom případě člověk pochopí, že má větší šanci, když bude hádat čistě náhodně. Ale i v tomto stadiu hry můžeme počítač naprogramovat, aby také on hrál dál zcela náhodně. A tím hra končí, remízou: oba totiž hrají náhodně, takže nikdo nemůže systematicky vyhrávat.

Teď si ale představte, že jsem - jakožto člověk - pořád ve výhodě, protože vím, jak jsem mu naplánoval strategii. Ten, i když je o krok přede mnou, nemůže vlastně sám najít svou strategii, kterou by mě soustavně porážel. jenže člověk hrající proti mašině má brzo ztratí přehled, kolikrát u kterou počítací programovou smyčkuoběhl. Člověk proti člověku pak může navíc používat i různé strategie - například (v jiné hře) říkat pravdu tak, aby jí ten druhý nevěřil  nebo použít  intuici čili nápaditost, něco, co zatím neumíme počítačům naprogramovat. Jak je vidět, lidské myšlení je daleko složitější a pohybuje se ve vyšších rovinách.

Zatím jsme došli u počítačů nejdále s neuronovými sítěmi (a podobnými objevy v AI), které se už umí učit. I když to je velký pokrok, ke splnění Turingova testu nám to ještě nepomohlo - neuronové sítě totiž "myslí" jinak, než člověk.  Nikde ale není řečeno, že ten náš systém myšlení" je jen ten jediný: už dnes víme, že i neurony pracují jinak, než počítačové čipy. Poměrně pasivní Turingův systém "otázek a odpovědí" nám toho mnoho o samotném myšlení také neřekne. Daleko vhodnější by byla třeba forma rozhovoru, kde by naopak i zkoušený počítač pokládal různé otázky zkoušenému člověku. naivní otázky by prozradily i oblasti, kde počítač ještě není na úrovni člověka.

Naskýtá se otázka, zda hledání stroje, který by vyhovoval "jen" Turingovu testu, nezavedlo vlastně celý náš výzkum umělé inteligence na scestí. Je vůbec správné chtít od počítačů, aby mysleli jako člověk? Naše myšlení není něco Bohem dané, ale vyvíjelo se po desítky tisíc let a jeho vývoj ještě zdaleka není u konce :-). Tak máme např. celou řadu filozofů už od antiky až do dneška, kteří si odporují - kterého by teda měl počítač nahradit, aby správně prošel testem? Všichni přece ke svým objevům došli správným myšlením, dokonce vynikajícím myšlením. Ne, pravá síla počítačů je právě v tom, že umí něco, co lidé neumí. Jenže my máme zatím pořád ještě jen počítače-roboty, kteří jen poslouchají naše rozkazy, pardon, programy.

S příchodem umělého života (artificial life, AL), například tzv. "hodných či dobrých" virusů - a hlavně jejich přirozených (tj náhodných) mutantů - je docela možné, že si jednou sami vytvoří formu "softvérového života", který si vyvine a bude používat své vlastní myšlení, třeba zcela jiné, než  které má lidstvo. To také přece jednou jednalo jen podle programů - v tomto případě instinktů. Že je takový vývoj nemožný? Proč ne, Darwin platí i v softvérovém životě (už dnes používáme v softvéru jeho genetický algoritmus), jen podmínky jsou tam trochu jiné. Dokonce bych řekl, že lepší. Například to, že se tam dá vývoj značně zrychlit - nebude už potřeba čekat tisíce let na nějakou náhodnou poruchu, která změní DNA, ale můžeme změny v softvéru i sami vyvolávat. Zda tento nový typ "softvérového" myšlení potom správně využijeme, usměrníme a budeme schopni udržet v dovolených mezích, to je ovšem jiná otázka.