V této seminární práci se hodlám zaměřit na výklad kapitoly Johna Searla: Mohou počítače myslet? z díla Mysl, mozek, věda. John Searle je v literatuře pojednávající o umělé inteligenci znám především svým tvrzením o tom, že digitální počítače nemohou nikdy myslet či mít vědomí.
Ve svých tezích přirovnává mozek člověka k počítači (hardwaru) a mysl k počítačovému programu (softwaru). Mozek je tak vnímán jen jako jeden z mnoha možných počítačů a lidská mysl jako na něm aplikovaný program, nikoli jako záležitost biologická. Z toho pak vyplývá, že každý systém schopný realizace nějakého programu musí mít myšlenky a city, protože realizace programu rovná se myšlení.1 V další části textu se Searle zaměřuje na výroky několika vědců z oblasti počítačových věd, jejichž názory podrobuje kritice. „Příští generace počítačů bude tak inteligentní, že budeme rádi, když si nás budou vydržovat alespoň jako domácí zvířata,“ cituje na jednom místě Searle. Uvádí i výroky z univerzitní půdy Carnegie-Mellon: „Už v současnosti máme digitální počítače schopné myslet jako člověk,“ nebo „u inteligence nezáleží na konkrétním způsobu realizace, jedná se pouze o fyzikální operace se symboly a tudíž každý systém schopný provádět tyto operace má inteligenci jako lidé.“ Searle zdůrazňuje, že se jeho kritika týká definice digitálního počítače. Osvětluje, co je vlastně termínem digitální počítač míněno. Operace digitálního počítače používají abstraktních symbolů, které nemají žádný obsah. Vše lze určit jako formální strukturu. To umožňuje, že na jednom hardwaru může být použit různý software a naopak na jeden program lze uplatnit na více hardwarech. Už z této teze pokládá za premisu, na jejímž základě vyvrací domněnku, že mentální a programové procesy jsou identické. Již z definice má naše mysl víc než jen formální strukturu, má obsah. Je víc než jen abstraktní řetězce, k něčemu se vztahuje, má tedy i syntax. Zatímco program je jen syntaktický, mysl je sémantická. Searle hovoří o intencionalitě (záměrnosti) lidského myšlení, argumentuje tím, že obsahy naše myšlení jsou nadané významem (sémanticky), zatímco počítačové programy jsou výhradně syntaktické a symboly v nich požívané samy o sobě žádný význam nemají. Searle navíc argumentuje tím, že i když jsou mozek i počítač snad oba systémy pro zpracování informací, každý z obou těchto systémů zpracovává informace jiným způsobem.
Argument, že digitální počítače nemohou nikdy myslet či mít vědomí, opírá Searle o často citovaný „paradox čínského pokoje“. Člověk zavřený v místnosti, který má k dispozici čínské znaky a dokonalý návod, jak je používat (formální pravidla pro jejich skládání), se při sestavování odpovědí na otázky zvenčí jeví jako kdyby čínsky rozuměl, ačkoli nerozumí ani slovu. Odpovídá formálně správně, ale jinak než na stejné otázky v jeho mateřštině, v níž zná obsah otázek i svých odpovědí. A stejně tak nemůže porozumět ani digitální počítač, protože už z definice má k dispozici jen formální znaky a program pro jejich v použití. Znaky a jejich řetězce nemůže interpretovat. Argument, že čínštině rozumí systém jako celek, nepřipouští, nebo systém nemá jak přeskočit od syntaxe k sémantice. Porozumění čínštině nepomůže ani případné vzájemné kauzální působení počítače se světem, protože počítač nemá k dispozici významy symbolů jak přicházejících zvenčí, ani odchozích. Sarle neklade otázku „Mohou stroje myslet?“ (člověk je v jistém smyslu stroj), ani „Může nějaký artefakt myslet?“ (principiálně lze sestrojit stroj naprosto podobný člověku).2 Otázka zněla ‘Mohou digitální počítače myslet?’. Searle upřesňuje co je zde myšleno digitálním počítačem (z matematického hlediska může být cokoliv popsáno jako digitální počítač): realizace správného programu se správnými vstupy a výstupy. To však nestačí pro naše myšlení, protože to navíc pracuje se sémantickými obsahy.
Autor závěrem uvádí čtyři premisy a čtyři závěry:
Mozek způsobuje mysl.
Syntax nestačí na sémantiku.
Počítačové programy jsou plně definovány svou formální neboli syntaktickou strukturou
Mysl má mentální obsahy, přesněji, mysl má sémantické obsahy.
ZÁVĚR 1. Není v možnostech počítačového programu dát nějakému systému mysl. Zkrátka, program není mysl, dokonce ani není vybaven tak, aby ji mohl mít. ZÁVĚR 2. Je vyloučeno, aby mozkové funkce způsobovaly mysl výhradně tím, že realizují počítačový program. ZÁVĚR 3. Ať už je mysl způsobována čímkoli, musí být způsobována kauzálními silami, které se přinejmenším rovnají kauzálním silám mozku. ZÁVĚR 4. Ať už bychom stvořili jakýkoli artefakt mající mentální stavy ekvivalentní mentálním stavům, které má člověk, nemohli bychom vystačit s počítačovým programem. Spíše by tento artefakt musel mít síly ekvivalentní kauzálním silám lidského mozku.
Celý Searlův text vyznívá, jako by se autor velmi podivoval nad tím, že někdo může být názoru opačného. Počítače podle Johna Searla myslet nemohou. Produkt mozku – mysl (myšlení, mentální stavy) je biologický fenomén. Na rozdíl od digitálního počítače, který jen provádí formální program a používá bezvýznamové symboly, má mysl i sémantický obsah, k něčemu se vztahuje, proto počítač může mysl pouze napodobovat, nikoli duplikovat (přičemž tento rozdíl nezáleží na dokonalosti počítače, ale vychází už z jeho definice).
John Searle, Mohou počítače myslet
V této seminární práci se hodlám zaměřit na výklad kapitoly Johna Searla: Mohou počítače myslet? z díla Mysl, mozek, věda. John Searle je v literatuře pojednávající o umělé inteligenci znám především svým tvrzením o tom, že digitální počítače nemohou nikdy myslet či mít vědomí.
Ve svých tezích přirovnává mozek člověka k počítači (hardwaru) a mysl k počítačovému programu (softwaru). Mozek je tak vnímán jen jako jeden z mnoha možných počítačů a lidská mysl jako na něm aplikovaný program, nikoli jako záležitost biologická. Z toho pak vyplývá, že každý systém schopný realizace nějakého programu musí mít myšlenky a city, protože realizace programu rovná se myšlení.1 V další části textu se Searle zaměřuje na výroky několika vědců z oblasti počítačových věd, jejichž názory podrobuje kritice. „Příští generace počítačů bude tak inteligentní, že budeme rádi, když si nás budou vydržovat alespoň jako domácí zvířata,“ cituje na jednom místě Searle. Uvádí i výroky z univerzitní půdy Carnegie-Mellon: „Už v současnosti máme digitální počítače schopné myslet jako člověk,“ nebo „u inteligence nezáleží na konkrétním způsobu realizace, jedná se pouze o fyzikální operace se symboly a tudíž každý systém schopný provádět tyto operace má inteligenci jako lidé.“ Searle zdůrazňuje, že se jeho kritika týká definice digitálního počítače. Osvětluje, co je vlastně termínem digitální počítač míněno. Operace digitálního počítače používají abstraktních symbolů, které nemají žádný obsah. Vše lze určit jako formální strukturu. To umožňuje, že na jednom hardwaru může být použit různý software a naopak na jeden program lze uplatnit na více hardwarech. Už z této teze pokládá za premisu, na jejímž základě vyvrací domněnku, že mentální a programové procesy jsou identické. Již z definice má naše mysl víc než jen formální strukturu, má obsah. Je víc než jen abstraktní řetězce, k něčemu se vztahuje, má tedy i syntax. Zatímco program je jen syntaktický, mysl je sémantická. Searle hovoří o intencionalitě (záměrnosti) lidského myšlení, argumentuje tím, že obsahy naše myšlení jsou nadané významem (sémanticky), zatímco počítačové programy jsou výhradně syntaktické a symboly v nich požívané samy o sobě žádný význam nemají. Searle navíc argumentuje tím, že i když jsou mozek i počítač snad oba systémy pro zpracování informací, každý z obou těchto systémů zpracovává informace jiným způsobem.
Argument, že digitální počítače nemohou nikdy myslet či mít vědomí, opírá Searle o často citovaný „paradox čínského pokoje“. Člověk zavřený v místnosti, který má k dispozici čínské znaky a dokonalý návod, jak je používat (formální pravidla pro jejich skládání), se při sestavování odpovědí na otázky zvenčí jeví jako kdyby čínsky rozuměl, ačkoli nerozumí ani slovu. Odpovídá formálně správně, ale jinak než na stejné otázky v jeho mateřštině, v níž zná obsah otázek i svých odpovědí. A stejně tak nemůže porozumět ani digitální počítač, protože už z definice má k dispozici jen formální znaky a program pro jejich v použití. Znaky a jejich řetězce nemůže interpretovat. Argument, že čínštině rozumí systém jako celek, nepřipouští, nebo systém nemá jak přeskočit od syntaxe k sémantice. Porozumění čínštině nepomůže ani případné vzájemné kauzální působení počítače se světem, protože počítač nemá k dispozici významy symbolů jak přicházejících zvenčí, ani odchozích. Sarle neklade otázku „Mohou stroje myslet?“ (člověk je v jistém smyslu stroj), ani „Může nějaký artefakt myslet?“ (principiálně lze sestrojit stroj naprosto podobný člověku).2 Otázka zněla ‘Mohou digitální počítače myslet?’. Searle upřesňuje co je zde myšleno digitálním počítačem (z matematického hlediska může být cokoliv popsáno jako digitální počítač): realizace správného programu se správnými vstupy a výstupy. To však nestačí pro naše myšlení, protože to navíc pracuje se sémantickými obsahy.
Autor závěrem uvádí čtyři premisy a čtyři závěry:
ZÁVĚR 1. Není v možnostech počítačového programu dát nějakému systému mysl. Zkrátka, program není mysl, dokonce ani není vybaven tak, aby ji mohl mít. ZÁVĚR 2. Je vyloučeno, aby mozkové funkce způsobovaly mysl výhradně tím, že realizují počítačový program. ZÁVĚR 3. Ať už je mysl způsobována čímkoli, musí být způsobována kauzálními silami, které se přinejmenším rovnají kauzálním silám mozku. ZÁVĚR 4. Ať už bychom stvořili jakýkoli artefakt mající mentální stavy ekvivalentní mentálním stavům, které má člověk, nemohli bychom vystačit s počítačovým programem. Spíše by tento artefakt musel mít síly ekvivalentní kauzálním silám lidského mozku.
Celý Searlův text vyznívá, jako by se autor velmi podivoval nad tím, že někdo může být názoru opačného. Počítače podle Johna Searla myslet nemohou. Produkt mozku – mysl (myšlení, mentální stavy) je biologický fenomén. Na rozdíl od digitálního počítače, který jen provádí formální program a používá bezvýznamové symboly, má mysl i sémantický obsah, k něčemu se vztahuje, proto počítač může mysl pouze napodobovat, nikoli duplikovat (přičemž tento rozdíl nezáleží na dokonalosti počítače, ale vychází už z jeho definice).