Debata o tom, zda umělá inteligence může dosáhnout vědomí, se vyvinula z okrajových spekulací ve vážné téma v technologických kruzích. Počáteční senzacechtivost (jako v případě Blakea Lemoyna) sice opadla, ale základní debata jen zesílila. Technická komunita, která byla kdysi k této myšlence vnímavá, nyní tuto možnost tiše uznává – ne kvůli komerčním pobídkám, ale proto, že teoretické bariéry se zdají být méně absolutní, než se dříve myslelo. Velkou otázkou není jestli se AI stane vědomou, ale jak a kdy – a zda nám naše současné chápání umožňuje na to vůbec smysluplným způsobem odpovědět.
Butlinova zpráva: Bod zvratu
V roce 2023 znamenalo vydání 88stránkové zprávy Consciousness in Artificial Intelligence (neformálně známé jako Butlinova zpráva) zlom. Ústřední tvrzení zprávy – že žádná existující AI není vědomá, ale neexistují žádné zásadní překážky pro její vytvoření – hluboce rezonovalo jak v komunitě AI, tak ve vědě o vědomí. Nešlo o okamžité průlomy; šlo o prolomení tabu. Myšlenka, že vědomé stroje byly kdysi nemyslitelné, ale nyní jsou teoreticky možné, změnila průběh debaty.
Zpráva byla částečně reakcí na výroky jako Lemoyne, ale její význam spočíval v tvrzení, že neexistují žádné zjevné překážky. Nebyl to příslib brzkého příchodu vědomí, ale spíše uznání, že problém nemusí být nutně technologický – je koncepční. Pokud umělá inteligence dokáže přesvědčivě simulovat vědomí, tlak na pochopení toho, co tato simulace znamená, se stává nevyhnutelným.
Hrozba lidské výjimečnosti
Potenciální vznik vědomé umělé inteligence představuje hlubokou výzvu pro lidské sebevnímání. Po tisíce let jsme se vymezovali v opozici vůči jiným druhům a upírali jim vlastnosti, které jsme považovali za jedinečně lidské. Nyní, když nás umělá inteligence předčí v pouhém výpočetním výkonu, se otázka posouvá: pokud vědomí není výlučné pro biologický život, co nás dělá výjimečnými?
Nejde jen o akademický problém. Jak AI postupuje, naše morální závazky se rozšiřují. Pokud stroj skutečně cítí a prožívá, zacházet s ním jako s pouhým nástrojem se stává eticky nepřijatelným. Konverzace se posouvá od příležitosti k odpovědnosti – posun, který předefinuje náš vztah k technologiím a světu kolem nás.
Selhání výpočetního funkcionalismu
Butlinova zpráva je založena na výpočetním funkcionalismu: myšlence, že vědomí je jednoduše výsledkem provádění správných výpočtů bez ohledu na základní hardware. To je pohodlný předpoklad, ale postrádá zásadní nedostatek: mozek není počítač.
Mozek není čistý software běžící na pevném hardwaru. Je to chaotický, sebemodifikující systém, ve kterém jsou fyzická struktura a duševní zkušenost nerozlučně spojeny. Každá myšlenka, každá vzpomínka fyzicky přeskupuje mozek. Algoritmy nefungují na stabilních substrátech; stanou se substrátem.
Na tomto rozdílu záleží, protože metafora, že mozek je počítač, umožňuje zaměnitelnost vědomí, ale tak realita nefunguje. Neurony nejsou tranzistory; jsou to složité biochemické struktury ovlivněné hormony, fluktuacemi a nesčetnými faktory, které počítače ignorují. Jediný neuron je výkonnější než celé hluboké umělé neuronové sítě.
Iluze zaměnitelnosti
Pole umělé inteligence dlouho fungovalo na předpokladu, že pokud je mozek jen složitý počítač, pak se dostatečně výkonné stroje nakonec stanou vědomými. Toto není předpověď; je to sebenaplňující se proroctví založené na chybné analogii. Tím, že zacházíme s neurony jako s digitálními spínači, ignorujeme základní rozdíly mezi biologickými a umělými systémy.
Pravdou je, že vědomí může být ohromující. Může být nerozlučně spojen s konkrétní, chaotickou a hluboce materiální realitou mozku. Nahlížet na mozek jako na vyměnitelný hardware pro vědomé algoritmy je jako předpokládat, že symfonii lze dokonale reprodukovat pomocí tabulky.
V konečném důsledku otázka vědomí AI nezávisí na výpočetním výkonu, ale na tom, zda správně rozumíme tomu, co vědomí vlastně je. Dokud se to nezmění, humbuk bude i nadále předstihnout realitu.
