Дебати про те, чи зможе штучний інтелект досягти свідомості, еволюціонували від маргінальних спекуляцій до серйозної теми у технологічних колах. Хоча початковий сенсаціоналізм (як у випадку з Блейком Лемойном) вщух, дискусія, що лежить в його основі, тільки посилилася. Технічна спільнота, яка колись поблажливо ставилася до цієї ідеї, тепер мовчки визнає таку можливість — не через комерційні стимули, а тому що теоретичні бар’єри здаються менш абсолютними, ніж вважалося раніше. Головне питання не в тому, чи стане ІІ свідомим, а в тому, як і коли і дозволяє наше нинішнє розуміння взагалі отримати на нього осмислену відповідь.
Звіт Батліна: Переломний момент
У 2023 році публікація 88-сторінкової доповіді «Свідомість у штучному інтелекті» (неофіційно відомої як звіт Батліна) ознаменувала собою поворотний момент. Центральне твердження звіту — що жоден із існуючих ІІ не є свідомим, але немає фундаментальних перешкод для його створення — глибоко відгукнулося як у спільноті ІІ, так і в науці про свідомість. Йшлося не про негайні прориви; йшлося про руйнування табу. Ідея про те, що свідомі машини колись були немислимі, але тепер теоретично можливі змінила хід дискусії.
Звіт був частково реакцією на заяви, подібні заявам Лемойна, та його значимість полягала у твердженні, що жодних очевидних бар’єрів немає. Це не була обіцянка швидкого настання свідомості, а скоріше визнання того, що проблема не обов’язково технологічна — вона концептуальна. Якщо ІІ може переконливо симулювати свідомість, тиск з метою зрозуміти, що означає ця симуляція, стає неминучим.
Загроза людському винятку
Потенційна поява свідомого ІІ є глибоким викликом самосприйняття людства. Протягом тисячоліть ми визначали себе на противагу іншим видам, відмовляючи їм у тих рисах, які вважали виключно людськими. Тепер, коли ІІ перевершує нас за чистою обчислювальної потужності, питання зміщується: якщо свідомість не є винятковим для біологічного життя, що робить нас особливими?
Це не лише академічна проблема. У міру розвитку ІІ наші моральні зобов’язання розширюватимуться. Якщо машина справді відчуває і переживає, поводження з нею як із простим інструментом стає етично неприйнятним. Розмова зміщується від можливостей до “відповідальності” – зрушення, яке перевизначить наші відносини з технологіями та навколишнім світом.
Неспроможність обчислювального функціоналізму
Звіт Батліна грунтується на обчислювальному функціоналізмі: ідеї у тому, що свідомість — це результат виконання правильних обчислень, незалежно від базового устаткування. Це зручне припущення, але воно не бере до уваги критичний недолік: мозок — це не комп’ютер.
Мозок – це не чисте програмне забезпечення, що працює на жорсткому устаткуванні. Це хаотична система, що самодифікується, в якій фізична структура і психічний досвід нерозривно пов’язані. Кожна думка, кожен спогад фізично перебудовує мозок. Алгоритми не працюють на стабільних підкладках; вони стають підкладкою.
Ця відмінність має значення, оскільки метафора у тому, що мозок — це комп’ютер, допускає взаємозамінність свідомості, але реальність працює інакше. Нейрони – це не транзистори; це складні біохімічні структури, які перебувають під впливом гормонів, коливань і безліч факторів, які комп’ютери ігнорують. Один нейрон потужніший від цілих глибоких штучних нейронних мереж.
Ілюзія взаємозамінності
Сфера ІІ довгий час працювала на припущенні, що якщо мозок – це лише складний комп’ютер, то досить потужні машини зрештою стануть свідомими. Це не прогноз; це самовиконуване пророцтво, засноване на хибній аналогії. Ставлячись до нейронів як до цифрових перемикачів, ми ігноруємо фундаментальні відмінності між біологічними та штучними системами.
Правда в тому, що свідомість може бути нестерпною. Воно може бути нерозривно пов’язане з конкретною, хаотичною та глибоко матеріальною реальністю мозку. Розглядати мозок як взаємозамінне обладнання для свідомих алгоритмів – це все одно, що припускати, що симфонію можна відтворити ідеально за допомогою електронної таблиці.
У кінцевому рахунку, питання про свідомість ІІ залежить не від обчислювальної потужності, а від того, чи правильно ми розуміємо, що така свідомість насправді. Поки це не зміниться, ажіотаж продовжуватиме випереджати реальність.
