Введение
Вопрос о природе человеческого сознания веками ставил в тупик философов и ученых. Вы склонны воспринимать собственный разум как единый центр управления, где обитает неделимое «я», способное мгновенно осознавать происходящее. Однако современные исследования показывают, что эта интуитивная картина мира глубоко ошибочна.
Книга предлагает отказаться от устаревших представлений картезианского дуализма, которые наделяют человека мистической душой или отдельным мыслящим агентом внутри головы. Вместо этого автор рассматривает разум как результат долгой и слепой эволюции. Вы узнаете, как биологические механизмы выживания превратились в сложнейшую систему культурного мышления.
Главная идея книги заключается в том, что человеческий интеллект не падает с небес и не создается божественным замыслом. Он возникает снизу вверх благодаря простым алгоритмам естественного отбора и приобретенным культурным инструментам. Вы увидите, как язык загружает в мозг новые виртуальные машины, кардинально меняя структуру мышления.
В ходе чтения книги вы найдете ответы на фундаментальные вопросы:
- Как из бессознательных биологических реакций возникло осознанное «я»?
- Почему мозг не похож на традиционный компьютер с центральным процессором?
- Какую роль сыграла культура и мемы в перестройке человеческой нейросети?
- Что на самом деле представляют собой слова, язык и виртуальные машины разума?
- Каковы пределы человеческого познания в эпоху искусственного интеллекта?
1. Эволюционные истоки разума
Эволюция жизни на Земле прошла путь от простейших пребиотических циклов до сложных многоклеточных организмов, заложив фундамент для появления разума.
Человеческий разум превосходит животный благодаря созданию и использованию эволюционирующих мыслительных инструментов. Первым базовым инструментом стала речь, за которой последовало письмо, арифметика, наука и современные информационные технологии. Эти инструменты позволяют нашему виду понимать скрытые от других животных явления, такие как бактерии.
Масштабы истории Земли
Общая продолжительность эволюции жизни на Земле составляет 4 миллиарда лет. Период независимой эволюции прокариот продолжался 2 миллиарда лет до их слияния.
Эукариотическая революция
Ключевым скачком в биологической эволюции стало эндосимбиотическое слияние бактерии и археи, породившее эукариотическую клетку. События такого рода происходили редко, но именно симбиоз двух разных клеточных организмов позволил объединить их накопленные эволюционные достижения и дал начало многоклеточной жизни.
Слияние прокариот произошло так, что одна клетка не съела другую, а продолжила жить внутри нее, образовав эукариот. Британский биохимик Ник Лейн описал эту поразительную историю происхождения эукариотов в 2015 году, подтверждая гипотезу, которую автор пропагандировал около двух десятилетий.
Взрыв Маккриди
Взрыв Маккриди представляет собой беспрецедентно быстрый рост биомассы людей и домашних животных, начавшийся с развитием сельского хозяйства. За короткий по меркам эволюции исторический отрезок популяция людей и скота захватила подавляющую долю биомассы позвоночных на планете, используя технологии и интеллект.
- Продолжительность взрыва Маккриди составляет 10 тысяч лет.
- Скачок произошел всего за 500 человеческих поколений.
- На заре сельского хозяйства доля людей и скота в биомассе позвоночных составляла 0,1 процента.
- В современности доля людей и скота в биомассе позвоночных достигла 98 процентов.
Подсчеты Пола Маккриди наглядно демонстрируют этот стремительный рост доли человечества и скота в биомассе позвоночных.
2. Критика дуализма и картезианская гравитация
Картезианский дуализм и когнитивное искажение картезианской гравитации мешают принять материалистическую природу сознания.
Ловушка res cogitans
В XVII веке Рене Декарт сформулировал представление о мыслящей вещи как о субстанции совершенно иного типа, не подчиняющейся законам физики. Эта концепция закрепила представление о нематериальной душе. Картезианский дуализм разделяет материальное тело и нематериальный разум, создавая неразрешимую проблему взаимодействия физического и духовного.
Идеи Рене Декарта о мыслящей вещи проявились в его попытках объяснить все мироздание в труде Le Monde.
Преодоление иллюзии внутреннего Я
Картезианская гравитация — это устойчивое заблуждение о существовании неделимого мыслящего центра, порождающее ложное сопротивление материалистическим теориям сознания. Этот феномен описывает картезианский театр, где якобы происходит восприятие.
Когда вы начинаете исследовать собственный разум, интуиция и культурные установки заставляют вас защищать идею уникального внутреннего «я», отвергая научные объяснения мозга как физического устройства.
Более тридцати лет назад философ Пол Черчленд предложил наблюдение за ночным небом для изменения пространственной ориентации. Наблюдение плоскости эклиптики звездного неба демонстрирует, как меняется привычная пространственная ориентация.
Идеи Рене Декарта о нематериальной субстанции и привилегированном доступе от первого лица сформировали иллюзию пользователя, закрепившуюся в культуре. Страх потерять традиционные представления о свободе воли и моральной ответственности заставляет исследователей цепляться за устаревшие концепции дуализма.
3. Странные инверсии Дарвина и Тьюринга
Естественный отбор по Дарвину и вычислительные алгоритмы по Тьюрингу объясняют возникновение сложной компетентности без участия высшего разума.
Слепые алгоритмы природы
Дарвиновская теория естественного отбора не изгнала телеологию из природы, а эмпирически объяснила ее рациональный смысл без привлечения высшего разума.
Деннетт возражает биологическим пуританам, которые пытаются полностью табуировать разговоры о целях и функциях из страха перед креационистами. Эволюция постепенно порождает цели и причины точно так же, как она создала зрение, поэтому биосфера насыщена замыслами и причинами.
7 июля 2005 года католический архиепископ Вены Кристоф Шёнборн опубликовал статью в New York Times с критикой естественного отбора за неспособность объяснить всё сущее через слепые процессы.
Первая странная инверсия причинности по Дарвину показывает, что идеальное творение может возникнуть из абсолютного невежества без участия Создателя.
Естественный отбор действует как слепой алгоритм проб и ошибок, заменяя аристотелевское проектирование восходящим процессом созидания, в котором сложные структуры собираются автоматически.
В XIX веке Роберт Маккензи Беверли критиковал Дарвина за постановку системы причинности с ног на голову и замену Абсолютной Мудрости Абсолютным Невежеством.
Компетентность без понимания
Вторая странная инверсия по Тьюрингу доказывает, что для создания идеальной вычислительной машины вовсе не обязательно обладать арифметикой. Алан Тьюринг продемонстрировал, что бездумные механические инструкции могут порождать сложнейшую компетентность в вычислениях через слепое следование алгоритмам разветвления.
В 1936 году вышла фундаментальная работа Алана Тьюринга, а в 1950 году появились первые расчеты вычислительной машины Pilot ACE в Лондоне.
Зонд НАСА Mars Climate Orbiter стоимостью 125 миллионов долларов потерпел крушение в 1999 году из-за путаницы в единицах измерения между метрами и футами в управляющих устройствах.
И живые организмы, и запрограммированные устройства способны безупречно выполнять сложные задачи выживания или расчетов, не имея при этом сознательного понимания сути своих действий.
Термиты строят сложные вентилируемые сооружения без всякого архитектурного плана и понимания со стороны отдельных особей, в отличие от спроектированного каталонским архитектором Антонио Гауди собора Саграда Фамилия.
4. Уровни познания и плавающая рациональность
Живые организмы демонстрируют плавающую рациональность и делятся на четыре когнитивных уровня от существ Дарвина до грегорианских существ.
Аффордансы и умвельт
Организации взаимодействуют с окружающим миром через поведенческий мирок и доступные возможности, не обладая при этом сознательным пониманием своей онтологии.
Опираясь на концепции умвельта Якоба фон Икскюля и аффордансов Дж. Дж. Гибсона, автор объясняет, что живые системы используют свойства среды автоматически. Положение солнца или наличие пищи запускают нужные реакции благодаря анатомическому строению, а не осознанному расчету.
Амебы, подсолнухи и пчелы используют позицию солнца в своей деятельности, не имея для этого сложной нервной системы или осознанного понимания.
Четыре уровня агентов
Поведением животных управляет плавающая рациональность, при которой адаптивные действия выглядят целесообразными, но выполняются без понимания причин со стороны самого животного.
Эволюционные механизмы настраивают реакцию организмов на определенные триггеры. Животное совершает сложнейшие действия, не выстраивая ментальных монологов и не осознавая стратегию своего поведения.
Ржанки используют отвлекающее поведение со сломанным крылом, мониторя направление взгляда хищника, но делают это как эволюционно закрепленную реакцию, а не результат умозаключений. 150 миллионов лет назад плавали древние крабы-меченосцы, демонстрируя аналогичную бессловесную адаптивность.
Эволюция познания прошла через четыре последовательных уровня развития агентов:
- существа Дарвина с фиксированной генетической программой;
- существа Скиннера, способные к обучению методом проб и ошибок через оперантное обусловливание;
- попперовские существа, тестирующие гипотетические модели поведения в уме;
- грегорианские существа, к которым относятся люди, использующие внешние мыслительные инструменты.
Вороны, дельфины и приматы демонстрируют поведение попперовых существ. При этом только люди являются грегорианскими существами, способными перестраивать собственную когнитивную архитектуру.
5. Природа семантической информации
Семантическая информация кардинально отличается от математической теории Шеннона и работает как эволюционный проект без проектировщика.
Клод Шеннон разработал математический аппарат для передачи сигналов по каналам связи и измерения их в битах, очистив концепцию от содержания. Однако мозг и когнитивные системы оперируют семантической информацией, которая привязана к конкретным объектам, лицам или событиям и не требует единого стандартизированного кода для разных наблюдателей. Жак, Шерлок, Том и Борис могут обладать одинаковой семантической информацией об убийстве на Трафальгарской площади, получая ее из разных источников и не разделяя единый код.
Ценность контекста
Шенноновская теория измеряет емкость канала передачи данных в битах, игнорируя вопрос о том, имеет ли эта информация смысл для реципиента. Семантическая информация работает как отличие, создающее разницу для конкретного организма или системы, чье выживание зависит от извлечения полезных паттернов. Цветная фотография конфетти высокого разрешения занимает файл в десять раз больший, чем полный текст «Богатства наций» Адама Смита, хотя их содержательная ценность несопоставима. Файл цветной фотографии содержит 8 миллионов пикселей, в то время как объем полного текста книги «Богатство наций» составляет 2 мегабайта.
Семантическую информацию можно рассматривать как проект, направленный на улучшение перспектив выживания и созидания без необходимости наличия разумного проектировщика. В процессе эволюционного или жизненного обучения организмы используют доступную информацию для изменения своего устройства, приобретения новых полезных навыков и свойств. Информация может быть как ценным ресурсом, так и бременем, от которого приходится защищаться. В слепых экспериментах ученые ограждают испытуемых и наблюдателей от лишней информации, чтобы исключить влияние предвзятости на результаты.
Экология дезинформации
Дезинформация и недостаток информации являются вторичными, паразитическими явлениями, которые эксплуатируют системы распознавания полезных данных. Ложные сведения или обманные сигналы имеют смысл только в контексте существования системы, настроенной на получение достоверной информации. Подобно камуфляжу или вирусам, дезинформация работает за счет использования уязвимостей чужих механизмов восприятия ради собственной выгоды. Вирус Эбола использует принципы камуфляжа, а батезианская мимикрия позволяет неопасным видам подражать ядовитым для защиты от хищников.
6. Культурная революция и архитектура мозга
Культурная эволюция инвертирует дарвиновское пространство, а мозг функционирует как восходящая параллельная система, а не компьютер фон Неймана.
Философ Питер Годфри-Смит предложил трехмерные матрицы, которые помогают понять классический естественный отбор, промежуточные квазидарвиновские явления и феномен дедарвинизации. Дарвиновское пространство позволяет наглядно классифицировать эволюционные и культурные процессы по трем осям: точность копирования, стабильность среды и соотношение удачи с талантом.
Клетки человеческого тела являются потомками некогда независимых одноклеточных организмов, но внутри организма они подчиняются дедарвинизированным процессам развития.
Инверсия дарвиновского пространства
Культурная эволюция совершила обратное движение по сравнению с биологической: она стартовала от неосознанных слепых навыков и пришла к осознанному интеллектуальному творчеству сверху вниз. Биологическая эволюция идет снизу вверх через слепые мутации и естественный отбор. Человеческая культура развивалась от бездумных практик к целенаправленному проектированию, поиску и созданию новых смыслов.
Пабло Пикассо заявлял, что не ищет, а находит, хотя на практике создавал множество предварительных эскизов в поисках окончательного художественного решения.
Эгоистичные нейроны
Человеческий мозг принципиально отличается от традиционных компьютеров фон Неймана тем, что он сформирован эволюцией снизу вверх как система управления для мобильных организмов. Искусственный интеллект и классические программы создаются сверху вниз под конкретные спецификации. Мозг представляет собой иерархическую структуру из стабильных подпрограмм и модулей, которые обеспечивают мгновенный контроль в условиях динамичной среды. Программисты создают логику работы лифтов или компьютерных компиляторов через предварительное проектирование, в то время как биологические организмы используют унаследованные генетические подпрограммы.
Мозг принципиально отличается от цифрового компьютера своей глубоко параллельной архитектурой и отсутствием централизованного управления.
Хотя мозг работает на аналоговых и параллельных принципах, современные компьютеры способны имитировать параллельные нейронные сети. Однако базовая архитектура мозга устроена снизу вверх, подобно свободному рынку, а не как жесткая бюрократия плановой экономики.
Отдельные нейроны действуют как эгоистичные, полуавтономные агенты, борющиеся за выживание и энергию, а не как пассивные винтики. Нейроны являются потомками свободно живущих одноклеточных эукариотов. Они стерильны и не имеют потомства, поэтому их главная цель — поддерживать собственную жизнь, добывать энергию и брать на себя случайную работу в конкурентной среде мозга.
7. Эволюция слов, фонем и мемов
Слова и мемы распространяются как звуковые вирусы и культурные репликаторы, проходя путь от диких синантропных организмов до одомашненных инструментов.
Слова эволюционируют посредством естественного отбора и выступают в роли информационных сущностей, передаваемых через культуру. Подобно генам, слова эгоистичны и стремятся к воспроизводству через токены в речи, письме или процессах внутри головы. Они образуют типы и семейства в ходе культурной эволюции, которая аналогична биологической эволюции видов. Вы можете обнаружить такие примеры в разных языках: слова инуитов вроде иглу и каяк вошли во многие языки мира.
Слова распространяются в детском мозгу как звуковые мемы, проходя путь от бессмысленного лепета до фонологических якорей и формирования семантики. Многократное прослушивание звуков формирует в мозгу слуховую сигнатуру и якорь, после чего ребенок пытается повторить услышанное, постепенно превращаясь из пассивного слушателя в участника беседы.
Дети от рождения до шести лет выучивают в среднем 7 слов в день. За первые два года своей жизни малыш выучивает 200 слов. К шестилетнему возрасту, когда позади остается 2190 дней жизни, словарный запас ребенка составляет 15 тысяч слов.
В лекции Деба Роя на TED показано, что в среднем нужно произнести слово шесть раз в присутствии ребенка, чтобы он попытался его повторить.
Фонемы как цифровые фильтры
Фонемы выполняют функцию цифровых фильтров, которые преобразуют непрерывные звуковые вариации в дискретные категории по принципу «все-или-ничего», обеспечивая надежную передачу информации. Подобно тому как цифровые устройства обрабатывают сигналы без потери качества, человеческие слуховые системы прогоняют вариативный поток речи через прокрустовы фильтры, защищая репликацию от катастрофических ошибок.
Здесь работает иллюзия Оливера Селфриджа, где второй и пятый символы в надписи CAT имеют одинаковый вид, но читаются верно благодаря контексту и системе норм. Мозг использует виртуальную ДНК для точного распознавания звуков речи.
Мемы как культурные репликаторы
Мемы представляют собой единицы культурной передачи, которые распространяются негенетическим путем и могут вести себя как мутуалисты, комменсалы или паразиты. Концепция мемов, введенная Ричардом Докинзом, объясняет культурные изменения через дифференциальную репликацию информации, которая копируется, передается и закрепляется без обязательного понимания со стороны носителей.
Марко Поло привез макароны из Китая в Европу, не будучи шеф-поваром, а просто распространив копии мема в своем окружении.
Слова возникают как дикие синантропные организмы, а затем одомашниваются людьми через осознанный отбор и контроль за их воспроизводством, подобно тому как волки одомашнивали себя возле человеческих селений. Автор проводит параллель: слова и язык сначала сами заботятся о своем воспроизводстве в культуре, а затем подвергаются бессознательному и методичному отбору.
История омоложения и одомашнивания волков, которых привлекли съедобные остатки возле человеческих поселений, приводит к появлению собак и аналогична тому, как люди приручают язык.
8. Меметика и механизмы культурных изменений
Меметика депсихологизирует инновации и объясняет изменения подсознательным вирусным распространением.
Традиционные подходы предполагают, что вы принимаете культурные новинки исключительно рационально. На практике большинство культурных инноваций происходят через подсознательные изменения в течение долгого времени, когда мемы распространяются от носителя к носителю подобно вирусам независимо от вашей воли.
Группы анабаптистов и амишей сохраняют устойчивость к современной цивилизации, действуя как старинный добротный каяк, который выживает благодаря защите от внешних стрессов.
Критика и статус меметики
Мемы, в отличие от генов, не имеют единого базового физического кода и жестких локусов с конкурирующими аллелями в мозге разных людей.
Когда Бенджамин Франклин изобрел бифокальные очки, нейронная структура в его голове зафиксировала концепцию иначе, чем у тех, кто скопировал изобретение. Однако «алфавитоподобные» системы существуют в языке, музыке и других мемах.
- Соревнуются варианты произношения
- Распространяются заимствования
- Появляются кавер-версии песен
Английское слово design превратилось в русское «дизайн» со значительно более узким значением. Популярная песня «Me and Bobby McGee» Криса Кристофферсона была вытеснена более поздними каверами.
Неспособность меметики точно предсказывать будущее культуры не является ее недостатком, так как теория биологической эволюции также не прогнозирует будущее видов. Эволюционные процессы критически зависят от маловероятных событий, вероятность которых равна одному на миллиард. Биология предсказывает отсутствие птиц с мехом и наличие определенных последовательностей ДНК в геноме любого насекомого, но не может предсказать появление конкретных видов. Точно так же меметика не способна предсказать хиты хит-парадов, но она дает унифицированное объяснение накоплению творческих способностей.
Коэволюция культуры и биологии
Культурная эволюция внешне напоминает теорию Ламарка, так как приобретенные признаки передаются через обучение, но на уровне мемов это становится альтернативным вариантом естественного отбора.
В биологии приобретенные телом изменения не могут изменить ДНК сперматозоидов, поэтому генетический ламаркизм невозможен. Однако у мемов отсутствуют жесткие различия между генотипом и фенотипом. Процесс их передачи через множественных «родителей» или инициированное воспроизведение позволяет рассматривать культурную эволюцию как форму дарвиновского отбора.
Ребенок перед началом имитации слова должен услышать около шести токенов, приобретая множество «родителей» для своей информационной структуры.
Развитие человеческого интеллекта и культуры происходило путем коэволюции, где мемы выступали в роли исследователей, а гены осуществляли физическое развитие. Эффективные мемы создавали давление отбора, приведшее к генетическим перестройкам мозга.
Сравнение современных смартфонных чипов с ранними вычислительными системами показывает, как программное обеспечение сначала предшествовало созданию специализированного оборудования.
9. Истоки языка и когнитивная ниша
Человеческий язык развивался через извилистые стадии протоязыка и жестовой коммуникации, сформировав уникальную когнитивную нишу.
Происхождение языка остается одной из главных нерешенных загадок науки. Эта проблема сравнима с зарождением жизни из-за острого дефицита палеоантропологических данных.
Исторически лингвистические общества пытались официально запретить любые спекуляции на тему появления речи. Парижское лингвистическое общество в 1866 году зафиксировало в статье 2 положение о невключении сообщений о происхождении речи для отдаления от позитивистских взглядов. Эту инициативу в 1872 году подхватило Лондонское филологическое общество.
На ранних этапах язык мог быть не ценным даром, а вынужденной мерой или заразной паразитической привычкой. Она закрепилась в популяции благодаря своим коммуникативным свойствам, высокой производительности и кодированию. Возраст наскальных рисунков в пещере Ласко составляет 20–30 тысяч лет, а 50 тысяч лет назад язык был в лучшем случае рудиментарным.
Загадка происхождения языка
Человеческий вид создал уникальную когнитивную и культурную нишу. В ней артефакты, социальные роли и стиль жизни полностью вытеснили чисто физические преимущества.
Концепция создания ниш объясняет, что живые организмы не просто пассивно реагируют на внешнюю среду, но активно перестраивают ее своей деятельностью. Наша ниша состоит из одомашненных растений, животных и разнообразных артефактов. Здесь личная репутация и образование обеспечивают генетическую приспособленность вместо грубых мускулов.
Астронавты, летящие на Луну, служат для мемов эффективным способом попасть в головы следующего поколения ученых. Это напоминает то, как муравей доставляет паразитического сосальщика в желудок коровы.
Эволюция языка проходила через несколько извилистых стадий. В этот процесс входили протоязыки, язык жестов и ритуалы.
Дэниел Деннет выделяет три возможных эволюционных этапа:
- Протоязык из коротких предупреждающих сигналов наподобие криков мартышек-верветок.
- Язык жестов, сопровождаемый ранними вокализациями.
- Ритуалы с бессмысленными музыкальными вокализациями, которые служили для демонстрации виртуозности и полового отбора.
Автор ссылается на гипотезы Бикертона, Хьюза, Корбаллиса и Херфорда. Он сравнивает импровизации древних гомининов с конкурсами пения у соловьев и других певчих птиц.
Детское усвоение речи
Дети усваивают язык и грамматику восходящим путем. Вы делаете это в первые годы жизни без сознательного заучивания правил, используя бессознательный статистический анализ.
Дети учат тысячи слов в первые шесть лет жизни без прямых указаний и точных определений. Сложная грамматика усваивается интуитивно и незаметно для самого ребенка.
Лингвистический парадокс заключается в том, что сообщества профессиональных лингвистов годами изучают то, что ребенок делает бессознательно до десяти лет. Автор цитирует Рэй Джекендоффа, который описывал этот парадокс постижения языка. За этот период дети осваивают в среднем семь слов в день в первые шесть лет жизни.
10. Виртуальные машины разума и творчество
Мемы и языковые навыки человека работают подобно компьютерным приложениям и виртуальным машинам, позволяя загружать новые инструменты мышления в любой мозг.
Англоязычная виртуальная машина
Дэниел Деннетт проводит аналогию с универсальной средой Java, которая работает на любом оборудовании через виртуальную машину JVM. Человеческий мозг задействует аналогичную АВМ, которая позволяет передавать сложные инструкции и мемы без необходимости знать анатомию мозга конкретного слушателя или читателя.
Приложение Java, разработанное Джеймсом Гослингом и его коллегами в 1991 году, работает на любом устройстве благодаря программе JVM. Книга Деннетта состоит из 72 глав, загружающих новые мыслительные инструменты в голову читателя.
В отличие от животных, которым требуются сотни и тысячи тренировок методом проб и ошибок, люди способны мгновенно осваивать сложные задачи благодаря языковому брифингу и запуску виртуальной машины.
Когнитивные эксперименты с животными вроде котов или крыс требуют длительного ассоциативного обучения за вознаграждение. Эксперименты с людьми требуют лишь короткого инструктажа на понятном языке, после чего волонтеры сразу начинают безупречно выполнять задания благодаря нейронной пластичности и овладению языком.
Кот, обезьянка или крыса обучаются нажатию на рычажок при виде стимулов через сотни или тысячи тренировочных сеансов. Люди справляются с ролями мгновенно после инструктажа.
Мифы о гениальности
Многие важнейшие культурные инновации человечества возникли как дарвиновские изобретения без авторов и дальновидных создателей, подобно птичьим крыльям.
Такие фундаментальные артефакты, как письменность, арифметика, деньги, часы и календарь, не были плодами ума конкретных гениальных разработчиков. Они накапливались и совершенствовались поколениями через практику рассказывания историй и отбор наиболее запоминающихся и полезных вариантов.
Антрополог Джозеф Хенрич в книге «Секрет нашего успеха», вышедшей в 2015 году, исследует каяки и показывает, что они не были изобретены одним человеком, а стали результатом накопленного опыта многих людей.
Культурный миф приписывает выдающимся творцам и мошенникам сверхъестественные способности, скрывая за ними тяжелый, кропотливый и часто рутинный труд.
Вы склонны романтизировать гениев и переоценивать умственные способности фокусников или мошенников, не замечая, что за успехом стоит упорная тренировка, оттачивание старых уловок поколениями и огромный объем черновой работы Томаса Алва Эдисона с его формулой про 1 % вдохновения и 99 % пота.
11. Иллюзия пользователя и гетерофеноменология
Необходимость коммуникации создает иллюзию пользователя и явленную картину мира, изучаемую методом гетерофеноменологии.
Иллюзия пользователя
Организмы эволюционировали до сообществ общающихся субъектов, способных сравнивать наблюдения. Подобно тому как операционная система компьютера скрывает сложные процессы за простыми иконками, наш мозг создает дайджест текущей деятельности.
Эволюция стратегической коммуникации создала потребность в контрольном буфере и персональном управлении. Благодаря этому у вас появились доступные образы собственного состояния и мысли.
Отвлекающие маневры ржанки со сломанным крылом заставляют лису менять направление движения, демонстрируя зачатки оценки ментального состояния без необходимости развитого сознания.
В 1986 году в Великобритании был принят закон, согласно которому осьминог считается почетным позвоночным.
Странные инверсии Юма
Научное изучение сознания опирается на гетерофеноменологию — взгляд со стороны на опыт других людей, а не на субъективную интроспекцию.
Автофеноменология, то есть попытка исследовать собственный опыт изнутри с позиций абсолютной правоты, уязвима для иллюзий. Метод гетерофеноменологии с контролем возможных искажений и лжи является более точным и надежным инструментом.
Странная инверсия причинности по Юму объясняет, что воспринимаемые вами свойства вроде сладости или причинности являются проекцией внутренних реакций мозга.
Вы наблюдаете лишь последовательность событий, но ваш мозг запрограммирован ожидать определенный результат. Когда ожидания сбываются, вы проецируете свои перцептивные реакции наружу, принимая удобную иллюзию за реальное свойство внешнего мира.
В работах 1982, 1991, 2003, 2005 и 2007 годов автор подробно описывал гетерофеноменологию и дискуссии с Эриком Швицгебелем. Метод фиксирует следы личности в понятийном мире испытуемого, отделяя их описание от реального научного статуса этих сущностей.
12. Пределы понимания и будущее цивилизации
ИИ и глубокое обучение
Системы глубинного обучения демонстрируют феноменальную компетентность в решении задач, но делают это абсолютно без какого-либо понимания смысла.
Современные программы обрабатывают огромные массивы данных, находят закономерности и решают задачи лучше людей. Они опираются исключительно на статистику и восходящие алгоритмы, а не на осмысление.
По заявлениям в рекламе IBM, программа Watson может прочесть объем в 800 миллионов страниц текста в секунду. В эксперименте с маскировкой длительность короткого показа скрытого слова составляла 50 миллисекунд, а длинного показа слова с маскировкой — 500 миллисекунд.
Программа Google Translate переводит тексты с огромной скоростью, полностью паразитируя на корпусе человеческих переводов. Она подбирает наиболее вероятные варианты без понимания языка.
Интеллектуальные творцы все активнее используют слепые алгоритмы естественного отбора для выполнения самой черновой работы. Принцип «эволюция умнее нас» применяется в инженерии белков и генерации музыки, где компьютерные системы перебирают пространства возможностей.
Фрэнсис Арнольд создала систему генерации генных вариаций для синтеза новых полезных белков. Дэвид Коуп потратил более трех десятков лет на проекты по созданию музыкального интеллекта и разработал программу EMI, сочиняющую музыку в стиле великих композиторов. В декабре 2015 года прошло тестирование программы EMI на Фестивале Баха в Монреале.
Риски преждевременной капитуляции
Главная опасность заключается не в появлении сверхразумных машин-рабов, а в том, что люди преждевременно уступят машинам власть, переоценив их понимание.
Сценарии захвата мира зловещим искусственным интеллектом маловероятны в ближайшие десятилетия. Автор отмечает, что в ближайшие пятьдесят лет глубинное обучение не даст ничего похожего на сверчеловеческий интеллект.
Реальный риск заключается в слепом доверии технологиям, чьи пределы и сбои вы перестаете контролировать. В медицинских и навигационных системах люди всё чаще полностью полагаются на автоматику, рискуя утратить собственные навыки.
Человеческая цивилизация представляет собой хрупкую структуру, которая держится на распределенном частичном понимании и социальном доверии. Цивилизация тысячелетиями двигалась гладко, наращивая сложность.
Экономист Пол Сибрайт сравнивает цивилизацию с термитником. Общество построено на сотрудничестве и уверенности участников в надежности системы, хотя никто из индивидов не понимает ее целиком, а оптимистичное туннельное зрение лидеров позволяет сложной структуре функционировать.
Заключение
Все идеи книги складываются в единую картину: человеческий разум не является творением высшего замысла или неизменной субстанцией. Он представляет собой сложный результат многомиллионной биологической эволюции, дополненный колоссальным массивом культурных инструментов. Сознание работает как виртуальная машина, установленная на пластичное железо мозга с помощью языка и мемов. Вы — не всезнающий оператор в центре управления, а пользователь сложного интерфейса, созданного культурой.
Чтобы ориентироваться в мире современных технологий и глубже понимать собственную природу, вам стоит следовать простым правилам:
- Откажитесь от иллюзий дуализма и принимайте материалистическую природу своего мышления.
- Изучайте чужие культуры и языки как внешние носители когнитивных инструментов, расширяющих ваш личный разум.
- Относитесь к собственному внутреннему опыту критически, помня о механизмах гетерофеноменологии и иллюзии пользователя.
- Различайте реальное понимание сути вещей и простую имитацию компетентности, которую демонстрируют современные алгоритмы.
- Защищайте институты распределенного доверия и накопленные человечеством ментальные ценности от деструктивных цифровых вирусов.
10 лучших мыслей
- Человеческий разум возник снизу вверх благодаря простым алгоритмам естественного отбора и приобретенным культурным инструментам, а не в результате божественного замысла.
- Картезианский дуализм и устойчивое заблуждение о существовании неделимого мыслящего центра создают ложное сопротивление материалистическим теориям сознания.
- Дарвиновская теория естественного отбора эмпирически объяснила рациональный смысл природы и возникновения замыслов без привлечения высшего разума.
- Алан Тьюринг продемонстрировал, что бездумные механические инструкции могут порождать сложнейшую компетентность в вычислениях через слепое следование алгоритмам разветвления.
- Семантическая информация работает как проект, направленный на улучшение перспектив выживания и созидания без необходимости наличия разумного проектировщика.
- Человеческий мозг принципиально отличается от традиционных компьютеров фон Неймана тем, что он сформирован эволюцией снизу вверх как глубоко параллельная система управления для мобильных организмов.
- Слова распространяются в детском мозгу как звуковые мемы, проходя путь от бессмысленного лепета до фонологических якорей и формирования семантики.
- Культурная эволюция совершила обратное движение по сравнению с биологической: она стартовала от неосознанных слепых навыков и пришла к осознанному интеллектуальному творчеству сверху вниз.
- Языковые навыки и мемы человека работают подобно компьютерным приложениям и виртуальным машинам, позволяя загружать новые инструменты мышления в любой мозг без долгого ассоциативного обучения.
- Реальный риск искусственного интеллекта заключается не в появлении сверхразумных машин-рабов, а в слепом доверии людей технологиям, когда они преждевременно уступают машинам власть, переоценив их понимание.
