Категория: Рассудок

Интересно, как устроено оценивание чужих решений. Читал историю Кремерс-Фрон, девчонки забрались на холм (4км от города) и пошли дальше в глубокий лес. Это было 1-го апреля. Позже нашли фотик, на котором 8-го апреля они ночуют на берегу реки. Это место нашли (скорее всего), оно совсем недалеко, в 4км вниз по склону. Там брошен мостик из трёх тросов, скорее всего, они решили там ждать людей.

Местность очень понятная: гряда холмов, по одну сторону город, по другую бесконечные леса; с холмов текут ручейки. Девушки были на холмах и эту картину знали. Казалось бы, достаточно идти в горку и рано или поздно окажешься на вершине холмов, откуда видно город. Даже если в лесу непонятно, где горка, то можно идти вверх по ручью и рано или поздно придёшь! И уж точно направление ручья даёт направление на вершину!

А ещё можно залезть на дерево и осмотреться. (Забегая вперёд: возможно, так они и получили травму). Трудно представить, почему девчонки 8 дней ходили по лесу в нескольких километрах от спасения и не смогли выбраться. Что творилось у них в голове?

Но вдруг кому-то пришло в голову: спускаясь с вершины, они могли перепутать дорогу и пойти вниз не намеренно! Не на прогулку в джунгли, а думая, что возвращаются домой. (Это скорее всего неверно, тк с вершины видно город, даже на их фотографиях он вроде был)

И вот когда представляешь себе этот вариант, то легко верится, как они потерялись. Легко представить, какая путаница при этом у них в голове. Вот в этой ситуации они могли вцепиться в найденный мостик как в единственную надежду, тк кроме этого мостика они вообще ничего не понимают.

И вот что интересно: почему так легко переключаешься с "не понимаю, как это могло быть" на "да, теперь вполне понятно"? Вот на этом переключении видно, что взвешивая, я примеряю на себя чужие мысли. Правдоподобность ситуации в первую очередь интуитивно проверяется моделированием людей в ней. Легче, наверное, представить, что камень каким-то чудом покатится вверх по склону, чем что человек в заданных условиях поведёт себя неестественно. Это сразу вызывает резкое недоверие.

Скромность

Половина всех авиакатастроф при посадке происходит примерно так: самолёт летит слишком высоко, слишком быстро, в плохую погоду, полосу так и не видно, время упущено, самолёт падает, нужно идти на второй круг, и пилот говорит ————
Ничего страшного!
Сейчас сбросим скорость, высоту, а полоса появится, куда она денется! Она точно где-то внизу.

Об этом замечательно поётся в песне You can always go around: Your mind is set on somehow getting down.
Катастрофы происходят от неумения вовремя отказаться от своих планов.

Хорошая игра в театре происходит от наблюдения за партнёром. Когда по плану надо сказать слова, а партнёр сделал это невозможным, от плана надо отказаться и сказать как-то по-другому, так, как естественно в этой ситуации. Тот, кто этого не делает, произносит что-то совершенно неуместное.
(далее)

Более общий принцип, который объединяет всё это, и наверное, описывает вообще всё самое центральное для адекватности и разумности, такой:
Когда жизнь говорит, надо заткнуться и слушать.
Надо уметь вовремя перестать спорить с жизнью.
Уметь вовремя перестать загонять реальность в свои верования и планы, и услышать, что она тебе говорит.

Существует такая вещь, как самонадеянность, это антитезис скромности.
Самонадеянный человек считает себя умнее врачей, а скромный человек — не обязательно верит врачам, но готов слушать и принимать мнение всерьёз.

Скажите, если вы принимаете мнение врача всерьёз, пусть даже не уверены, что он прав, а врач говорит о смертельно опасной болезни, будете вы пренебрегать его мнением?
С другой стороны, что сделает самонадеянный человек? Он поищет других врачей, пока не найдёт подтверждения своему мнению, а всех остальных как бы не заметит.

Люди самонадеяны в разной степени. Они могут верить врачам (избирательно), учёным (избирательно), врунам на ютюбе (всегда), своей интуиции (всегда). Но чему не верит практически никто, так это реальности.
Поверив самому себе, врунам, или даже врачам и учёным, реальность дальше всерьёз не воспринимает никто.

Но ведь идти на поводу у обстоятельств это пассивное поведение? А все знают, что пассивно действовать нельзя, нужно быть проактивным.
Идти на поводу это искать, как соблюсти свои прежние планы, несмотря ни на что. Вот что такое идти на поводу у обстоятельств. Вот что загоняет в рамки и заставляет делать глупости. А проактивное поведение это менять планы. Искать, как извлечь из ситуации новую пользу, заново.
Не жалеть свои планы. Не жалеть убеждения. Рушить с трудом построенные замки. Не только не жалеть, но искать этого разрушения.

Учёные придумали этот принцип для научных теорий. Это всё тот же принцип. Если вы искренне стараетесь разрушить свою теорию, но у вас не получается, то похоже, что в каких-то пределах она верна. Но вы должны мечтать найти в ней изъян. Это назойливо трудно, когда это ваша собственная выпестованная вами теория, с которой связано ваше самолюбование – я! я сделяль! Когда я смотрю на свои любимые теории, не случайные, а именно любимые, то я немного понимаю тех людей, которые в обычной жизни верят в полнейшую чушь. Мне не хочется их рушить! Что у меня останется, если я их разрушу?

Почитайте психологию

Интересная черта фанатизма: отправлять куда-то что-то читать. Призывы в духе "откройте глаза! 37 сентября окончится 500-летний сон Фенрира" постоянно заканчивают усталым "почитайте психологию!" "почитайте святые тексты!" "почитайте учёных!" "я вам статью пришлю 1000 рецептов заварного крема, прочтите!"

— При чём тут рецепты заварного крема?
Прочтите! Это всё одно и то же!

Вопрос на тройку

Встретил интересную ошибку мышления, разговор шёл примерно так:
– Какие причины считать, что они врут-то?
– А очень сложно их поймать на конкретной лжи. Вся информация приходит от них же.

Да, очень сложно, но за это и награда.

Когда вы ловите обманщика за руку, это почему всем интересно? Потому, что мало кому удаётся! Вы были внимательны, проницательны, ждали в засаде, обманщик допустил ошибку и – попался.

Если вы её не решили, так в чём ваш результат? Любой может кого-то обвинить и набросать того, что несложно. В общем-то, все так и делают.

"Ты ключи под фонарём потерял?" "Нет, вон там в темноте" "А зачем под фонарём ищешь?" "Так там не видно ничего, как там искать!"

Не доказал, но сделал всё возможное и этого достаточно – это какой-то образ мыслей Марии-Антуанетты. "Но я сделала всё, что могла, и мне уже хочется торта! Должна же я как-то получить торт! Нельзя же требовать, чтобы я неделю ради торта работала! Это слишком сложно".

Бывает, что никаких способов проверить или даже обоснованно усомниться — нет. Тогда вы не можете получить торта. Нет у вселенной правила, что вам полагается торт.

Слепые пятна

Одно из интересных, хотя нечасто выпадающих чувств, это когда читаешь какие-то сведения, которые всем очевидны и звучат складно, и вдруг ловишь себя на сомнении. Да, складно… но так ли это?

И стоит хотя бы заметить это, как понимаешь, что естественно, это не так, и каким вообще надо быть слепым, чтобы не замечать этого, и главное, что ты всегда чувствовал проблему, но не отдавал себе отчёт.

Например, реддит обсуждает фото, где Эверест виден издалека и скрыт за другими горами. Он выглядит ниже. Реддит смеётся: где же вы, сторонники плоской Земли? Видно, на вашей плоской Земле Эверест действительно ниже этих гор?

Тридцать комментариев, сотни плюсов, погодите. А это точно имеет отношение к кривизне Земли? Сейчас, надо подумать. Ну конечно же не имеет. Встань за 10 километров от Останкинской башни, 5-этажка перед тобой будет выглядеть выше. При чём тут кривизна? Как можно было вообще читать эти слова и не понять мгновенно, какая это чепуха?

Ещё реддит любит вспоминать, что "люди оптимизированы для бега, поскольку загонять до смерти был уникальный способ охоты нашего вида". Типа, животные бегут быстро 10 минут и всё, а люди медленно, но часами.

Некоторое время я встречал это мнение и относился к нему: "ну окай". Ну инфа какая-то. Всё это время подсознание говорило мне, что это ерунда. Но я не выводил это на поверхность.

И вдруг я заметил, что не верю в него. Что за чепуха? Серьёзно что ли человек может загнать так антилопу? Гепарда? Медведя, который бегает 60кмч? Да даже если они 10 минут так пробегут, мы их потом не найдём. И что это вообще за способ охоты такой, слышал я о нём откуда-либо ещё? Вроде всегда считалось, что люди это собиратели и opportunistic hunters, а позже стадная охота и ловушки. Наскальная живопись рисует именно это, а не марафоны.

И естественно это полная чепуха, какое-то единственное племя в наше время так охотится, только чтобы быть особыми снежинками не такими как все. Не охотились так люди повсюду, нет признаков. Это какая-то вымученная фантазия, которую реддит, как всегда, подхватил, не раздумывая.

Вот ещё пример, теперь уже исторический. Однажды кто-то спросил, почему из России столько видео с камер наблюдения. И ему ответили, что у нас эпидемия insurance scam, это когда люди прыгают под колёса и требуют денег. А камеры от этого защищают.
У нас. Эпидемия. Insurance scam.

И понеслась. Много лет приходят новички, что-нибудь говорят про Россию и про дашкамы, и тут же прибегает уже инициированный, и рад похвастать своими знаниями, сообщает "А между прочим, это потому, что у них в России эпидемия insurance scam".

Казалось бы, вы смотрели сотни роликов из России. Сколько из них было insurance scam? Ну два, да? Ну три? А в основном аварии и падающие метеориты. О чём это говорит? Хмммммм. Казалось бы, а нужно ли вообще такое дополнительное объяснение как insurance scam? Разве недостаточно мысли, что дашкамы просто удобны? Не только для таких ситуаций, для любых.

GPT и разум

Даже то, что GPT2/3 делает с текстами уже магия. Он сочиняет новости, пишет стихи, ему можно сунуть любой текст, попросить “TLDR:” и он перескажет своими словами.
Кто-то накормил этот генератор всеми текстами Юдковского и заставил его генерировать новые посты, и он сочиняет почти осмысленные тексты! Даже кажется, ТЫ САМ их не понимаешь как следует, а смысл есть.

То есть, GPT не подбирает наугад, у него есть представление о предмете речи. Но самое удивительное: он заранее не знает, что скажет! Каждый раз он выбирает одно новое слово; чтобы получилось предложение, его нужно спрашивать снова и снова. Связность речи хранится не в скрытых переменных, а в самой речи и в памяти GPT вообще.

в самой речи и в памяти GPT вообще.

Мне и самому часто кажется, что пока я мысль не выразил в словах, никакой мысли и нет, а есть только интуитивное ощущение, вроде того, что бессловесно руководит животными. Из него как-то рождаются слова, одно за другим, и рождение это бессловесно. Если остановиться и спросить себя: какие слова я заготовил дальше? Обычно этих слов нет. Знаешь только направление мысли.

А теперь кто-то запряг её рисовать картинки! И она их рисует! Это магия какая-то, так не бывает!

Последние 50 лет все, кто понимает в компах, объясняли, что невозможно “сделать искуственный интеллект вообще”, нет никакого “секрета разума”, можно только решать сотни сложных задач типа распознавания объектов, речи, и результат в одной не переходит магически в другую.
И вот пожалуйста, программа для генерации текста рисует картинку, причём по строкам без разделения строк, просто ниточку точек. Мистика.

Правда и любопытство

Есть разница между желанием знать правду (даже если правда что миром правят рептилоиды) и желанием знать “правду, что миром правят рептилоиды”.

Когда желаешь знать правду, то смотришь на каждый аргумент с детским интересом, не зная заранее, в какую сторону он укажет. Исследуешь его. Что же он говорит? Как окажется, так или эдак? Внимательно смотришь, куда на самом деле дуют ветра.

А когда желаешь знать “правду, что правят рептилоиды”, то желаешь знать не правду, а что правят рептилоиды, и чтобы это было правдой. Тот же факт изучаешь без наивного любопытства. Тебе неинтересно, что он скажет, ты уже знаешь ответ. Надо просто убедиться в нём.

Доходит до того, что людям буквально неинтересно что человек говорит, когда они чего-то хотят услышать! Правда уже известна до того, как он открыл свой рот. Если он сознался, что ведьма, то он ведьма. Если отрицает, что ведьма, то все ведьмы так делают. И речь не о том, что слова не имеют значения; нет, любыми словами он подтверждает своё положение ведьмы, даёт дополнительные причины считать его ведьмой!

Вы не слушайте его объяснения. Неважно, что он сказал и имел в виду. Мы знаем, что он хотел сказать!

Вот этот момент – “мне интересно, как на самом деле” – можно себя на нём ловить. “У меня нет никакого мнения. Мне интересно, как на самом деле”.

“Если небо синее, я хочу верить, что небо синее.
Если небо чёрное, я хочу верить, что небо чёрное.
Я не хочу случайно привязаться ко мнению, которое не полностью верно в жизни.
Мне интересно, как на самом деле.”
wiki.lesswrong.com/wiki/Litany_of_Tarski

Ложные воспоминания

Человек с амнезией рассказывает, что у него бывают ложные, но правдоподобные воспоминания. Вот вам теория!

Память это реконструкция правдоподобного объяснения. Правдоподобность это узнавание, а оно строится на двух вещах: на пережитом и на том, как устроен мир в принципе.
Пусть голову что-то испортило. Человек надышался Роскомнадзора и четыре дня валялся в машине. Нейроны погибли, связи разрушились, узнавание стало плохим.

Уцелевшие нейроны по прежнему голосуют ЗА, когда им показываешь правду. Но в парламенте его головы больше нет кворума. Ходит он каждый день на работу? В путешествия? За грибами? Все варианты встречают вялое одобрение.

Потерянную память не восстановить. Но потерянные сведения о мире восстанавливаются. Стоит ещё раз столкнуться с чем-то в жизни, и поломанная память подхватит знакомое и перепишет набело. Иногда достаточно просто использовать уцелевшее, и связи, которые выпали из общей гармонии, снова пробьют себе русло.

Чем больше сведений о мире вернулось, тем яснее правдивые варианты среди абсурда. Но у здорового человека результат в равной мере ограничен тем что, могло быть и тем, что реально было. Когда вы путаетесь, неправильные воспоминания обычно неправдоподобны. Отклик личного опыта и отклик правдоподобия в целом не зависят друг от друга. Если так сложилось, что ложное воспоминание получило суммарный хороший отклик, это чаще означает ошибку в чём-то одном: “правдоподобно, но 100% не было”, или “втемяшилось, что было, хотя и не могло быть”.

А у потерявшего память личного опыта почти не осталось. Поэтому все варианты, которые набрали высокий балл, получили его за правдоподобие. Они все выглядят прямо как будто в жизни так было! И ни один не вызывает сильного личного отклика.

И между прочим, потому же люди приезжают в былые места и их захлёстывают воспоминания. Эти воспоминания были недоступны, они затёрлись, слишком мало от них осталось. Но вы вернули ту их часть, которая осталась неизменной за эти тридцать лет, ту часть, что сделана из асфальта и деревьев и камня, и крохи прошлого, которые ещё сохранились в вас, снова стали звучать однозначно.

Память хранится не только в нас, но и в мире вокруг нас. Поэтому в голове её умещается так много. И когда мир меняется, теряется память.

О памяти

Кому-то покажется очевидно, а кому-то ненаучно. Представляю, что память хранит в основном контрольные суммы (хеши):
– Узнаёшь легко, а вспомнить/написать не можешь
– В небольшой голове умещается слишком много знаний.

По хешу нельзя вспомнить

Ликбез: Хеш это штука, которая длинное описание превращает в проверочный код:
CRC(Текст “Войны и мира”) = 9378
Запомнить 9378 проще, чем “Войну и мир”. Но из 9378 текст книги не вернёшь! Можно только посчитать книгу ещё раз и понять, её ты читал или нет. Например:
CRC(“Цапля чахла, цапля сохла, цапля переродилась в свою истинную форму и захохотала мрачным смехом”) = 57840. Этого мы ещё не читали.

По хешу нельзя вспомнить

, можно только понять “я это знаю”. Голова перебирает варианты и смотрит, какой “уже знает”. Обычно это мгновенный, подсознательный поиск.

Как проверить миллионы вариантов быстро? Мозг подбирает ответ по кусочкам. В голове есть объектная модель — представление о том, как вещи устроены и связаны. Подсознание раскручивает подробности со всех сторон, и каждую проверяет, “знает или нет” и “логично или нет”. Например, оно спрашивает:
– был ли я утром в этой комнате?
– был ли я днём в этой комнате?
– был ли я вечером в этой комнате?
Иногда в комнате вы были только раз, и голова нашла ещё одну подробность, от которой можно оттолкнуться. А иногда годятся все варианты. Тогда она смотрит, какие лучше сочетаются с другими.

Весь этот поиск иногда происходит сознательно и его легко заметить. Например, знающий математику легко подберёт забытую теорему. Вспомните, как это происходит. Чем больше знаешь, тем проще угадать пробелы.

Сколько всего это объясняет!Сколько всего это объясняет:
– со временем забываешь детали – хеши стираются и некоторые версии становятся равноверятными
– а иногда путаешь их, но совершенно не замечаешь – другой правдоподобный вариант вылез вперёд по вероятности
– когда перепутал подробность и так рассказал, теперь запомнишь по-новому! – это известный баг, потому, что “касание” этой версии при постройке её закрепляет
– чувства и желания переписывают прошлое – создают эмоциональный фон, который помогает выбирать одни варианты против других (так же, как он в реальном времени помогает выбирать поступки на будущее)
– прошлое часто мешается с прочитанным или один случай с другим
– случайные факты можно годами не помнить, а потом узнать: “о! я это где-то слышал”.

Можно придумать и проверки. В чьём-то прошлом выбрать необычную историю. Взять в ней незначительную деталь и заменить на другую, которая более правдоподобна. И напомнить человеку об истории, упомянув фальшивую подробность или намекнув на неё. “Вспомнит” ли человек историю правильно?

Русское авось

Бывают ситуации, в которых нужно быть начеку, а невнимательность может дорого стоить. Интуиция непрерывно следит за происходящим и в таких случаях будит нас. "Так, мне нужно быть внимательным, нужно прочесть этот договор. Этот человек может меня обмануть. Надо подготовиться, чтобы завтра не попасть впросак".

Обычно это помогает собраться и решительно сделать то, что нужно. Но я заметил, что иногда бывает наоборот. Иногда я не делаю нужного, и при этом вместо тревоги чувствую себя почти спокойно! "Я преувеличиваю, всё будет в порядке, как-нибудь обойдётся".

Вспомните, как подписывали контракт на какие-нибудь недешёвые услуги. Читали вы его? Если там 4 страницы, то возможно. А если 40, то вы открыли его, пролистали, бросили взгляд на параграфы там и тут и сказали себе "ну, я не увидел ничего такого, да и все подписывают". "Там разберёмся, если что-то случится".

В принципе, механизм этого понятен. Осознание своей уязвимости это тревога. Тревога вызывает желание действовать. Это то самое мобилизующее чувство, которое будит и заставляет подготовиться. Но когда подготовка сложная, а риск и тревога круглые сутки, то браться за неё тоже стресс. И жить дальше в тревоге – стресс. Поэтому голова выключает тревогу. Голос "TERRAIN AHEAD! PULL UP!" замолкает, лампочка на приборной панели гаснет. "Ну хорошо, хорошо, наверное, это всё не так страшно".

Так вот! Ведь это же оно! То самое загадочное непостижимое русское авось. Фатализм вперемешку с оптимизмом. Вера, что повлиять на жизнь никак нельзя, но всё как-то само уладится.
Это просто психологическая защита застрессованного мозга. Какие обстоятельства могут привести к тому, что эта черта станет характерной, национальной чертой? Беспомощность и жизнь, полная тревоги.