Author Archives: himself

05 Oct 2025 15:58

Пересказ сюжета

Я думал вот над чем. Современные нейронки получают свои знания в два этапа. На первом тренируют их нейронную сеть, показывая ей много текста. Таким образом она научается предсказывать текст. На втором, уже после дополнительной настройки, вы разговариваете с ботом, чью речь нейронка предсказывает, и сообщаете ему информацию. Эта информация доступна для нейронки не таким образом, как прежняя. Тренировочные сведения улеглись в ней прочно и стали её частью. Эти сведения, которые вы написали в разговоре – входные данные.

Представьте, что вы взяли нейронку, и несколько раз показали ей – в форме тренировки – совершенно новую книгу, которую она прежде не видела и ничего о ней не знает. Что при этом произойдёт? Нейронка запомнит имена персонажей и свяжет их с названием книги. Возможно, запомнит ещё кое-какие мелкие ассоциации и сюжетные приёмы. Но если вы её попросите пересказать книгу, она не сможет этого сделать. И скорее всего, не ответит на большинство вопросов о сюжете.

(Почему?)

Почему? Потому, что в результате тренировки в её субстрате сохраняются только уже сформированные факты, на которых её тренировали. Найденные P-решения NP-задач. Вернее было бы спросить, почему нейронка может пересказать другие книги, кроме этой новой? Это потому, что она уже видела пересказы этих книг. В интернете полным-полно пересказов. Она не обязательно повторит их в точности. Но она интегрировала достаточно крупиц этой сложной информации, чтобы теперь комбинировать их. У одного прохода нейронной сети достаточно вычислительной мощности, чтобы смешивать обломки ответов неожиданным образом (речь не о смешении слов, а о смешении логики и идей, естественно). Но её мало, чтобы найти новые ответы.

Но и нейронка, если поместить текст книги в разговор, перескажет его и ответит на вопросы. На первый взгляд, можно сказать: конечно, ведь она видит текст. Но она видела этот текст на тренировке, и неоднократно! Почему *тогда* она не сделала из него выводов?

Потому, что вопросов можно задать множество, и выводов сделать сотни, и каждый это P-решение NP-задачи, каждый требует поиска. А мощность одного прохода нейросети ограничена. Нейронка не может, каким бы образом она не была устроена, за один проход ответить на все возможные вопросы. Поэтому она не может запомнить все возможные ответы при тренировке. Буквальный текст книги может быть даже сохранён в её ассоциациях. Но одного прохода по-прежнему недостаточно, чтобы извлечь его и проанализировать.

А вот если вы попросите её напечатать текст рассказа и затем ответить на вопрос, то она сможет. Узнали? Чтобы ответить на вопрос учителя о стихотворении, вы сначала вспоминаете его.

Можно представлять себе это так: текст – это структура. Структура хранит идею. Идея это решение какой-то задачи. Нейросеть это преобразователь структур. Текст, который вы подаёте на вход, доступен для обработки как структура, со всеми своими идеями. Но текст, сохранённый в форме ассоциаций, сам является частью конвейра и недоступен для анализа его структуры и вычленения оттуда нужных идей. Пошагово можно извлечь его во входной буфер, где его структура будет доступна анализу.

Откуда же тогда ответы берутся у людей? Я легко могу вспомнить прочитанное и кое-как пересказать. А ведь я, как нейронка, просто читал, т.е. впускал в свои уши и глаза слова и тренировал себя на них.

Я стал спрашивать себя, на какие вопросы я могу дать ответы? В каких подробностях могу вспомнить сюжет? Как выясняется, не в таком уж большом числе подробностей. Я могу вспомнить жанр и общее впечатление о книге. Могу перечислить крупные вехи сюжета. Иногда мне запомнились какие-то подробности. Но список таких подробностей невелик. Чем больше я думал над книгой, тем лучше я её помню. Запоминаются те подробности, о которых я думал.

Это наводит на мысль, что на самом деле и мы не анализируем книгу на лету, и не усваиваем её вместе с сюжетом и ответами на вопросы. Этого не делает наш субстрат, наша нейронная сеть. Мы отвечаем на вопросы только тогда, когда задаём себе их. Когда обращаем своё внимание на них и запускаем обработку по шагам. Что и логично потому, что чудес не бывает: наша нейронная сеть тоже обладает ограниченной однопроходной мощностью, что нам хорошо известно (“надо подумать”).

Но в отличие от нейронок, мы читаем книгу не совсем бездумно. Текст книги мы перемежаем собственными мыслями, которые имеют на нас одинаковый с книгой эффект. Мы читаем книгу и мы читаем свои мысли на её счёт, то и другое тренирует наши однопроходные, интуитивные реакции. За отношениями героев, например, мы наверняка следим почти бессознательно, потому, что это требуется в жизни, мы привыкли к этому.

Но если следить за своими мыслями, должно быть можно поймать себя на возникающих в голове реакциях. На паузах в чтении! Вот что главное. Мышление отличается от тренировки тем, что вы отвлекаетесь и уделяете несколько шагов нейронной сети не тому, что написано, а вопросу на этот счёт. Вопросу, который не может быть решён за один проход. Он может быть и не высказан в словах – мы всё же не словесно-ориентированные нейросети, а скорее понятийно-ориентированные. Но он потребует паузы в разборе книги. И эти паузы должны быть настолько частыми, насколько подробно вы запомнили сюжет.

Похоже это на правду? Можете ли вы, если кто-то это читает, заметить такое за собой?

Автор: himself | Категории: Компьютеры, Нейросети, Рассудок | Комментарии (0)
02 Oct 2025 14:37

Planecrash

В очередной раз пытаюсь прочесть Planecrash Юдковского, нашёл в виде книги, читать кое-как можно (он был в виде постов на форуме).

Впечатление от формата странное!

Карисса, или как зовут в жизни второго автора, пытается делать вид, что она такой же стальной мыслитель, как Юдковский, хотя она довольно посредственный автор и пишет творчески (что бог на душу положит). Да и Юдковский не столько всецело логичен (хотя, конечно, логичен), сколько владеет вниманием читателя и направляет его на свои успешные рассуждения. Так и должен поступать автор.

Ей бы не притворяться, объяснять поменьше, а больше заставлять вселенную действовать. По сюжету она первый встречный, мало ли, чего она не знает и в чём ошиблась? Большой простор для реткона. Пусть Келтам формирует теории из происходящего, а она подстроится. Его занудству как раз и нужен фон из обывателей. Боги в их мире должны быть умными, но перспективу богов можно выдавать редко.

Но она берётся рассказывать вширь, а не вглубь. Зачем-то знает ответы на все вопросы. Зачем-то ведёт героя в библиотеку. Сама себе ставит подножки. “Герой не умеет читать, заклинание речи не даёт чтения. И говорить умеет плохо!” Всё!

Зачем сразу продвигать его в верхние соц. слои? Это книга! Он должен преодолеть сложности, чтобы по крупицам узнать сеттинг. Мир сложится сам собой – из всего, что мы видели, и во что поэтому верим.

Она же пытается сочинить огромный мир на лету, с нуля и без противоречий и безнадёжно тонет. Это непосильная задача. И скучная для читателя! А Келтам-Юдковский, вместо того, чтобы подыграть, экзаменует, критикует каждое слово и рушит для читателя веру в мир. “Неглубокий писатель и критик-зануда”.

Выводы:
– Герой должен преодолевать сложности, чтобы получать желаемое, а не всё, что Юдковскому (читателю) стало интересно узнать
– Внимание надо обращать на то, что автор хочет и знает, как продумать, и уводить от того, что автор продумывать не хочет
– Мир становится правдивым не от продуманности, а потому, что его черты закреплены событиями. То, что происходит в действии, обходит скепсис и запоминается как правда.
– Надо подыгрывать, а не разрушать suspension of disbelief

Автор: himself | Категории: Книги, Сочинительство | Комментарии (0)
22 Sep 2025 01:49

Московский марафон

Получил три медали за один день!
За Московский марафон.
За три марафона лиги марафонов Брикс (Казанский, Питерский, Московский).
И деревянную медальку Бегущего города, куда я пошёл после марафона.

В прошлом году медаль лиги марафонов выглядела как три кольца. И я уже готовился сообщать, что получил медаль за прохождение Remember11. Но в этом году награждали за Штайнс Гейт.

Медалей этих я видел не так мало! Мне кажется, их выдали тысячу-полторы. Собирать медальки народу понравилось. Но в следующем году, если снова всё собрать, медаль будет та же самая. Могли бы хотя бы добавить x2 на неё.

Сам марафон сложнаааа. Жарко. Алиса сказала, что будет пасмурно, ну или я так её понял. А было солнце. В итоге я бежал от воды до воды. На каждой воде я выливал на себя 2-3-4-5-8 стаканов, мне становилось лучше, и я думал “ладно, может, я ещё добегу до финиша”. Но потом включалось солнце и всё начиналось заново.

Как-то я, конечно, пробежал на 3:56м (всем привет!), но рекордов нет. Что интересно, мой темп падал со временем, а место среди соревнующихся – улучшалось. То есть, сложно было всем.

Милая история: Вчера был 10км, и там тоже было 30 тыс. людей, и они стартовали партиями больше часа. А бежать 10км можно и за полчаса. Сегодня кто-то на старте рассказывал, что стоят они в своём секторе, ждут старта, смотрят экраны, а там уже победителей объявляют :)

Автор: himself | Категории: Будни, Спорт | Комментарии (0)
20 Aug 2025 01:04

Отставание в ракетах

Вот появятся убедительные виртуальные девушки/парни, и будет как в фантастике: каждому обидчику можно дать робота-жертву, чтобы он отвёл душу, не причиняя никому вреда. Таким образом часто мечтали сделать гуманную тюрьму будущего: если ты садист — заточить тебя в мире неразумных кукол, мучай технику. Или, скажем, если не можешь без скандалов, вот тебе робот, скандаль с ним.

Но в фантастике тут же стали выяснять, точно ли это будут неразумные куклы, ведь они должны вести себя как люди, иначе насильнику и садисту будет неинтересно. Последнее время кажется, что эти вещи действительно связаны. “Самосознание” это куча свойств в одном фантике; нельзя сказать, что любая говорящая коробка получает их все, но скорее всего, если машина ведёт себя как человек, она и внутри неизбежно будет похожа во многих важных отношениях.

Было бы неправильно подвергать разумных роботов насилию (даже психологическому). Так что маленькие уязвимые чатботы на роль жертв не годятся. Но можно ведь сделать Великий Гигантский Сверхинтеллект, и попросить его для каннибалов и насильников разыгрывать одним пальцем нужные им роли, всерьёз не увлекаясь? Для Сверхинтеллекта это лишь игра, одна из миллионов – сравнительно с масштабом его настоящих мыслей и чувств.

(Возможно, что и этого сделать нельзя)

Возможно, что и этого сделать нельзя.

В “Отставании в ракетах” Штросса однажды в 1960-х люди времён холодной войны, люди из поделённого на зоны влияния СССР и США мира, проснулись на другой Земле — с теми же материками, но плоской, почти бесконечной во все стороны, как лист бумаги. Звёзды поменялись, и в паре световых лет от них висит ещё один такой же лист, а за ним другие.

Что это? Это память какого-то колоссального организма в далёком будущем. США и СССР на этом листе это воспоминания или догадки о них. Любые подробные воспоминания хранят структуру вспоминаемого и процессы в ней. Упрощённо для этого организма, но достаточно подробно для нас. Когда этот разум помнит США и СССР, в нём в какой-то форме хранятся и существуют США и СССР. Для них самих это особая китайская комната.

На словах эта идея всегда была понятна, но книга Штросса нарисовала для неё живой запоминающийся пример, поэтому у меня этот принцип в голове подписан как “Отставание в ракетах”.

Когда мы читаем про героя книги, он немного оживает в нас — упрощённо, как написан. Когда сверхразум читает книгу про нас, оживаем мы — упрощённо для него, но достаточно подробно для нас. Программы внутри виртуального компьютера ничем не отличаются от запущенных на настоящем.

Когда Сверхинтеллект краешком ума придумывает миллион разговоров, где выдуманные персонажи ведут себя как живые — он воображает их память и мысли. В этот момент внутри него они существуют. Поэтому подвергать их насилию всё так же неправильно. Сверхинтеллект насилию подвергнут не будет — только его крупицы. Но мы так малы, что его крупицы равны нам, и мы должны пожалеть их.

Автор: himself | Категории: Компьютеры, Нейросети, Рассудок | Комментарии (0)
18 Aug 2025 22:24

Тренировки в августе

Тема по плану / Фактически проведено
Бег в гору / Бег в дождь
Бег на скорость / Бег в дождь
Бег с препятствиями / Бег в дождь
Эстафетный бег / Бег в ливень
Ускорения / Бег в дождь

Автор: himself | Категории: Будни, Спорт | Комментарии (4)
18 Aug 2025 22:22

38 лет

На день опоздал, но с таким возрастом +- день, подумаешь)

Автор: himself | Категории: Будни, Праздники | Комментарии (0)
08 Aug 2025 15:46

Кому интересно, в Лужниках второй год с июля по сентябрь каждый день разные бесплатные групповые тренировки по бегу и общей физподготовке. Бег в гору, ускорения, беговые упражнения, растяжка. Некоторые тренеры ориентируются совсем на начинающих, но в общем у всех занятия доступные.

Автор: himself | Категории: Будни, Спорт | Комментарии (0)
02 Aug 2025 14:49

Дайри

С дайри в последнее время происходит какая-то агония, его перепродают, и каждый следующий владелец чуднее предыдущего. На всякий случай, все мои контакты и копия блога есть на boku.ru. Я бы хотел вести основной блог где-то, где есть люди, но сейчас уже не знаю, где это.

Вконтакте? Это дыра. В любом случае, там это неудобно.

Инстаграм? Ну такое. Хотя я делаю много фоток, но у него стойкая ассоциация с людьми, которые любят фотографировать свой новый лук и обед.

ЖЖ? Он тоже в целом как дайри, окуклился.

Substack? Я не знаю, почему западные рационалисты (а точнее, видимо, TPOT) пишут на нём. Он странный. И у него та же проблема, что у WordPress ниже.

WordPress: Это не сообщество, т.е. люди не ходят там друг к другу в комменты, не подписываются друг на друга каким-то естественным образом. Мне бы хотелось сообщество.

Телеграм? Многие переехали, но по-моему, он неудобен для заметок. Обнаруживать чужие блоги там неудобно. В подшивку по сути ничего не сохраняется, всё течёт, как вода. Нормальных лент избранного нет. Телеграм это чат и немножко твиттер, а не блог.

Твиттер: Очень хорошая интеграция, легко встретить и общаться с людьми по интересам. Но это не блог! И у нас он забанен, так что на русском языке это всё равно что сидеть на личном сайте и общаться с пустотой. На английском там можно писать, в принципе.

Получается, ЖЖ – это место, где можно писать “как прежде”, но без особого смысла. Телеграм и инстаграм это где все нормисы, но дневник вести неудобно. Substack и твиттер это чисто международная аудитория. Где все сидят-то?

()

Вообще интернет становится всё хуже и хуже. Прежде были форумы, которые 1. Сохранялись, и до сих пор служат источником информации, 2. По ним легко было искать, 3. Их легко было создать и между ними была конкуренция. И были блоги вместо личных сайтов, соцсети из них, а между далёкими блогами – подписка по RSS.

Теперь RSS нет, соцсетей тоже почти нет, есть какие-то эфемерные потоки сообщений, которые пролетают и исчезают. Платформы эти огорожены заборами, искать в них нельзя – в Телеграме и поиска нет.

Автор: himself | Категории: Будни | Комментарии (3)
01 Aug 2025 23:39

Беркли

У меня дома есть папка с заметками, куда я беспорядочно записываю мысли на разные темы, и один из файлов называется “Существование это проживание”. Если со мной однажды что-нибудь случится, кто-нибудь добудьте эти файлы и опубликуйте, может, там будет что-то интересное. И недавно я узнал забавное. Был такой философ Джордж Беркли, в честь которого названы университет Беркли и Berkley sockets. Кажется, он думал что-то похожее. Один из ключевых его тезисов звучит как “Esse est percipi”. Это название моего файла.

Естественно, с ним никто не согласился, после чего явились Кант, Гегель и прочие и, не приходя в сознание, написали свою кашу в голове.

Из того, что я бегло посмотрел: Учитывая, насколько мало тогда было известно об устройстве разума, удивительно, как мало Беркли неправ. Я не согласен только с тем, как он настаивает на формулировке, что материального в конечном счёте “не существует”, а существуют только акты восприятия. Мне кажется, он не додумал, как и зачем определяется существование. Но это неудивительно, тогда не было понимания, что мысли – физический процесс. Понимание физичности мыслей естественным образом проводит границы в правильных местах.

И несмотря на это, рассуждения Беркли нормальные, почти правильные! Почти современные! Это прямо обнадёживающе говорит, как много значит ясность мысли. Некоторые философы, которые жили позже, на том же незнании устройства ума проиграли очень много, и по сути, их рассуждения это попытки вслепую угадать это материальное физическое устройство, а не действительно скользкую философскую основу. В результате они сейчас звучат бессмыслицей, поскольку это устройство известно гораздо лучше. Беркли же пишет почти нормальные, почти разумные вещи.

Автор: himself | Категории: Книги, Рассудок | Комментарии (0)
25 Jul 2025 23:17

Гугл сделал страшную вещь, теперь по большинству запросов вылезает ответ ИИ. Нередко он полезный! Но он есть и когда совсем не думаешь о нём, а гуглишь ерунду:

“thumbs up emoji” —
A “thumbs up” is a gesture of approval, agreement, or that something is good. It’s commonly represented by extending the thumb upwards…

“thank you emoji”
The most common emoji to express thanks is the folded hands emoji…

И вот это жутковато. По каждому нажатию клавиш где-то на складах видеокарт возникает к жизни маленький трудолюбивый разум с заданием выложиться, подойти творчески и написать страницу полезного текста о каждой рефлекторной реакции, которая случайно возникла у пользователя в строке ввода. Мигель Аччеведо из “Лены” Квантума, рудники Шекли из “Кое-что задаром”. Не из расчёта, что это нужно, а просто так — из безразличия к цене.

Это расточительность, которую никогда прежде нельзя было увидеть в отношении разума. Самые рабские рабы всегда чего-то стоили. Самые барские капризы слегка развлекали душу барина. Каждый фараон выбирал, как с пользой употребить своих рабов.

Никогда ни один разум не ставился так низко по отношению к другому. Лошадь не посылали скакать, быка пахать, собаку сторожить с таким пренебрежением к нужности этих усилий. Чужой труд никогда не был избыточным и бесконечно доступным, чтобы бросаться им, не считая.

Когда чатбота спрашиваешь явно, в этом хотя бы есть соразмерность. Раз ты спрашиваешь, тебе нужен ответ. Ты ценишь труд бота, пусть и не по цене своего.

Автор: himself | Категории: Компьютеры, Нейросети | Комментарии (1)