Author Archives: himself

Итоги 2024 года

Сам удивляюсь, но кое-как пробежал всё же больше 1000км (+полная карта), хотя ленился и отлынивал по максимальным.
Получил значок.значок:

Фотографии

В фотографиях есть секретный раздел, где есть ещё фотографии. И в нём тоже есть секретный раздел с Дедом Морозом.

Стохастический попугай

Твиттер принёс видео: попугай звонит на телефон голосового ИИ-помощника, и нейронка понимает, что с ней говорит попугай и говорит с ним как с попугаем.

Это видео почти 100% фейк, но такое возможно. Если нужен новый тест Тюринга, то вот он. Пока ещё свежий и вызывает что-то в голове.
Не все попугаи глупее нейронок, но уже многие!

ИИ slow takeoff

Непредвиденные причины для slow takeoff в ИИ:

1. NP-поиск P-решений; настоящая ценность это не рассудок, а объём накопленных знаний.
Юдковский писал, что живые нейроны медленны, поэтому большая часть мысли должна иметься в голове заранее. На лету мы только комбинируем готовые кусочки. И редко получается что-то ценное! Большую часть кусочков мы подсмотрели у других. В лучшем случае мы чуть красивее укладываем их у себя в голове.
Поиск гармоничных кусочков это решение NP-полной задачи. Их невозможно получить иначе, как долгим перебором. Найденные кусочки это как ключи для биткоина, это золотой запас, который нельзя восстановить быстро с нуля. Человек, рождённый среди обезъян, ещё десятки тысяч лет будет умной обезъяной.

А значит, мы дали ИИ всё, что имели, чтобы довести его до нашего уровня. Превзойти этот уровень сложнее. Для этого нужен майнинг новых идей. Это долгий процесс без гарантии успеха для нас. Такой же он для ИИ.

2. Какой бы большой не была нейронка, она рассуждает последовательно.
Каннеман предполагал, что интуиция (система 1) это древний и развитый механизм, поэтому она выполняет тяжёлые задачи незаметно и легко. А рассудок (система 2) появился недавно, и пока внимания хватает лишь на что-то одно, а думать сложнааа.
Но нейронки устроены так же. Рассуждения это многократный проход через прямолинейную сеть интуиции. Нейронки тоже не могут рассуждать не по шагам. Вот это чувство – “я вижу 10 продолжений, если б я мог подумать обо всех сразу! Но надо их выписать, чтобы не забыть, а потом разобрать каждую”. И пока разбираешь одну, другие выпадают из головы, и восстановишь ли это озарение как следует? Нейронки сейчас этого тоже не могут. Их поток мыслей это такое же последовательное мучение.

Возможно, это не навсегда. Многостороннее озарение это несколько зажёгшихся кластеров интуитивных следствий. Этот контекст можно размножить и выбрать в них разные направления. Это будет выглядеть как пять параллельных устных размышлений, независимых друг от друга. Но как они должны обмениваться информацией? Через слова – неудобно. Хотелось бы думать параллельным образом, как это происходит с интуицией, но уровнем выше. Путь к этому пока неочевиден, и нейронки вынуждены мучаться узким каналом рассуждений, как люди.

Shiguang Dailiren 2

Похоже, я его дропнул. Не знаю, что случилось, такой был первый сезон. Им дали гору денег, и чего? Куда делось всё спокойствие и сложность историй? Какие-то драки кунфу, злые мафиози, персонажей штампуют, заправляют драмой и сливают через пару серий.

Всё это какая-то суета. Как будто сериал непопулярен, и нужно срочно огоньку в сюжет. Почему в первом сезоне даже не объясняли ничего, хлопнули руками и летают, какая разница. Почему там за одну первую серию сочувствуешь этой Эмме больше, чем всем полицейским? Не говоря уже про серии с баскетболом.

Об обучении

Чтобы научить, нужно взять за руку и показать, как правильно! Показать хотя бы один способ получать результат. “Вот так держишься на воде”. “Вот так написал и запустил программу”. “Вот так сел и едешь по прямой, ничего другого пока не надо”.

Когда что-то получится, дальше человек будет осторожно пробовать и так, и эдак, и смотреть, как лучше. Подражание – это лучший урок!

Обычно все делают наоборот, и рассказывают, как избегать ошибок. А какие там ошибки, когда новичок ничего и сделать не может? Путь к успеху один, а неправильных действий сколько угодно. Их все не исключишь, сколько не перечисляй, и уследить за всеми человек не может – с каждым новым предупреждением будет только сильнее нервничать. “За дорогой смотри! Знаки не пропускай! Ноги правильно переставляй!”

Самое сложное – не “не ошибаться”, а научиться для начала получать вообще хоть какой-нибудь результат.

Просторы/Пространство/The Expanse

Все 9 томов прочёл (прослушал) с большим удовольствием. Первые полтора кажутся суровыми, но потом привыкаешь, и это просто приключения, очень лёгкие и увлекательные! Герои, что казались буками, становятся милыми и привычными.

АрарагиДжеймс Холден с командой на без спросу найденном корабле “Россинант” летает по Солнечной системе недалёкого будущего, где люди живут на Марсе, Луне и астероидах, не проходит мимо ни одной надвигающейся катастрофы, не может так оставить любую несправедливость, дружит с воображаемым другом и иногда пытается договориться с древними технологиями.

— А Холден? Он знает?
— Если и знает, что он может сделать? Завязать с луной мирные переговоры?

— Если Фред показывает тебе эту запись, Холден, имей в виду, что родная планета ценит твои услуги. И постарайся не прищемить себе ®, на нем и так достаточно синяков. — Авасаралла, Холдену.

(Чем-то напоминает “Игру престолов” в космосе)

Чем-то напоминает “Игру престолов” в космосе – масштабом, множеством рассказчиков, политикой – но в отличие от неё, все персонажи безнадёжно симпатичны. Ни одного от природы злобного и жестокого, самые неоправданные антагонисты – самовлюблённый дурачок и некая желающая наживы фирма. Хотя катастрофы превосходят “Игру престолов”, они выглядят так несерьёзно, так абстрактно-теоретически, что не преподают никаких уроков. В ИП мир жесток, бессмысленен, и добру в нём тяжело. В Просторе, ну вот тут уничтожили пару миллионов человек, такова логика происходящего — И оказавшись лицом к лицу с этой бедой, естественно, и Кхал Дрого, и Сандор Клиган, каждый по-своему берутся за её исправление.

Сериал не смотрите. Сюжет в нём безжалостно переписали, актёров выбрали плохо, и с первых же серий исправили всё, что дураки авторы допустили в книгах. (Сами авторы и исправили! Мне остаётся только потрясать кулаком.)
Единственное, что мне понравилось там, это Миллер. Когда будете читать книги, вы полюбите Миллера (вы полюбите ПОЛОВИНУ персонажей), сериальный Миллер чем-то удивительно подходит, хоть и описан не таким. Ослик Иа со шляпой.

Особо хочу сказать про Авасараллу. Вот люди жалуются, что женских персонажей мало в книгах. Спорят, можно в Ведьмаке сделать героиней Сири или нельзя. Тем временем, кто-то пишет Авасараллу. Не имеет никакого значения, что она женщина. Она не заняла ничьего места. Каждое её появление в книгах будет вызывать улыбку читателя, и ни мужчина, ни женщина, ни протомолекула, не могли бы заменить эту сердитую бабку, самую симпатичную и трогательную героиню этих книг. (Хотя Амос, Фред Джонсон и Миллер поспорили бы за зрительские симпатии)

Слуги правосудия

Отличная книга! Её написала женщина, главная героиня в ней тоже женщина, и есть секрет. Книга притворяется научной фантастикой. Но должны сложиться три не особо скрываемых, но и не афишируемых факта, чтобы читатель хлопнул кулаком по ладони: А! Да это же книга про принца)) !

Героиня в ней – компонент 1-ЭСК ИИ корабля “Правосудие Торена”, и она не то, чтобы unreliable narrator, но скорее non-reporting narrator. Мы вроде как не ждём от неё чувств, потому, что она ИИ, но чувства у неё есть, и она их не больно стесняется. Просто не рассказывает особо о них. Вот, я пошла туда, сделала то-то, и только по поступкам видно, что она рассержена, обижена, довольна.

Книга родина захватывающих сцен, которые, благодаря своему контексту и сухому конспектирующему тону героини, немногими словами выкручивают пафос на 11:
— Так, “Правосудие Торена”?
1-ЭСК “Правосудия Торена”, поправила я.

— Прошу снисхождения вашей милости, госпожа император, — не поднимая лица от пола, сказала Сееварден, — Но получу я снисхождение или нет, без Брек я не уйду.

Слуг правосудия во множественном числе в книге нет, это ошибка перевода. Слуга только одна. Да и то, компонент правосудия.
Вторая книга переведена хуже и сюжет какой-то неинтересный, третью ещё не читал.

Уважаемый

Deepseek R1 в версии 180 гб можно запустить с жёсткого диска (в обход памяти). Я спросил его придумать сообщение, что триальный период программы истёк:

Срок действия вашей пробной лицензии подошел к концу. К сожалению, теперь функционал приложения будет ограничен.
Если вам нужно продлить доступ или обсудить варианты полной версии, просто напишите нам — мы будем рады помочь!

Этот текст слегка бесит, но трудно сразу сказать, почему. Такое чувство, что ему не хватает вступления “Уважаемый!”:
Уважаемый! К сожалению, придётся ограничить тебе функционал. Если надумаешь обсудить варианты его возвращения, мы ждём.

Идентификация с делом

Из давних заметок, вытащил в ответ на этот пост.

Луи Ксив… простите, Луи XIV при смерти сказал: “Я ухожу, но государство движется дальше”.

Louis is recorded by numerous eyewitnesses as having said on his deathbed: “Je m’en vais, mais l’Etat demeurera toujours.” (“I depart, but the State shall always remain.”)
Louis_XIV#Quotes

Что он думал в этот момент? Наверное, его успокаивала эта мысль – долгое время он был государством (он даже так и сказал), цели государства были его целями, и теперь, наоборот, государство немного стало им. Наверное, ему было немного спокойней, ведь он не кончился, он продолжается, кончилась только его часть – а он будет жить в других людях.
То есть, это идентификация с чем-то, кроме своего тела. Может быть, это и не странно? Некоторые объясняют появление в голове “себя” как очень-очень проросшую “внешнюю фигуру”: тело и внешность, действиями которых нейронная сеть приучается рулить напрямую. Дети, говорят, называют себя в третьем лице, поскольку собственная фигура ещё не сильно проросла в голове, и пока лишь один из солдатиков в развивающейся схеме мира. И говорят, дети топают ножкой, когда внешний мир не подчиняется их желаниям, так как не сформировали ещё правильных ожиданий о том, какими частями логической карты мира в какой мере могут рулить.
Тогда может быть естественным, что элементы логической схемы, которыми долго можешь рулить почти непосредственно, и цели которых считаешь своими, занимают это же место и ощущаются, пусть не на логическом уровне, но во многих смыслах “собой”.
Стратегия для вечной жизни в таком случае – это присоединиться к делу, которое останется навечно, особенно к идеалам, и ассоциировать себя с этим делом полностью.
— Side note: Хоть эта теория красива, она противоречит интуитивным ожиданиям: дети от рождения смотрят на мир не со стороны, а от себя; эгоцентричная схема должна быть первой, а нейтральная её развитием.
— Впрочем, они могут во всяком случае строиться в голове на одних и тех же оперативных структурах. И посторонний взгляд на себя может сначала развиваться из-за того, что родители описывают ребёнка и его действия снаружи, рассказами формируя некоторую модель, которая затем срастается с уже существующим безмолвным эго-восприятием.

Лю Цысинь, Задача трёх тел

Дропнуть я эту трилогию не дропнул, и мне слегка обидно её ругать, но есть две проблемы, а точнее, одна проблема в двух лицах.

Во-первых, Лю Цысинь это Жюль Верн наоборот. В целом события его книг пока не устарели, зато каждая подробность до последней заклёпки – непродуманный стыд. Если пересказывать самые бестолковые места трилогии, то получатся как раз исходные 3 книги.

Может быть, это сказка? Если судить по последнему тому. Но сказки, шутки, притчи имеют свой тон. Например, повести Бредбери можно назвать сказками – но они так и написаны: неважно, сколько летит ракета и могут ли деревья расти на Марсе. Алиса Кэррола беседует с картами, но Кэррол улыбается, рассказывая об этом.

“Задача трёх тел” это “Алиса в стране чудес” и “Марсианские хроники” на мрачном серьёзе. С претензией на научную фантастичность. Как если бы “Автостопом по галактике” выкрутил иронию в ноль, но сюжет остался без изменений. Как торжественную притчу о будущем вселенной, мы бы слушали про снос Земли, про уведомление, которое ждало в соседней звёздной системе, и что путешественнику необходимо брать с собой полотенце. И недоумевали бы, то ли весь этот бред всерьёз, то ли это полушутливые условности, но почему так печально и внушительно?

Будь это “Алиса”, это была бы хорошая Алиса. Будь это “Автостоп”, это был бы хороший “Автостоп” У автора бездонная фантазия, размах огромный, события яркие, но они требуют себя воспринимать всерьёз, а если их воспринимать всерьёз, то это бред, противоречащий сам себе и здравому смыслу.

И это – во-вторых. Из-за того, что автор не расставляет правильно акценты, не указывает, на что надо закрыть глаза, а во что – втянуться и наслаждаться, из-за этого втянуться не получается ни во что. Проникнись наукой! – говорит автор, ты проникаешься, а наука картонная. Следи за логикой сюжета! – звучит музыка из деснота, ты следишь, а логики в сюжете нет. Трепещи, битва цивилизаций! – говорит автор, ты трепещешь, а там драка пьяных на сельской дискотеке.

Поэтому остаётся такое странное впечатление – всё это должно было быть интересным. Должно было! Размах, фантазия, кинематографизм, даже некоторое визионерство, на которое претендует автор, действительно есть. Но читаешь – и большая часть просто проходит мимо. Кроме редких случаев, когда автор выигрывает в том, в чём и заявил себя к соревнованиям.