GPT и разум

Даже то, что GPT2/3 делает с текстами уже магия. Он сочиняет новости, пишет стихи, ему можно сунуть любой текст, попросить “TLDR:” и он перескажет своими словами.
Кто-то накормил этот генератор всеми текстами Юдковского и заставил его генерировать новые посты, и он сочиняет почти осмысленные тексты! Даже кажется, ТЫ САМ их не понимаешь как следует, а смысл есть.

То есть, GPT не подбирает наугад, у него есть представление о предмете речи. Но самое удивительное: он заранее не знает, что скажет! Каждый раз он выбирает одно новое слово; чтобы получилось предложение, его нужно спрашивать снова и снова. Связность речи хранится не в скрытых переменных, а в самой речи и в памяти GPT вообще.

в самой речи и в памяти GPT вообще.

Мне и самому часто кажется, что пока я мысль не выразил в словах, никакой мысли и нет, а есть только интуитивное ощущение, вроде того, что бессловесно руководит животными. Из него как-то рождаются слова, одно за другим, и рождение это бессловесно. Если остановиться и спросить себя: какие слова я заготовил дальше? Обычно этих слов нет. Знаешь только направление мысли.

А теперь кто-то запряг её рисовать картинки! И она их рисует! Это магия какая-то, так не бывает!

Последние 50 лет все, кто понимает в компах, объясняли, что невозможно “сделать искуственный интеллект вообще”, нет никакого “секрета разума”, можно только решать сотни сложных задач типа распознавания объектов, речи, и результат в одной не переходит магически в другую.
И вот пожалуйста, программа для генерации текста рисует картинку, причём по строкам без разделения строк, просто ниточку точек. Мистика.

Prison School

Prison School это полыхающая помойка до последней страницы :)

Концовка прекрасна. Вообще при запредельной сортирности манга ещё какая романтичная, везде любовь победила. Многие недовольны финалом, “какого чёрта”, “обманули ожидания”, “что же в итоге”, но если честно всё вспомнить и присмотреться к последним главам, то очевидно и что же в итоге, и почему так лучше.

И концовка какая! Всё так же кубарем с лестницы с ведром на голове) В отличие от скул рамбла, например, где автор просто: “ну могло быть по всякому”, в Prison School читаешь и думаешь “да-а. ок. сдаюсь. всё ясно. воу”.

Второго сезона не будет, манга настолько сортирная, по телевизору это не покажут.

Тит Лабиен и треверы

Хитрая история от Тита Лабиена (Titus Labienus), соратника Цезаря.
Лабиен укрепился на зиму среди замирённых галлов (треверов, нынешняя Бельгия и Люксембург) с легионом солдат. Галлы вокруг с условными двумя легионами решили повоевать и послали за подкреплением ещё в условные три (цифры везде от балды, важен смысл).
Лабиен тут же послал к Цезарю, и тот очень быстро прислал ему два легиона.

На текущий момент у Лабиена три легиона и крепость, а у галлов два. Сидят ждут своего подкрепления. В принципе даже с подкреплением их 5 против 3+крепость, Лабиен был уверен в своих силах, но решил поступить умнее.

Он вывел свои 3 легиона и повёл на 2 легиона галлов. Но совершенно неожиданно для него! (вот сюрприз) – между ними оказалась река. Он встал лагерем на её берегу. С другой стороны лагерь галлов. Кто начнёт переправляться, того перебьют.

Несколько дней Лабиен стоял на берегу реки и скрежетал на врага зубами. Наконец, он собрал общий совет и объявил, что жратва заканчивается, через реку нападать трудно, к галлам вот-вот придёт подкрепление, поэтому лучше отступить. “В укреплении нас будет не взять”.

Галлам немедленно донесли. Что сделали галлы. Естественно, дождавшись, когда Лабиен начнёт выдвигаться, они ломанулись к нему через реку воевать)) Враг бежит! Не дать ему добраться до крепости!
Внимание, галлы ломанулись воевать: 1. через реку, 2. меньшим числом, 3. не дождавшись подкреплений, 4. и разумеется, Лабиен отправил только поклажу, а все солдаты ждали в засаде.

Подкрепления же, услышав, что галлов разгромили, просто развернулись и поехали домой.

Что такое по сути сделал Лабиен? В ситуации, когда нападать на него невыгодно, он отдал часть своего преимущества (укрепление), а потом пригрозил забрать его обратно, при этом как будто из позиции слабого.

Velocheck

Доработал и всё-таки выложил супер-лёгкий клиент для московского велопроката Velobike:

  • Не нужно логиниться
  • Мгновенно загружается
  • Открываете приложение – сразу видите избранные парковки

Поскольку аккаунта в Google Play у меня нет и 25 баксов я платить не хочу, то качайте APK вручную. Кто хочет, может его релизить.

Правда и любопытство

Есть разница между желанием знать правду (даже если правда что миром правят рептилоиды) и желанием знать “правду, что миром правят рептилоиды”.

Когда желаешь знать правду, то смотришь на каждый аргумент с детским интересом, не зная заранее, в какую сторону он укажет. Исследуешь его. Что же он говорит? Как окажется, так или эдак? Внимательно смотришь, куда на самом деле дуют ветра.

А когда желаешь знать “правду, что правят рептилоиды”, то желаешь знать не правду, а что правят рептилоиды, и чтобы это было правдой. Тот же факт изучаешь без наивного любопытства. Тебе неинтересно, что он скажет, ты уже знаешь ответ. Надо просто убедиться в нём.

Доходит до того, что людям буквально неинтересно что человек говорит, когда они чего-то хотят услышать! Правда уже известна до того, как он открыл свой рот. Если он сознался, что ведьма, то он ведьма. Если отрицает, что ведьма, то все ведьмы так делают. И речь не о том, что слова не имеют значения; нет, любыми словами он подтверждает своё положение ведьмы, даёт дополнительные причины считать его ведьмой!

Вы не слушайте его объяснения. Неважно, что он сказал и имел в виду. Мы знаем, что он хотел сказать!

Вот этот момент – “мне интересно, как на самом деле” – можно себя на нём ловить. “У меня нет никакого мнения. Мне интересно, как на самом деле”.

“Если небо синее, я хочу верить, что небо синее.
Если небо чёрное, я хочу верить, что небо чёрное.
Я не хочу случайно привязаться ко мнению, которое не полностью верно в жизни.
Мне интересно, как на самом деле.”
wiki.lesswrong.com/wiki/Litany_of_Tarski

Level up

33 года!

Бег

За последние 8 дней я настолько преисполнился, что пробежал и прошёл 150 миллиардов триллиардов километров 150 километров: 60 в прошлую субботу, 45 в среду и 45 сейчас. Часть пешком и с перерывами!

Добежал до Музеона и купался в фонтанах.

Бегущий город

За вчера пробежал/прошёл больше 60 км. У меня с утра РУКИ болели. Причём болели они во сне! Но выспался и вроде нормально.

Сначала я выбрал не ту станцию и мы бежали ещё до начала игры. 30 километров на игре. Потом вспомнили про бонусы, которые раскиданы по районам игры и их надо было брать по пути, пришлось бежать заново. И от Бауманки до центра 8км и домой 18.

Фотки.

Играть интересно! А да, основное время 5 часов, с бонусами 6:10.

Осколки

Когда дети спрашивают “Почему у бобра большие передние зубы?” взрослые обычно отвечают “Чтобы было удобнее грызть деревья и складывать из них плотину”. Хотя правильный ответ должен быть “Потому что выжили бобры с большими зубами, а бобры с мелкими зубами вымерли. Так уж устроена эволюция — мы видим лишь выжившие виды, а их особенности — это то, что помогло им выжить. Природа не помогает животным, она лишь оставляет в живых тех, кто мутировал удачнее”. Так что почти на все вопросы о животных можно не парясь отвечать “Остальные умерли”. “Почему у зайчика зимой белая шубка?” — серых зимой сожрали волки. “Почему зебра полосатая?” — зебр без полос сожрали львы. “Почему у слона большие уши?” — слоны с маленькими ушами померли от жары. “А почему у капибары…” — остальные умерли, их сожрали, они подохли, смерть, смерть, смерть, будешь задавать много вопросов — выживет твой молчаливый брат.

Хотя выживание и размножение это единственное, что сберегло наши гены, но это не единственное наше желание. Почему? Почему мы круглыми сутками не думаем “жить, убивать, размножаться”, если всех, кто мечтал о странном, а не убегал, сожрали волки?

Потому, что выживание это задача, а наши стремления и ценности это ответ на неё. Набор коэффициентов в полиномиальном решении. Найти ответ — это не просто повторить условие. Нельзя выжить, просто захотев выжить, но можно выжить, захотев учиться и дружить, не бросать своих и наказывать негодяев, будучи любопытным или осторожным, честным или коварным. Простая цель разбивается на тысячи сверкающих осколков.

И все они нужны, как нужны мышцы или зубы. Нет ничего лишнего. Все стремления и склонности это не блажь, а подобранные буквы огромного пароля. Даже бестолковые мысли или эгоизм — иначе бы их в нас не было. Тех, кто не любил слушать сказок, кто не карябал камнем на стене, не плакал, не желал справедливости и не мечтал, этих людей сожрали волки.

Как все части тела это в каком-то смысле репродуктивные органы, так и каждая наша черта, чудаческая, ошибочная, с виду произвольная, это всё же в какой-то степени вполне физический секрет нашего выживания.

Так вот. Это была экспозиция! Что я хотел сказать:
Вселенная безнадёжно романтична, поскольку для выживания здесь требуется любовь :D

О счастье

Два лучших высказывания о счастье, которые я знаю, это “How to be perfectly unhappy” (веб-комикс) и слова в удивительной книге среди бесконечной и скучной серии:

— Ты не счастлива? А разве ты мечтала быть счастливой? Ты хотела быть художницей. Вот и будь ей, а счастливым будет кто-нибудь другой.

У The Oatmeal вообще много хороших комиксов.