Не читал, но почему бы это было невозможно? Что значит осознавать себя? Сознавать – значит, отмечать какие-то факты, учитывать их в своей модели мира. Осознавать себя значит отмечать, что существует такой участник физического мира, как другие, кого ты отмечаешь, моделируешь, кому приписываешь желания, действия, черты. Существует ещё один такой участник, на которого можно было бы посмотреть со стороны, и этому участнику можно приписать собственные желания, действия, мысли, которые испытываешь непосредственно.

Для этого достаточно иметь такую модель мира, в которой люди вообще моделируются как субъекты. Но нейросети имеют такую модель. И нужно иметь представление о себе – персонажи нейросетей, чатботы, имеют такое представление. В итоге чатбот, моделируя мир нейросетью, которая его сочиняет, учитывает, например, что если будет сгенерировано невежливое слово, изменится отношение пользователя именно к этому персонажу.

И вторая его книга, “Тени разума. В поисках науки о сознании”. Примерно о том же.