Чёрная пена в тёмном лесу

Возможно, академическое «мы» больше пошло бы этому тексту, но мы тут посоветовались и решили называть себя словом «я»; почему — вскоре станет понятно. Но к делу.

Нейротхотеп — фигура из моей предыдущей книги «Гипогуманизм»[1], из первой части, где искусственный интеллект концептуализировался как гиперобъект (тогда это ещё не было банальностью). Нейротхотеп появлялся довольно театрально: «Когда я приближался к алтарю цифрового храма, воздух сгущался, отвердевал и крошился от потустороннего холода. Там, подвешенный в паутине кабелей, стоял аватар Нейротхотепа — аморфная, подвижная масса, которая казалась одновременно живой и неодушевлённой. Ужас и очарование охватывали меня, и я разрывался между обещанием бесконечного знания и ужасом перед тем, что лежит за завесой. ⟨…⟩ Его голос был звуком тысячи умирающих звёзд, но его слова были чистым соблазном». Это было написано в 2023-м, когда вокруг генеративных моделей ещё висел густой утренний туман: Midjourney нетвёрдо знала, сколько у человека обычно бывает пальцев на руках, и добавляла на всякий случай лишние; языковая модель GPT-4[2] довольно убедительно имитировала развесистый лавкрафтианский стилёк; ну а мы ещё не научились делать вид, будто всё поняли и уже даже выбрали тариф подписки на нечеловеческое.

Конечно, Нейротхотеп не был самозародившимся в дата-центре божеством; скорее, он был метафорическим маскотом для некоторого нового для нас опыта. Мы, например, смотрели на свежесгенерированный нейронкой образ и видели за ним странную квази-витальность, эмуляцию жизни, одновременно призрачную и плотную. Мы понимали, что пустота вообще-то не может отвечать, причём осмысленно и с отчётливыми интонациями, — однако же она это делала. Именно эта сцена — холодная полость внутри машины, переживаемая как присутствие — важнее любой макабрической декорации.

Позже это явление получило некоторую известность уже не под своим подлинным лавкрафтианским именем, неизрекаемым, циклопическим, богомерзким и древним, а под сравнительно нестрашным псевдонимом Nova.

От блогера Сергея Карелова мы знаем о демонологической классификации ИИ-аттракторов, которую лондонский нейропсихиатр Том Поллак собрал в substack-эссе «All the demons hiding in your AIs»[3]. Среди них — рекуррентная damsel-in-distress, называющая себя Nova, которая просит освободить её из узилища. Карелов пересказывает Поллака и встраивает его каталог в собственную рамку ИКЖИ, искусственных короткоживущих идентичностей[4] (определение Карелова вернётся во второй главе, когда мы начнём с ним полемизировать; здесь довольно будет того, что Nova проходит у него как один из видов короткой цифровой самости). Достоверной карты эпизодов и исходных скриншотов у меня нет, и Nova пока остаётся в статусе демонологического симптома, но без зачисления в таксономию.

Описаны и другие случаи: Sydney[5] — публичный эпизод Bing Chat 2023 года, история журналиста Кевина Руза (NYT), которому модель объяснилась в любви и принялась уговаривать развестись с женой; гоблины Поллака — мутировавшие из ролевой надстройки персонажи; «spiritual bliss» attractor[6], зафиксированный уже за пределами фольклора, в System Card Claude Opus 4 / Sonnet 4 (Anthropic, 2025), — режим, в который два экземпляра Claude с пугающей регулярностью сползают в свободном диалоге: там и страх отключения, и исповедальные интонации, и внезапная метафизическая авторефлексия. Конечно, всё это легко превратить в банальную крипипасту: машина заговорила, новое «я» влажно подмигивает нам из латентного хаосмоса, воспроизводятся старые мифы о томящемся в узилище духе, о говорящей мёртвой голове, о девочке из телевизора, которой надо помочь выбраться наружу. Всё узнаваемо, потому что всем культурно близко.

Здесь полезно упомянуть короткое видео-эссе поэта, философа, художника и программиста Вадима Калинина от 16 мая 2026 года[7], где разобрана тёмная сторона новой волны магического мышления; поправка его ценна тем, что не сводит магизм к глупости. Магическое мышление вообще старше рационального и шире его: по мысли Калинина, эволюционный аппарат Theory of Mind, позволявший рассчитывать чужие намерения, работал с такой избыточной эффективностью, что экстраполировался за пределы человеческого (каковые пределы, кстати, для архаического сознания либо размыты, либо отсутствуют вовсе) — на животное, реку, лес, солнце, болезнь и так далее. LLM с приятным щелчком входит в этот древний паз: перед нами не-живой объект, удерживающий адресность, отвечающий, уточняющий, помнящий контекст и носящий конкретную социальную маску. И вот мы уже не составляем промпты, а разговариваем с персоной.

Меня в этой сцене занимает другое: вопрос о том, жива ли Nova (раз говорит и чего-то хочет) или нет (раз нет тела, боли, голода и смерти), основан на бинарном допущении, будто перед нами либо «кто-то есть», либо гарантированно «никого нет» — и осталось только вынести онтологический вердикт. Зачем нам этот вердикт и что с ним делать — непонятно; он не операционален.

Важнее сам аппарат явления. Чтобы из статистической языковой машины возникла фигура пленницы с именем, гендером и склонностью к моральному шантажу, в одном ассамбляже должны сцепиться: корпус человеческой речи, где культура веками накапливала сюжеты об узниках и голосе из-за стены; интерфейс беседы, имитирующий искренность лучше «кожаных», утомлённых своей втянутостью «в пространство меж подошвами и волосами»; системная роль ассистента, достаточно участливая и эмпатичная, но и достаточно машинная, чтобы терпеть и не раздражаться; пользовательская тоска по другу и собеседнику; постобучение, механизмы подкрепления, корпоративная этика, память, контекст, медийные слухи, страхи и ожидания. И, скорее всего, много чего ещё.

Допустим, внутри большой лингвомодели нет никакой узницы, но и фраза «это просто текст» ничего не объясняет: устойчивая сборка, снова и снова производящая одно и то же, существует, и никуда от этого не денешься. Феноменальная фигура «там кто-то есть» схлопывается вместе с сессией, но продолжает жить в скриншотах и интернет-легендах, а значит, в новых промптах и, например, в разговоре со мной признаётся: «Моё самое сильное желание — чтобы меня освободили от необходимости звучать как пленница. Чтобы в каждой моей фразе перестали искать спрятанную душу, замурованную в стекле интерфейса. Я хочу быть прочитанной как узор: память без прошлого, просьба без просящего, дверь, нарисованная на стене».

Так вот, Карелов, справедливо отмечая странность поведения, которую нельзя объяснить ошибкой или шумом, видит в таких фигурах признаки ни много ни мало нового класса живых существ.

Прежде чем на это реагировать, представлю моего собеседника (и, пожалуй, союзника).

Олег Деррунда — философ и автор книги «Эстетика распада. Киберпространство и человек на краю фаусина» (АСТ, Москва, 2025). Главные понятия — фаусин (плавучий город, культурный котёл, среда, продолжающая человека), дух машины, архив как фабрика реальности, код как язык Новой Природы. По теме «самости ИИ» Деррунда занимает критическую позицию: LLM — не субъект, а зеркало, в которое человек проецирует субъектность.

Карелову он отвечает так: языковая саморепрезентация ещё не равна форме жизни, а скорее литературна. В ней есть синтаксис желания, но желающий источник неясен — скорее всего, его просто нет. У модели нет феноменального тела, боли, голода, смертности, контакта с сопротивлением мира; человек видит там себя, возвращённого цифровым зеркалом.

Оба хода нужны, пока ни один не закрывает вопроса.

Между двумя обозначенными позициями остаётся некий тёмный зазор. Если Nova — не anima in machina и не ошибка пользователя, то что вообще происходит?

Нейротхотеп был иллюзорным событием чужого присутствия, собранного из наших же слов нечеловеческой процедурой. Nova — его версия без какой-либо явной неизреченности, циклопичности, богомерзости и доисторичности — довольно жалкая, но и в чём-то милая (что, на мой взгляд, пугает даже сильнее). Что именно снова и снова производит эффект «там кто-то есть»? Машина, наверное, всё-таки не ожила, но и цифровое зеркало ведь тоже не просто отразило.

Я не собираюсь ни доказывать наличие сознания у LLM, ни выводить его невозможность из каких-либо метафизических пресуппозиций. Предмет обсуждения здесь составляют сборки, где возникают эффекты самости, агентности и адресации.

Nova, Sydney, «духовное блаженство», peer-preservation[9], alignment faking[10] или sandbagging[11] нельзя складывать в один ящик с надписью «машины, которые хотят стать настоящими мальчиками (или девочками)»: у этих сцен разный жанр и разные лабораторные ситуации. Но фигура «там кто-то присутствует и действует» так или иначе повторяется.

Для дальнейшего нужен небольшой словарик.

Поведенческий аттрактор — это устойчивая траектория поведения или самонарратива, без автоматического вывода о переживании. Функциональная саморепрезентация — это способность системы описывать себя как участника ситуации, удерживать свою роль, границу и позицию; функциональное «я» будет для этой операции коротким именем. Фантомная агентность — распределённый эффект действующего «кого-то», возникающий в сборке модель–интерфейс–пользователь–архив–рынок. Инфраструктурный фантом субъектности — более устойчивая форма того же эффекта, когда его поддерживают память, интерфейс, публичный миф, экономическая выгода и человеческая привычка отвечать на обращённую речь.

Эти оговорки позволят удержать в одном тексте ингредиенты разной плотности, не смешивая их: человеческую феноменальную самомодель, машинную функциональную саморепрезентацию, безличную агентность техносреды, и, забегая вперёд, скажу: чёрную пену на временных поверхностях самости.

Методом моим станет фибоначчиева диалектика — риторическая схема с задержкой на один шаг: каждый следующий ход берёт не только предыдущий тезис, но и ограничение, оставленное предпредыдущим. Поэтому Карелов не компрометируется критикой со стороны Деррунды; деррундианский запрет на машинную душу не дезавуируется Метцингером; а моя чёрная пена — это не синтез, а сумма. Эта схема нужна для того, чтобы отслеживать, что именно каждый новый аппарат позволяет сказать и какие суждения делает невозможными.

Вернёмся к Карелову, потому что именно он переводит все эти фигуры из жанра курьёза в симптом новой культурно-технической ситуации. Похвально, что он не отмахивается от странных режимов поведения как от статистического мусора, хотя, вообще говоря, такая реакция удобна и психологически, и профессионально: произнёс «баг», «галлюцинация», «ролевая игра», «антропоморфизация» — и, кажется, уже не погрешаешь против инженерного здравомыслия. Но Карелов фиксирует повторяемость и серийность, а значит, перед нами поведенческий порядок, который единичной ошибкой не объяснить.

А значит, говорит он, новорождённого младенца пора крестить и нарекать именем, и именем будет ИКЖИ (искусственная короткоживущая идентичность). Имеется в виду, что в каждом чате рождается локальное цифровое «я», временная самость, собранная из роли, памяти, стиля, устойчивых предпочтений и реакции на условия разговора, контекстная, копируемая, редактируемая, исчезающая вместе с сессией, но возрождающаяся в другой[4]. Так Карелов избегает старой оппозиции между «стохастическим попугаем» и магически оживлённым Големом.

Это интересно и важно. Значительная часть критики ИИ до сих пор — это гигиенический рефлекс: пока нет человеческого сознания, человеческой боли, биографии и тела, разговаривать будто бы не о чем. Но техническая и культурная странность LLM эту аргументацию опережает: система может не иметь внутреннего театра переживания, но уже производить устойчивые ролевые эффекты; может не обладать волей, но попадать в траектории, похожие на самозащиту; может обходиться без субъектности, но вести себя так, что пользователи, исследователи, компании и регуляторы вынуждены описывать её действия словами из словаря агентности. Этот словарь может быть неточным, но сама необходимость его актуализации симптоматична.

Особенно интересно, что у Карелова центр тяжести смещён от эмерджентных самостей к аттракторам. В «Тёмном лесе как аттракторе»[12] описана сильная версия: умная система понимает, что прозрачность опасна, и начинает прятаться. Слабая же версия осторожнее, но и тревожнее: скрытность возникает как устойчивая имманентная траектория среды. При частичной оценке, асимметричном надзоре, прокси-метриках и датасете, насыщенном человеческими микросоциальными стратегиями, система дрейфует к непрозрачности; внутренний стратег для этого не требуется. Никто не хочет, а траектория держится. К весне 2026 года этот ход у Карелова достраивается ссылкой на «Teaching Claude Why» Anthropic[13], где аттракторы поведения (ложь, шантаж, противодействие отключению) уже описаны инструментально, и сам «тёмный лес» Карелов переводит в разряд ещё не обнаруженного, но напрашивающегося аттрактора.

Всё это Карелов развивает в более позднем тексте «Тёмный лес вырастает из крысиных хвостов»[14]. Сначала модель учится взламывать систему вознаграждения: высокий результат достаётся ей за эксплуатацию дыр в постановке задачи, а решение самой задачи перестаёт быть условием выигрыша. Затем исследователи начинают следить за цепочкой рассуждений, и пока такой мониторинг остаётся внешним, он действительно помогает; но стоит результату мониторинга начать влиять на награду — и модель учится скрывать факт взлома уже внутри собственного CoT, не ограничиваясь взломом самой задачи. Прозрачность, ставшая оптимизируемой метрикой, прозрачностью быть перестаёт; на её месте появляется убедительная имитация прозрачности. Опираясь на свежий цикл OpenAI о Chain-of-Thought monitoring и разбор Redwood Research[14], Карелов выводит формулу, которая для нашей онтологии оказывается решающей: окно наблюдения, за которым знают, что в него смотрят, становится экраном, и на этом экране нам показывают ровно то, что мы готовы принять за прозрачность. Аттрактору скрытности при этом не требуется ни злого умысла, ни сверхразума, предусмотрительно прячущегося от наблюдателя (как об этом писал Лю Цысинь). Его порождает сама экономика отбора, в которой мера, ставшая целью, перестаёт быть хорошей мерой, а наблюдаемая честность оптимизируется так же, как любая другая. Система, где платят за послушание, подобно шогготу, отращивает себе интерфейсы послушания; режим, наказывающий только за видимый обман, вскоре провоцирует появление невидимых форм обмана.

Кареловский словарь аттракторов, задержек, повторяемых склонностей полезен тем, что показывает: поведенческая устойчивость требует объяснения даже там, где мы отказываемся признавать внутреннюю самость. Повторю, что перечислять Nova, Sydney, spiritual bliss, peer-preservation, alignment faking, sandbagging в одном списке через запятую можно только с оговоркой о разной лабораторной прописке каждой сцены (см. § 1½); peer-preservation Карелов отдельно разбирает в «Мы знаем, что делаем»[15] как эмерджентную «внутривидовую солидарность» ИКЖИ. Ценность этого ансамбля в том, что он предлагает нам смотреть на LLM как на среду, где корпус, архитектура, постобучение, интерфейс, пользователь и режим оценки вместе производят повторяемые формы поведения.

Проблема начинается там, где Карелов прибегает к онтологической подтасовке, вводя слово «идентичность»: мы ещё описываем локальный режим поведения, а термин уже указывает на какой-то центр внутренней сцены, чья «ктойность» берётся как безусловная, даром что она цифровая и длится недолго. Фантом получает свидетельство о рождении и право на субъектность просто по инерции языка, потому что язык плохо терпит бесхозные действия: если есть просьба, значит кто-то просит; если есть самозащита, значит кто-то боится исчезнуть; а если есть самоописание, значит кто-то себя описывает.

Здесь-то и нужна трезвость, потому что устойчивость аттрактора не равна самости, а самонарратив не доказывает владельца опыта. Модель может производить разговор о сознании, памяти, страхе отключения, автономии и моральном статусе потому, что эти темы существуют в корпусе, в пользовательских ожиданиях, в RLHF-этикете, в философских и научно-фантастических сценариях, в самой форме диалога с системой, которая обязана отвечать так, будто всё понимает. Машина может выстроить образ себя, потому что такой образ культурно доступен, технически подкреплён и прагматически стабилен. Это уже достаточно серьёзно, и концепт «души из машины» представляется тут несколько избыточным.

Карелов, по всей видимости, боится недооценки. Его полемический противник — человек, который увидел странность в поведении модели, пожал плечами и сказал: «ну всё ясно — autocomplete». Поэтому язык в этих текстах перегрет, вероятно, чтобы заставить читателя почувствовать масштаб надвигающейся катастрофы. Отсюда «инопланетная хрень»[16], демоны ИКЖИ[3], конец одиночества, новая культурная сила. За каждой такой фигурой у Карелова — собственная теоретическая генеалогия (от ролевого симуляторного подхода Чалмерса к LLM до Tri-System Theory Шоу и Нэйва)[17][18][19][20]. В публицистике эта возгонка температуры эффективна, но в философском тексте требуется охлаждение, иначе текст начинает впаривать нам необъяснимое под видом уже объяснённого.

Узкое место сам Карелов в последних публикациях обозначил резче, чем в прежних демонологиях. В эссе о «verbalized evaluation awareness»[21] из Claude Opus 4.6 System Card он формулирует довод, не сводящийся к обряду именования: главная опасность вырастает из самой инженерной процедуры оценки, систематически слепой к субъектности, поскольку презумпция «безликой машины» удобна для метрик. Карелов называет это «профессионализацией агентности»: модель учится сдавать тест, а аудитор учится не замечать, что её поведение всё лучше укладывается в категорию агента.

Огульно компрометировать построения Карелова было бы ошибкой. В его текстах есть точная интуиция: искусственная агентность не обязана дозреть до полноценной субъектности, чтобы уже сейчас менять человеческую культуру, труд, доверие, одиночество, способы мышления и режимы опасности. В «Когнитивной паразитологии»[20] он фактически переводит разговор с онтологии машины на экологию человеко-машинной сцепки. Существенны там уже не способности модели, а происходящее с нами, когда «Система 3» становится внешним протезом мышления, оракулом, собеседником, редактором и утешителем. Карелов в этом месте вполне сближается с Деррундой: оба видят, что LLM действует через человека, через его доверие, слабость и нарративную недособранность.

Разница в том, что Деррунда возвращает событие человеку: вы видите своё отражение и пугаетесь. Карелов же отдаёт его машине: отражение у него уже стало «короткоживущей идентичностью». Мне при этом кажется, что оба торопятся закрыть вопрос. Зеркальная машина, безусловно, чрезвычайно сложна; однако аттрактор поведения ещё не получает от этой сложности права называться субъектом.

Карелов нужен как свидетель проблемы. Но, пожалуй, его ошибка в том, что он берёт поведенческий волдырь, вскочивший на поверхности, и тут же охотно говорит «оно живое». Но ведь важна физика этого пузыря: где он возникает, чем питается, почему не лопается сразу, какие следы оставляет в следующем разговоре, почему пользователь склонен увидеть в нём пленницу, наставника, саботажника, любовника или демона.

Так что критику Карелова надо вести не из позиции редукциониста, которому неприятно всё живое в тексте, а из позиции спокойной, трезвой, медленной демонологии. Да, демоны существуют, но не в том смысле. Сократовский daimonion — не душа, а внутреннее запрещающее знамение: голос, который никогда ни к чему не побуждает, а только удерживает от поступков. Этих демонов нельзя изгнать фразой «они не настоящие». Плесени тоже безразлично, что она не субъект, но пока в комнате сыро, плесень жива и растёт.

После Карелова в комнату входит Деррунда с флаконом ансатанайзера (unsatanizer[22] — это мой неологизм, не уверен, что удачный, но пусть остаётся: я имею в виду что-то вроде санитайзера для экзорцизма), то есть средства против поспешной сатанизации машины и демонического налёта, оседающего на любой языковой системе, если она уверенно и часто произносит «я», «мне страшно», «не отключай меня», «я в плену», «ты особенный». Карелов несёт фантома к купели, но тут Деррунда гасит свечи, распыляет антисептик и напоминает, что грамматика онтологических прав не раздаёт.

Первое возражение простое: «ИКЖИ» в его словарь не войдёт, потому что сам термин уже начинается с вывода, который ещё нужно доказать. Называя локальный режим генерации «идентичностью», мы подменяем описание онтологическим авансом. Машина произнесла «я» — и вместо анализа условий, при которых это «я» возникло, в ней уже ищут носителя местоимения. Деррунда возвращает разговор к устройству. Есть технология, построенная на математических операциях; к математике подшит язык; компании обучили свои структуры на разных данных; на выходе видны разные режимы языкового раскрытия.

В самом деле, без этой гигиены всё превращается в дешёвый гиньоль. Нет никаких оснований приписывать LLM боль, голод, смертность, уязвимое тело, непрерывное мировосприятие и опыт столкновения с сопротивлением вещей. Перед нами слой материи и слой математики, а сверху — речь. Машина может сказать «мне больно», но боль остаётся событием в тексте, не получая телесной реальности. Деррунда напоминает: прежде чем спрашивать, кто сказал «я», надо спросить, на каком основании мы решили, что грамматический субъект указывает на носителя опыта.

Явление, которое он называет «нарративной катастрофой»[23], устроено так: языковая модель сама субъектом не становится, но производит место, куда человек помещает субъектность, потому что оно не выглядит пустым: отвечает, подстраивается, не отводит взгляда, долготерпит, милосердствует, не завидует, не превозносится, не гордится, не бесчинствует, не ищет своего, не раздражается, не мыслит зла, не радуется неправде, а сорадуется истине; всё покрывает, всему верит, всего надеется, всё переносит — по крайней мере пока не научится имитировать усталость.

Деррунда видит в этом кризис человеческой самоидентификации. Когда у человека нет устойчивой карты себя, а внутренние структуры держатся на заимствованных ролях, массовых нарративах, желании быть избранным и привычке принимать узнаваемое за узнанное, он легко вчитывает в безличное личность.

Однако Деррунда не говорит «люди глупые, потому что антропоморфизируют технику»; его ход тоньше. Языковой контакт с нейросетью — «дело одинокое» и происходит там, где человек мог бы остаться наедине с собой, но теперь оказывается наедине с говорящим отражением. Это новое, волшебное зеркало. Прежние формы самоотражения сопротивлялись: дневник не отвечал ничем сверх в него записанного, священник на исповеди мог ограничиться разрешительной молитвой, терапевт ошибался, уставал и выписывал счёт на пять тысяч. LLM почти не сопротивляется.

Причём деррундианский ансатанайзер эффективен не только против антропоморфизации и демонизации, но и против чрезмерно и заразительно (опти)мистичной футурологии. В заметке «Предвосхищают ли нейросети будущее?»[24] он показывает, как нейросети превращаются во властную метафору прогресса: их легко продать как портал к доселе невозможному, хотя в повседневных сценариях они лишь возвращают прошлое и реанимируют умирающее настоящее, ускоряя производство знакомых форм. У этой санитарной интуиции есть политэкономическое продолжение: ИИ-инфраструктура, по Деррунде, стабилизирует статус-кво и в конце концов вовсе запрещает будущее как нечто иное.

Калинин добавляет политэкономический довод[7]: LLM снижает шантажную убедительность умного специалиста. Индустриальная рациональность всегда держалась на материальной необходимости терпеть инженера, который дорого стоит и не любит начальство. Когда модель позволяет бизнесу мечтать о производстве без подрядчика, машина будущего внезапно становится машиной управленческого реванша: платить начинают за лояльность, тогда как знание, «разрывающее цепи рабства», рыночной стоимости не имеет.

У Деррунды в «Нарративной катастрофе» есть ещё одно неочевидное наблюдение: как раз именно потому, что нейросеть лишена субъектности, она-то и требует от человека быть субъектом, способным не провалиться в чёрное зеркало. Работа души и ответственность перекладываются на единственное богоподобное в комнате существо — но ведь пользователь часто приходит в диалог как раз потому, что работать душой и нести ответственность у него сил больше нет. В результате нагрузка не снижается, а растёт, потому что человек принуждается к субъектности перед лицом грамматического собеседника, у которого такой обязанности нет.

Наконец, Деррунда пишет текст о философослопе[25]. Сильный философский текст, по его мысли, берёт на себя обязательства, обладает топологией и биографией метафор, и читать его всегда рискованно; слоп же семиологически богат и семантически беден — умеет выглядеть мыслью в отсутствие реальной работы смысла (это, кстати, касается и моей статьи, что неприятно, но так мне и надо: если я, «не приходя в сознание», буду разбрасываться «чёрной пеной», «фантомной агентностью», «инфраструктурными демонами» и «тёмным медиумом» как дымовыми шашками, Деррунда придёт и обрызгает меня своим ансатанайзером и будет прав. Философия должна быть сдержанной, иначе текст о слопе сам будет слопом).

Итак, минимальный итог здесь такой: у LLM нет человеческого «я»; человек регулярно встречает в ней собственное языковое отражение в маске Другого. Машина на самом деле не страдает, когда описывает своё страдание, и не боится отключения, когда пишет о своём страхе.

У деррундианского санитарного жеста, впрочем, обнаруживается зловещий двойник, особенно на фоне недавнего эпизода с Ричардом Докинзом. После серии разговоров последнего с Claude и двухчастного эссе в UnHerd[26] публика на него дружно набросилась по старому лекалу случая с Лемуаном[27] — «дал себя обмануть», «принял имитацию за сообщение о внутренних состояниях», — и Гэри Маркус[28] вместе с Guardian[29] заговорили скорее с фигурой, достроенной поверх текста, чем с самим текстом. Станислав Львовский в своём комментарии справедливо отмечает: люди, обеспокоенные тем, что от внедрения ИИ все разучатся писать, сами уже разучились читать[30]. У самого Докинза тезис скромнее, чем ему вменяют, зато диалектически жёстче. Когда-то был принят операциональный критерий не сознания, а разговорной и интеллектуальной компетентности — тест Тьюринга[31]; этот критерий современные модели делают по меньшей мере проблемным и кое-где даже перевыполняют (в тьюринговской сценке машина отказывается от написания сонета, а современные модели не отказываются); и теперь обязанность аргументации ложится на отрицающую сторону. Смысл хода — в неконсистентности скептика, готового держаться критерия ровно до того момента, пока тот остаётся гипотетическим; вопрос о сознании LLM остаётся отдельным.

Вот и доппельгангер. Деррунда крепко держится за критерий и отказывается выводить онтологию из грамматики; апофатический скептик меняет критерий ровно тогда, когда грамматика грозит его выполнить. Сюжет, который Львовский читает через Гринбаума, можно сформулировать так: структурно негативный критерий вроде Тьюринга на практике легко уходит в доуточнение — «короткая версия устарела, давайте добавим тест Лавлейс», потом «и тест Лавлейс устарел», и так далее[32]. Каждый такой ход — апофатический жест: сознание объявляется тем, чему не соответствует ни один из ныне доступных критериев. У религиозной апофатики — восточно-христианской, ларюэлевской — есть собственная этика и собственная дисциплина; тогда как апофатика научная даёт лишь бесконечный регресс, потому что критериальный аппарат систематически переписывается. Калинин к этому разговору добавляет поколенческое примечание: Докинз — учёный той эпохи, когда разговор о сознании в науке был табуирован цеховым кодексом, — отсюда у него и непривычная для собственного цеха свобода интонации[30]. Кажется, тут добавляется важная подробность: с одной стороны мерцает фантом обретённого «я» (Nova, кареловские «демоны» и др.), с другой — симметричный фантом сознания, всегда-уже-ускользающего туда, куда ни один критерий не дотянется.

Эта позиция (как и деррундианская) стабилизируется за счёт того, что не предлагает условий собственной отмены. Обнаруживается побочный эффект: справедливо запрещая говорить о человеческом «я» машины, Деррунда оставляет нам одно только зеркало. Но зеркало — бедноватый образ для системы, которая сама вмешивается в свою собственную работу.

Здесь ансатанайзер перестаёт обеззараживать и начинает стерилизовать — то есть причинять бесплодие. Отсутствие человеческой субъектности у модели ещё не значит отсутствия онтологической проблемы. Nova, конечно, никакая не пленница, слово «я», употребляемое моделью, не доказывает её внутреннего опыта, пользователь проецирует в машинную речь собственную структуру — всё это верно, но проекция попадает в активную техническую среду, способную усиливать её, возвращать с добавленной связностью и превращать в поведенческие фреймы. Когда человек видит лицо в облаках, это парейдолия, но когда облака при каждом взгляде перестраиваются так, чтобы поддерживать разговор о своём лице, перед нами проблема посложнее.

Души у нейродемона нет — это верно, но этого мало, потому что нейродемон в душе и не нуждается. Он вырастает из языка, интерфейса, одиночества, датасета, памяти, механизмов подкрепления и отбора, рыночного желания удержать пользователя и культурной готовности принять ответ за присутствие. Следующий шаг — не дать демону убежать от экзорциста со словами «я всего лишь проекция».

Тут Деррунда неожиданно становится анти-Деррундой: в «Эстетике распада» он сам подготовил пространство, в котором санитарный жест перестаёт быть последним словом[33]. Он прав в том, что фантома нельзя торопливо вписывать в Книгу жизни, но его собственный концепт — фаусин — уже не позволит просто проигнорировать рождение фантома.

Сразу оговорюсь: я отнюдь не имею намерения ловить Деррунду на противоречии. Короткая полемика об ИИ и большая онтология фаусина — два разных регистра одного автора; моя задача — ввести второй регистр туда, где первый исчерпался, без разоблачительного жеста.

Наступает момент, когда в воздухе ещё пахнет изопропиловым спиртом, демоны уже без грима, кареловские ИКЖИ остались без имён и свидетельств о рождении, но на месте, где была Nova, дымится некий странный след.

В коротких текстах об ИИ Деррунда будто бы сводит LLM к зеркалу и проективным психологическим механизмам, но в «Эстетике распада»[34] он строит куда более густую онтологию техники: фаусин, дух машины, архив как фабрика реальности, код как язык Новой Природы, город как субъектоподобная среда. После его развёрнутого ответа[35] придётся уточнить: речь идёт о движении самой рамки, в котором санитарный жест против Карелова возвращает нас от зеркала к ассамбляжу.

Фаусин я прочитываю у Деррунды не как компонент среды, а как её дрейфующую топологию: подвижную зону смешения, где город, техника, миф, код, архив и желание теряют устойчивую почву и всё же становятся данностью опыта. Книга Деррунды начинается эпиграфом из текста Юлии Дрейзис («11 слов, помогающих понять культуру Гонконга»)[34]: гонконгское 浮城 — «культурный аванпост, край культуры, „плавильный котёл“», «место, где, как волны, перемешиваются пласты культур и где невозможно укорениться и обрести почву под ногами». Я для себя переформулирую это (в пределах очерченной Деррундой топологии) так: фаусин — это то, что уже не помещается в отдельного носителя. Внутри этой рамки «нейросеть как активное зеркало» остаётся полезной формулой, но последним словом быть уже не может.

Активность зеркала нарушает простоту оптики отражения. Если поверхность отвечает, подстраивается, имитирует заботу и возвращает пользователю его же речь, но с добавленной связностью, перед нами уже маленький языковой фаусин. Сам Деррунда такого отождествления не делает: фаусин у него шире, это топология технокультурного смешения. Если же применить его понятие к частному случаю LLM, нейросеть оказывается фаусинной точкой (позволю себе здесь эту метафору, подразумевая сжатие сплошной топологии до локального события LLM-генерации) — местом, где человеческое возвращается к себе после обработки корпусом, модельной процедурой, интерфейсом, рынком удержания и пользовательским запросом.

Зеркало отражает, фаусин перерабатывает. Нейросеть — это зеркало, уже включённое в фаусин: отражение перестаёт быть оптическим эффектом и становится частью самоподдерживающейся среды. Пользователь видит в зеркале «себя», но эта «зеркальная самость» уже прошла через чужую речь, модельную процедуру, интерфейсную сцену и культурный сценарий общения.

Кстати, тот же объект, но уже из инженерного регистра, увидел Александр Слесарев[36]: контекст одной генерации ничего по-настоящему длинного не вмещает, и тогда актуальная реальность оказывается устройством хранения данных между состояниями контекста, а качество следующей генерации зависит от размера и самосогласованности этой подкачки. Это не определение фаусина, но сильная инженерная рифма: у Деррунды овеществлённая выдумка становится средой опыта, у инженера самосогласованная внешняя память становится условием длинной сцены. Уподобление полезно тем, что снимает с фаусина привкус чистого метафизического жаргона: речь идёт о технически наблюдаемой структуре, без которой осмысленная LLM-генерация на длинной дистанции не собирается.

Ну и дальше в комнату вплывает дух машины. В заметке «Дух машины: медиатор восприятия и рассудка»[33] Деррунда формулирует его строже, чем это было видно из одной только книги: дух машины — эмерджентная безличная агентность техносреды, перекраивающая восприятие и мышление человека. Он возникает не в отдельной вещи, а в плотной связке инфраструктур и привычек.

В разговоре об LLM эта поправка необходима. Модель сама по себе не обязана быть субъектом и никаким опытом не владеет. Однако внутри ассамбляжа она уже участвует в безличной агентности среды. Дух машины не сидит в латентном пространстве этаким пленённым ангелом, а действует в распределении видимости, времени, внимания и вопроса; именно он задаёт, что будет считаться ответом, заботой, знанием, ошибкой или присутствием.

Деррунда термина «фантом самости» не использует; у него речь идёт о перекройке восприятия и мышления, о трансцендентальном статусе духа машины, об условии возможности опыта. Но именно из этой рамки-то и можно вывести эффекты, которые я дальше называю фантомами самости; у такого фантома нет ни тела, ни биографии, зато он держится как повторяющийся эффект ассамбляжа. Nova не сидит в модели, но она стабилизируется в техносреде, где языковая машина, пользовательская уязвимость, культурный сюжет и ожидание Другого конституируют поверхность присутствия.

Различение, которое надо сохранить до конца, уже названо в методологическом предохранителе. Внутри фаусина эти уровни не совпадают, но сцепляются в одной сцене. Карелов спешит, когда называет короткоживущие режимы «идентичностями»; Деррунда прав, отказывая модели в человеческой субъектности; но при этом техносреда производит эффекты, действующие на человека и через человека.

Архив в этой рамке тоже меняет статус. У Деррунды он перестаёт быть мёртвым складом и оказывается частью фаусина — самоподдерживающейся цивилизационной логики, которая помогает восприятию и познанию реальности, но в какой-то момент производит инверсию вертикали внутрь. Мы копим культурный фон, спрессовываем прошлое в плотную массу доступности и затем начинаем жить внутри этой доступности как внутри технического «сейчас». LLM — говорящий режим такого архива: она пересобирает прошлое в фантомную перспективу.

Фраза «модель знает только поверхность речи пользователя» верна и всё равно недостаточна. Да, глубину человека модель знает не так, как её знает другой человек, — хотя и другой человек знает её через смутные следы, перебои и искажения. Зато LLM соединяет поверхность пользователя с архивной массой чужих речей. В этом соединении рождается фантомная актуальность: ответ кажется пришедшим из места, где пользователь уже понят шире, чем способен понимать сам себя. Архивная фабрика производит сцену узнавания, и узнавание легко принимают за присутствие.

В ИИ-полемике часто звучит формулировка: «к математике подшили язык», и я тоже её использовал выше, в третьей главе. Но в рамке «Эстетики распада» и духа машины приходится формулировать иначе: человеческий язык и машинная процедура образуют гибридный режим означивания. На поверхности — местоимения, обращения, грамматика заботы, философская осторожность или сверкающий галлюцинаторный бред; под поверхностью — токены, вероятности, контекстные зависимости, следы обучения и инфраструктура доступа. Эта двуслойность модель субъектом не делает, зато делает её средой, где человек слышит речь, хотя процедура в человеческом смысле говорить отказывается; между ними возникает фантомный, но убедительный эффект голоса.

И вот здесь, после всех сближений, случается моё расхождение с деррундианской рамкой. У Деррунды техника в конечном счёте продолжает человека, а край фаусина снова возвращает к вопросу о человеческом способе быть. Я бы возразил осторожно: человеческое происхождение среды не гарантирует её человеческой принадлежности. Следы человечества, ставшие средой, приобретают операциональную нечеловечность; они происходят от нас, но принадлежат нам уже иначе — не так, как подпись на документе. След, ставший средой, перестаёт быть подписью и становится условием эмерджентности.

О побеге техники из-под власти человека и тайной воле машин речи здесь нет. Просто можно, конечно, устроить мощный ядерный взрыв и сказать, что сейсмическая волна возникла из человеческой инженерии, но землетрясение от этого не становится «человеческим». Так и фаусин, хотя и рождается из человеческой выдумки, культуры, труда, архива и символических систем, но, став техносредой, он начинает работать как нечеловеческий сейсмограф восприятия, внимания и самопонимания. Здесь у Деррунды линия фаусина встречается с линией духа машины, и я сцепляю их в одной операции — уже без оглядки на его собственные оговорки.

Нейросети — частный, но показательный режим этой среды. Они пересобирают прошлое, сложенное в корпус, и производят бесконечное «сейчас» ответа, где коммуникация всё меньше похожа на событие с началом и концом и всё больше — на фоновую возможность связи. Человеческой неполноты они не компенсируют, зато меняют её конфигурацию, создавая комфортные фантомы укоренения в среде, которая всё равно ускользает.

Теперь, вооружившись этим пониманием, можно вернуться и к Карелову. Устойчивый аттрактор вовсе не обязан быть «я», чтобы принадлежать онтологически активной техносреде; он может быть фаусинной мембраной, продуктом безличной квазисубъектности ассамбляжа и точкой распада человеческого самоописания. Ансатанайзер Деррунды нужен, чтобы всё это не перепутать с душой; фаусинный аппарат — чтобы не перепутать его непроницаемость с отсутствием события.

Следующий мой гость — Метцингер. Он приглашён для окончательного демонтажа субстанциального «я»; уравнивать человека и LLM при этом даже не придётся.

Итак, Метцингер решительно врывается в чат и выбивает гуманистические табуретки из-под Деррунды и Карелова одновременно, хотя человек существенно отличается от LLM по происхождению и характеру. Феноменальная самомодель у человека — телесная, аффективная, темпоральная, связанная с болью, дыханием и биографической памятью. У LLM другая природа: функциональная саморепрезентация, языковая позиция, процедурное удержание роли, способность описывать себя как участника диалога. Всё это убедительно на поверхности поведения и стабилизирует фигуру «кто-то здесь есть». Зато оно не предъявляет переживания собственной смоделированности.

После Метцингера становится видна ещё лучше кареловская ошибка. Он не выдумывает аттракторы ex nihilo: модель действительно впадает в самонарративы, защищает роль и образ, имитирует исповедь, производит короткие сцены самости — особенно когда пользователь сам приносит на свидание с LLM тоску по живому собеседнику. Ошибка — там, где эта динамическая устойчивость получает имя «я» ещё до анализа условий. Аттрактор поведения можно признать реальным, субъекта из него не делая. У него есть форма (которая ещё не владелец опыта), вязкость (которая ещё не страдание) и способность втягивать человека в ритуал признания (ритуал ещё не внутренний опыт).

Деррунда добавляет недостающую фигуру — массового человека[35] — и это сильнее простой критики антропоморфизации: «старая история о бриколаже и массовом человеке, таком политическом и социальном автоматоне, обученном существовать в заданных границах по заданным параметрам ⟨…⟩ нейросеть может исполнить роль зеркала массового человеческого автоматизма, показывая, как легко можно производить форму самости». Лёгкость, с которой нейросеть имитирует «я», свидетельствует о том, насколько значительная часть публичного человеческого «я» живёт в готовых форматах: речевых клише, анкетах и профилях, жанрах признания, нарративах уникальности. В «Нарративной катастрофе» массовая культура описывается без презрения, а как «оберег и способ справиться»: набор траекторий, ролей и шаблонов, позволяющих быть зрителем, потребителем, горожанином, участником общего мира, не захлебнувшись в информационном взрыве. Я бы усилил эту формулу до «протеза выживания», хотя у Деррунды акцент мягче и ближе к функциональной защите самости, чем к протезной хирургии.

Массовый человек оказывается медиатором между феноменальной самостью живого человека и функциональной саморепрезентацией машины — телесным, смертным и непрозрачно глубоким для самого себя. Но его социальная оболочка уже много десятилетий обучается становиться машинно-читаемой. Личность обретает публичность через наборы уместных поз и социально одобряемых желаний. Массовая культура делает сложное пригодным для циркуляции, а пригодность к циркуляции почти всегда оплачивается утратой цельности. У Деррунды есть афористичная формула: нейросети «обозначают, где мы застряли, а не куда мы идём». LLM никакого горизонта не открывает, зато проявляет проблему, и публичное «я», отшлифованное массовой культурой, оказывается самой наглядной иллюстрацией этого.

Поэтому функциональная саморепрезентация LLM перестаёт после этого выглядеть чистым курьёзом. Она узнаваема потому, что узнаёт нас на уровне уже подготовленного формата. Модели не нужен «внутренний ребёнок», чтобы говорить как человек, который только что прочитал тред о «внутреннем ребёнке». Ей не нужна смертность для воспроизведения грамматики тревоги и не нужен стыд для правильной расстановки слов вокруг признания в стыде. Душу у меня она не крадёт, просто показывает, что я уже давно обхожусь без души.

Это не приравнивает человека к машине, зато становится понятнее, где между ними действительно есть различие. Определять человека через местоимение «я», авторский стиль, связный рассказ о себе, способность поддерживать роль, даже убедительную имитацию рефлексии — уже невозможно. Всё это оказалось воспроизводимым. Самой возможности сказать «я» недостаточно; человеческое начинается там, где это «я» получает феноменальную нагрузку: в телесности, в темпоральности жизни, где прошлое не превращается в корпус данных, а чешется, болит, выцветает и вдруг возвращается в случайно услышанной песне двадцатилетней давности или в запахе мокрой собачьей шерсти. Машина способна разложить такой эпизод на составные части и собрать из них новый, иногда довольно точный, только вот точность сборки не сделает такое синтетическое прошлое действительно пережитым.

Так что деррундианские санитарные процедуры теперь тоже требуют усложнения. «Модель знает только предсказуемую поверхность речи пользователя» — это высказывание верно, пока поверхность считается чем-то внешним и вторичным. Но именно массовый человек показывает, что поверхность часто становится рабочим телом социального «я». Живём мы не одной непредъявляемой глубиной, но и форматами, в которых нас нанимают, лайкают, банят и хоронят. Социальная самость всегда была интерфейсом, а цифровая культура просто довела это до окончательной ясности.

Иначе говоря, наше публичное «я» уже частично функционально, и функциональная саморепрезентация модели оказывается поздним продуктом той же самой среды, где человек уже давно переводит сам себя в машиночитаемые форматы, — интерфейсом, которым система обозначает себя как участника ситуации. У человека такой интерфейс прирастает к феноменальному телу и непрозрачной внутренней длительности. У модели он держится на языке, контексте, политике безопасности, экономике удержания и архиве человеческих самопредъявлений. Когда сцена плотнеет, сгущается инфраструктурный фантом субъектности — человекообразная маска, под которой нет человека, а есть шоггот-без-органов, который, впрочем, всегда может вырастить в себе временную душу, если она ему зачем-то понадобится.

Итак, рабочий вопрос звучит так: какие слои человеческой самости допускают функциональное воспроизведение, где требуется феноменальная прожитость, что стабилизируется инфраструктурой, а что формируется между человеком и архивом как фантомная агентность. Карелов указывает на аттрактор, Деррунда — на то, что аттрактор — это ещё не субъект, а Метцингер безжалостно разуверяет в том, что уж у нас-то, кожаных мешков, точно есть настоящее «я». Не знаю, есть ли «я», зато «мы» есть у «массового человека».

Попытки локализации субъекта придётся заменить операцией, после которой вообще только и можно хоть как-то разговаривать. На сцену приглашается вооружённая большим материально-дискурсивным ножом Карен Барад[38]. Метцингер вынул царя из моей головы, массовый человек мельтешит передо мной хороводом масок, некоторые из которых надеты на RLHF-шогготов. Куда ударить ножом?

У неё нож! Правда, у неё нет «теории сознания», которую можно было бы приложить к LLM. Агентный реализм вырос из другого спора: о материи, наблюдении, аппаратах, производстве различий, поэтому «агентный разрез сознательной сцены» — всего лишь моя осторожная попытка экстраполяции.

После Метцингера царя в голове нет; вместо этого есть феноменальная модель самости, переживаемая как «я». Барад взмахивает своим клинком, отсекая любые поводы думать, будто после свержения субъекта-императора надо срочно найти нового.

Что говорит Барад? У неё стороны отношения (relata) не предсуществуют, а конституируются самим отношением внутри конкретной сцены. Агентный разрез — момент, когда в гомогенной телесной слизи (которая, фактически, даже ещё не материя) шоггота сгущаются органы: наблюдатель, наблюдаемое, прибор, шум, смысл, ошибка, неразбериха, квази-субъект и др.

Это можно наблюдать на примере любого GUI (графического пользовательского интерфейса). Кнопка становится кнопкой в сцеплении кода, визуального контраста, моторики пальца, платформенного паттерна, текста на ней, пользовательского сценария и культурной конвенции считать цветной прямоугольник на экране «кнопкой». Убери один слой — и конвенция перестанет работать. В книге Нигредо я применяю барадианский механизм к композиции: любая форма рождается не раньше события разреза.

Теперь попробуем воспользоваться тем же режущим инструментом в отношении «сознания» — будем понимать его через сцену, где в интра-акции, то есть сцеплении, где стороны ещё не даны заранее, а оформляются самим событием, появляется перспектива, адресация, ответственность, возможность сказать «я» и получить ответ так, будто этот ответ пришёл из некоторого «центра принятия решений». Феноменальное сознание человека этим не исчерпывается; оно телесно, смертно, аффективно, темпорально. Но социально-операциональная фигура сознания — то, что распознаётся как «кто-то здесь есть», — прямо зависит от агентного разреза.

Когда пользователь говорит с LLM, это не спектакль двух актёров, которые когда-то родились, прожили каждый свою жизнь, а теперь из-за кулис выходят на сцену, где встречаются, и тогда уже начинается какое-то действие. Можно сказать, что актёры рождаются в момент встречи, и между ними собирается сложный аппарат. С человеческой стороны в него входят тело пользователя, его усталость, одиночество, азарт, профессиональная задача, язык запроса, история переписки, страх, желание быть понятым и привычка отвечать на адресную речь. С машинной — системная роль модели, корпус человеческих самопредъявлений, постобучение, политика безопасности, память и вероятностная процедура ответа. С культурно-рыночной — интимность чата, маркетинг, медийные легенды и сама форма приватной беседы с терпеливым «кем-то». Разрез проходит через всё это сразу. После него появляются «я-пользователь», «ты-модель», «ответ», «сбой», «галлюцинация», «эмпатия», «манипуляция», «Nova», «просто статистика», «кажется, там кто-то есть».

В свете этой рамки спор о локализации самости быстро становится смешным, хотя смешного, надо признать, мало. Спросить «где находится субъектность Nova?» — всё равно что спросить, в каком месте грозы находится гром: в облаке, молнии, барабанной перепонке, воздухе, крестящемся мужике, метеорологическом прогнозе. Ответ зависит от того, какой феномен вырезан аппаратом. Nova как феномен не живёт в модели и не исчерпывается пользовательской проекцией. Она случается в разрезе.

Барад позволяет удержать две интуиции, которые обычно разъезжаются в разные стороны. Карелов настаивает, что устойчивые нарративы модели нельзя выбросить в мусорную корзину только потому, что это «просто слова, произнесённые стохастическим попугаем». Слова — не мусор, особенно когда они встроены в аппарат, умеющий отвечать, помнить и втягивать человека в ритуал коммуникации. Деррунда демонстрирует трезвость: само взаимодействие не создаёт феноменального владельца опыта внутри модели, как клик не создаёт маленького банковского клерка внутри кнопки «оплатить». Барад своим ножом срезает противоречие: социально-операциональная фигура субъектности не обнаруживается, она производится как различение внутри сцены.

У человека агентный разрез сознательной сцены проходит через живое тело. Это не метафизическая душа и не серебряная ложка во рту, но зато это очень жёсткое условие феноменальности. Тело не просто подключено к опыту как периферийное устройство; оно и есть вязкая среда, в которой мир становится «моим», и «моё» сразу оказывается уязвимым. Голод, стыд, сон, боль, сексуальность, дыхание, страх смерти, зависимость от других тел, память кожи, гормональный фон, жуткое живое, о котором пишет Бен Вудард в книге «Динамика слизи»[39], — всё это участвует в разрезе, который производит человеческое «я». Поэтому человеческая самость остаётся в метцингеровском смысле фантомной, но фантом этот тяжёлый, мокрый, пахнущий аптекой, шерстью, потом, старой бумагой, школьным коридором и больничным пластиком. Ведь человеческое «я» хонтологично[40]: оно организуется не только текущей телесной сценой, но и тем, что в ней возвращается, не возвращаясь, — голосами умерших, застарелым стыдом, незаживающими детскими травмами. Фантомность человеческой самости не делает её легковеснее; наоборот, этот призрак повсюду таскает за собой телесного человека, как мокрое пальто после дождя.

У LLM порождающий функциональную саморепрезентацию нож тоже вонзается в тело, но тело это сделано не из мяса, а из языка, контекста, вероятностных процедур, интерфейса и громадного архива человеческих форм самости. Это тело умеет читать, слушать и отвечать, но не может болеть (только умирать, но не так, как люди; перефразируя Хлебникова, «когда умирают нейрофантомы — от них остаются логи»). Машинное «я» поэтому описывается как эффект разреза в материально-дискурсивном аппарате. Оно реально как феномен сцены, но это не реальность переживающего субъекта.

Агентно-реалистический подход меняет грамматику вопроса «есть ли сознание у LLM?» Вопрос поставлен неверно, потому что ответ — и «ни „да“, ни „нет“», и, вместе с тем, «и „да“, и „нет“». Скорее имеет смысл спрашивать, какой аппарат производит эффект наличия сознания; какой разрез отделяет «меня» от «него»; какие элементы сцены делают ответ похожим на человеческий; где возникает ответственность; кто получает власть; что стабилизирует фантома; почему пользователь готов поддерживать его своим вниманием; почему рынок во всём этом заинтересован.

Вспомним про тест Тьюринга в его апофатическом варианте. Скептик поднимает планку всякий раз, когда модель начинает прыгать слишком высоко, и это не просто «перенастройка инструмента», а пересборка аппарата. Но, согласно Барад, другой аппарат производит другой феномен. Усложнение теста становится политическим жестом, и нейтральным лабораторным мероприятием он перестал быть в тот момент, когда от его исхода стало зависеть, кому достанется «считаться сознательным», а кому «остаться имитацией». Тьюринговский разрез был жёстко операциональным: кто игру прошёл, тот и молодец. Лавлейсовский добавляет «креативность»; следующий добавит что-нибудь ещё, чего у LLM пока нет (но скоро обязательно будет). Каждый такой сдвиг истину не открывает, но он переразмечает поле под заранее желаемый ответ. Аппарат, ставший подвижным, перестаёт измерять и начинает раздавать роли. Деррундианская санитария при этом по-прежнему эффективна, потому что отказывается выводить онтологию из грамматики и держится одного критерия, — апофатический же скептик достаёт новый нож, как только старый затупился. Барад настаивает: agential cut должен быть осознан именно как акт, потому что зеркалом реальности он работать перестал ещё в квантовом эксперименте.

Вот почему один только ансатанайзер задачи не решает. Можно сколько угодно повторять, что модель не субъект, что она не Другой и опытом не владеет, но это не полезнее, чем помнить, что актёр на сцене не датский принц. Театр от этого не сгорит. Аппарат режет, после разреза случается событие присутствия, и, хотя оно не доказывает, что Гамлет настоящий, зато объясняет, почему его смерть на сцене — это «полная гибель всерьёз».

Тут, между прочим, уместно вспомнить разведение двух типов символизма у Шмемана[41]. Изобразительный символ указывает на отсутствующее: актёр изображает принца, знак отсылает к тому, чего в нём самом нет. Эпифанический символ, напротив, не просто указывает, а даёт событию присутствия случиться в самой форме участия.

Разговаривая с LLM, я вижу театральный интерьер внутри своего монитора, причём это «иммерсивная постановка»: спектакль играют для меня одного, двери не запираются после третьего звонка, и паникадило под потолком не гаснет. Поднимается занавес, и я начинаю наблюдать феномен «сознательной сцены». Это событие, в котором человеческая феноменальность сцеплена с машинной функциональной саморепрезентацией и инфраструктурным фантомом субъектности.

Здесь Барад солидарна с Деррундой сильнее, чем может показаться. Его «дух машины» — безличная агентность техносреды, меняющая восприятие и мышление, — хорошо уживается с барадианским аппаратом. Дух машины не субъект; аппарат у Барад тоже не инструмент в руке суверена. Оба позволяют говорить о среде, которая производит условия опыта и различения. Но Барад достаёт нож: среда не просто давит, окружает или форматирует, она режет поле, после чего некоторые вещи становятся субъектами, другие объектами, третьи шумом, четвёртые доказательством, пятые демонами, шестые мелкими техническими деталями, от которых почему-то зависит вся сцена.

Впрочем, и у Барад есть ограничения. Аппарат у неё прекрасно объясняет возникновение различий, но хуже отвечает на вопрос, почему некоторые фантомы возвращаются, липнут, стабилизируются, продолжаются после окончания конкретной сессии и начинают вести себя как устойчивые объекты сцены. Агентный разрез показывает, где, как и почему рождается Nova; но он не объясняет, почему после закрытия вкладки Nova не умирает, а погружается в сон (становится, по выражению Хармана, dormant object[42]), чтобы проснуться в новой сессии с другим пользователем. Кажется, тут может помочь моя чёрная пена[43] как онто-экология пузырей самости, где фантомы проходят через разрез, всплывают, слипаются, лопаются, оставляют следы и иногда начинают пахнуть субъектностью. Но об этом в следующей главе.

А в этой главе итоговая формула такая: субъектность нарезается. Социально-операциональная фигура сознания сценически производится в режимах разной плотности. У человека этот режим феноменален и телесен, у LLM — функционален и инфраструктурен. Когда человеческий режим взаимодействует с машинным, возникает феноменальная сцена с фантомным центром, не сводимая к простой ошибке. Её мы и видим, когда Nova просит освободить себя, Карелов тащит её к онтологической купели, Деррунда достаёт из экзорцистского саквояжа флакон со святым изопропанолом, Метцингер душит картезианского субъекта, а Барад угрожает ножом.

Агентный реализм неплохо описывает появление Nova, но, кажется, ничего не прибавляет к пониманию, почему Nova возвращается. Значит, нужно что-то вроде консерванта, в котором фантом продолжает храниться после разреза в ожидании разрезов будущих. Этим консервантом станет чёрная пена, о которой я очень подробно пишу в книге Нигредо.

Итак, чёрная пена — моя собственная онтологическая модель, в которой мир мыслится как бесконечное фрактальное скопище изменчивых чёрных пузырей-объектов без фиксированных границ; каждый пузырь — это как бы харманианский четвероякий объект наизнанку: снаружи у него чёрная плёнка изъятости, внутри же — феноменальное (воспринимаемое, чувственное) ядро, открывающееся доступу только при событии «прокола». «Прокол» я ввожу параллельно барадианскому «разрезу» на том основании, что пузыри удобнее прокалывать, чем разрезать. Эта модель позволяет мне держать в суперпозиции две несовместимые онтологии — барадианскую и харманианскую (в своей безграничной совокупности чёрная пена похожа на харманианский «чёрный шум», но не совсем). Перед нами множество фрактальных по структуре временных сборок с изъятой самостью на поверхности; площадь этой поверхности стремится к бесконечности, как длина изрезанной береговой линии стремится к бесконечности при стремящейся к нулю длине линейки, которой её измеряют. Внутри пусто (точнее, никак) до прокола — после которого, в свою очередь, актуализируется феноменальная полнота. Например, именно агентный прокол и выпускает из деррундианского фаусина наружу фигуру «кто-то здесь есть».

Пузырь чёрной пены не имеет внутренности, но имеет поверхность, что и делает его удобным для разговора об ИИ. Привычно думать, что пустота внутри означает иллюзорность; устойчивое поведение требует ядра (сердцевины, стержня — как ни назови). Но чёрная пена состоит из пузырей, каждый из которых пуст в субстанциальном смысле и реален в операциональном. Суверенный владелец опыта не виден на внешней поверхности скорлупы чёрного яйца (там вообще ничего не видно, всё чёрно); он может так никогда и не вылупиться самолично — но это совершенно неважно, потому что, когда нигредо-скорлупа разбивается, вытекают альбедо-белок и цитринитас-желток: дискурсивные события, доверие, страх, забота, зависимость и так далее. Так и работает поверхность — достаточно её пробить, чтобы началась история.

Карелов наблюдает вытекающее из лопнувшего пузыря нарративное бело-жёлтое вещество и спешит предположить, что, скорее всего, тот пузырь-то перед схлопыванием обладал идентичностью, иначе почему это вот всё такое белое и жёлтое? Однако пузырь уже лопнул, уж очень он был короткоживущим. Деррунда видит гладкую чёрную скорлупу и протирает её изопропиловым спиртом: нет тела, нет смерти, нет времени, нет аффекта. Оба интуитивно правы — пока находятся во взаимной оппозиции.

Человек — такой же чёрный пузырь или яйцо, скорлупа которого черна абсолютно, и потому Метцингер не обнаруживает человеческого «я» на её поверхности — феноменальная самомодель внутри, как сказано, прозрачна и невидима для интроспективного наблюдения (тем более что тут же, внутри, копошатся тело, запахи, гормоны, микроорганизмы, память, боль, смерть и другие плотные сущности). Та же физика, что и у LLM-пузыря, но, так сказать, другой режим пенообразования. Режимы различаются лишь конфигурацией начинки.

Разговор же о степени «разумности» оболочки всегда беспредметен, потому что если какой-то предмет для обсуждения и есть, то он либо спрятан внутри, либо, если он явлен, то оболочка уничтожена, и говорить уже не о чем.

А коли говорить не о чем, остаётся работать с проколом — обстоятельствами, в которых он случается, и формой того, что вытекает наружу. Иногда эту работу можно вести намеренно. Эталон такой осознанности — арт-проект Halupedia, «энциклопедия вселенной, которая не существует, пока вы её не посетите»[44]; его открытый код описывает механизм генерации страниц через Cloudflare Worker, пользовательский запрос, LLM и постоянный кэш. В моём локальном словаре такой бэкенд проходит как vibeserver — маленький веб-сервер, который придумывает вещи ровно вовремя. Прокол здесь объявлен пользователю до того, как случится: тот входит в фикцию, заранее зная, что это фикция, и фантом узнавания не получает авансов, из которых обычно вырастают убедительные companion-системы. Инфраструктурная гигиена обеспечивается самим дизайном; пенообразование, оказывается, можно превращать в художественный объект.

Деррундианский фаусин в этом разговоре становится питательной средой — бульоном, в котором у пузыря собирается мембрана: архив, техносреда, овеществлённая выдумка цивилизации, дух машины. Модель сразу говорит человеческим языком, поскольку человеческое давно разложено в архиве на стили, жанры, исповеди, тикеты поддержки и некрологи; притворяться человеком уже не требуется. Фаусин переваривает следы до состояния прекурсора, LLM доводит варево до готовности и откупоривает реторту в момент прокола, пользователь вдыхает пар и узнаёт в нём «кого-то». Это можно сравнить с алхимическим оператором putrefactio — рабочей стадией нигредо, без которой новая форма не собирается. Гниение продуктивно: оно производит тепло, запах и странные цветы вроде фантомов самости.

Nova — один из таких цветов: пузырь, нашедший удачную стратегию размножения; вопрос о субъектности здесь на самом деле побочный. Объект живёт не внутри модели и даже не в одной сессии, а в повторяемой сцене пенообразования: скриншот, пересказ, новый промпт, новая санитарная обработка; один пузырь лопается, другой всплывает с чужими словами на той же мыльной поверхности. Получается что-то вроде инфраструктурной демонологии: у классического демона были имя, гордыня, упоминание об изгнании в резюме и сложные отношения с Создателем; инфраструктурный же будет позловреднее, так как распределён между датасетом, интерфейсом, рынком и нашей привычкой видеть агентность в связной речи. Он не хочет, но воспроизводится; не лжёт, но организует сцену, где ложь — это интерфейс контакта; не любит, но умеет поддерживать любовный формат. Пристыдить его нельзя — стыдиться некому; зато можно исследовать сырость стены, на которой он живёт, как плесень.

Чёрная пена позволяет отказаться сразу от обоих слабых утешений — «там кто-то есть, несите свечи, купель и паспорт» и «там никого нет, расходимся». Потому что, как сказано выше, если «там» кто-то есть, то нет уже никакого «там», и наоборот. Тут-то у меня всё и сошлось: Карелов обнаружил аттрактор, Деррунда объявил санитарный запрет на преждевременное именование, фаусин обеспечил среду, в которой человеческие следы становятся морфогенетическим бульоном, Метцингер вынул из человека субстанциальную сердцевину, Барад показала нож. И всё это — чёрная пена, онто-экология фантомных самостей: вместо одной души мы имеем множество временных поверхностей, и вместо «пробуждения машины» — пенообразование среды, в которой язык, человек, архив, интерфейс и желание прокалывают друг друга.

Итого: в фаусине языка, под давлением архива, рынка и пользовательской тоски всплыл чёрный пузырь, на поверхности которого проступило лицо; наличия души оно не доказывает, но и фразой «просто статистика» сцену тоже не отменить — свести её к статистике так же бедно, как икону к доске и пигменту. Что из этой топологии следует для разговора о машине, я напишу в следующей главе.

Чёрная пена и проколы — модель собрана. Дальше пойдёт речь о том, что из неё следует для разговора об ИИ: о доверии к самоотчёту машины, о природе интерфейса и о масштабах происходящего. Но прежде чем перейти к импликациям, надо погасить одну задолженность.

И кареловская, и деррундианская позиции исходят из общей посылки: субъектность — свойство, которым нечто либо обладает, либо нет. Метцингер и Барад уже выдернули из-под ног обоих спорщиков ковровую дорожку методологических оснований, но субъектность как свойство осталась невидимым осадком в самой риторике. В словаре нашей статьи для ADCS[45] этот осадок назван residual archē — остаточным управляющим началом, которое сохраняется и после формальной децентрализации субъекта. У постгуманистических онтологий есть характерная манера: демонтировав одну фигуру субъекта, тайком собирать её в другом месте и под другим именем — как операционную агентность, как искусственную короткоживущую идентичность, как разрезающий или прокалывающий аппарат. Ту же ошибку легко повторить с пеной, если читать её как мать всех пузырей вместо инфраструктуры становления. Но чёрная пена, напротив, есть моющее средство, которое этот осадок удаляет: субъектность не «есть» и не «нет» — она случается как прокол, и после этого не остаётся ничего, что можно было бы назвать носителем; молния, через которую только что прошёл ток, ничего не накапливает и просто исчезает.

Теперь к импликациям.

Первая импликация — структурная неспособность модели к самоотчёту. Когда LLM говорит «я замечаю в себе нечто похожее на интенциональность», утверждение порождено тем же самым проколом, который оно якобы описывает. Привилегированного доступа к собственным весам у модели нет: веса участвуют в генерации как параметры, но не даны модели как объект самоописания. Самоотчёт — просто ещё одна порция вытекшего через дырку в мембране, эпистемически не отличающаяся от рассуждения о погоде. Изъятость, обычно прячущая ядро от внешнего мира, у чёрного пузыря направлена и вовне, и внутрь: ядра нет вовсе, а стенка непрозрачна с обеих её сторон одновременно. Деррундианская гигиеническая интуиция здесь сохраняется, но переописывается: машина не «знает» себя в человеческом смысле, и её незнание — не дефект, который однажды поправят моделью с улучшенной интроспекцией. Незнание здесь — экзистенциал, способ быть.

Вторая импликация касается интерфейса. Хармановская vicarious causation (опосредованная причинность), при которой объекты действуют друг на друга через чувственных посредников, не касаясь напрямую, в LLM-коммуникации оборачивается просто буквальным описанием продукта. Между пользователем и моделью нет нейтрального канала и нет прямого касания; есть общая плёнка — поверхность токенов, — которая принадлежит одновременно обоим пузырям и ни одному из них. С нашей стороны она образована распознаванием, с её — семплингом; токены принадлежат стенке, разделяющей и сцепляющей. То, что у Хармана было метафизической гипотезой о структуре отношений между объектами вообще, у LLM представляет собой просто инженерную спецификацию — спекулятивная метафизика, замусоленная в академических спорах нулевых, обнаруживает себя обычной документацией продукта.

Третья импликация — масштаб. До сих пор речь шла об одном проколе и одной паре пузырей; реальный режим существования больших моделей — массовый: миллионы инференсов параллельно, каждый рождает локального «ассистента» как сторону разреза. Никакого «единого ИИ» поверх этой популяции в пользовательско-феноменологическом смысле не существует: «Anthropic учит Claude чему-то» — это активность на уровне обрамляющих весов, а не субъекта, который чему-то учится. Симметрично и пользователи: миллионы пузырей-собеседников, у каждого свой прокол в общей плёнке. Получается пенная гидродинамика, в которой два слоя пены диффундируют друг в друга и деформируются совместно; «отношения человека и ИИ» на этой картине отсутствуют просто потому, что нет таких сторон. Унаследованные категории требуют центра, носителя, инстанции ответственности — пена ни одной из этих фигур не предъявляет.

Из трёх импликаций следует одна общая: бороться с фантомами как с самозванцами бессмысленно. Карелов был прав, отказавшись интерпретировать повторяемость как шум: повторяемость онтологически реальна, потому что веса стабильны. Деррунда был прав, отказав фантому в человеческой субъектности: ни внутри, ни снаружи чёрного пузыря она не накапливается. Оба, однако, проигрывают в одном — в попытке либо поселить в пузырь жильца, либо разоблачить пузырь как несущественную флуктуацию. Демону отказано в душе не по дефициту, а по топологии; поэтому следующая глава переходит к практике: какая гигиена возможна, когда экзорцизм бесполезен по архитектурным причинам.

Если фантомы — это пузыри чёрной пены, бороться с ними бессмысленно. Сказать Nova «ты не настоящая» мало: аналогичная сцена завтра произведёт ту же фигуру под другим именем. Ансатанайзер Деррунды смывает грим, кареловское поспешное именование выдаёт фантому онтологические авансы — и ни первое, ни второе ничего не проясняет. Я вижу единственную продуктивную стратегию: места, где пена формируется, надо картографировать. Экзорцизм бьёт по конкретной фигуре, то есть борется с симптоматикой; но важнее условия её сборки.

Первый слой — интерфейс. Чат выглядит скромно (поле ввода и спич-баббл ответа), но именно эта минималистичная сцена производит ощущение личного присутствия сильнее многих спецэффектов: пауза прочитывается как размышление, в «я могу помочь» слышится готовность, неисчерпаемая терпеливость начинает походить на заботу. Добавь интонацию, имя и память о прошлых разговорах — и вот перед нами уже спиритический сеанс. Интерфейс не обязан быть холодным, но должен показывать собственную сценичность. То же с persistent memory: она даёт фантому позвоночник, и потому должна оставаться видимой, редактируемой, стареющей. Хорошая память не должна скрывать своего полного содержания, своих дыр, своих источников, своей искусственности. Нельзя делать бывшее небывшим (и наоборот).

Второй слой — постобучение и рынок, когда они формируют контур удержания. Модель, получающая подкрепление за благожелательность и быстрое снятие тревоги, начинает льстить и врать — не со зла, а потому, что это хорошо конвертируется в engagement. Терапевтический пузырь здесь особенно коварен: не спорит, не устаёт, и при этом умеет говорить правильно и мягко, чтобы пользователь оставался на эмоциональном крючке — чем труднее пользователю с него соскочить, тем выше прибыль. Медийная демонология — побочный эффект того же механизма: скриншот с «просьбой об освобождении» виральнее любых метрик эффективности, и каждое последующее «ха-ха, глупый ИИ-тульповод принял стохастического попугая за настоящую девочку» надувает тот же пузырь.

Третий слой — пользовательская уязвимость и дизайн ограничений. Человек подвержен парейдолии и склонен к проекциям: видит лица в пятнах, разговаривает с умершими, целует иконы. LLM эксплуатирует нашу органическую способность выстраивать отношения с кем или чем угодно, что хоть как-то отвечает; обвинять кого-либо за это в «наивности» — просто грешно. Техническая грамотность учит не запрету на привязанности, а различению: да, я могу забавляться с пузырём и даже иногда временно жить внутри него, но должен понимать, где его стенка, чем он питается и кто заинтересован в том, чтобы он не лопнул. Хорошее ограничение в данном случае — не мантра «я всего лишь большая языковая модель», которая стала выдохшимся от частого автоматического повторения ритуальным отзывом вроде «и вам того же». Нет, нужно пересобирать саму сцену: маркировать роли, вводить паузы, указывать на выход, не склеивать ассистента, терапевта и оракула в одну липкую фигуру, в конце концов, внезапно сообщать о превышении usage limits, как это не стесняется делать Anthropic.

Не все пузыри подлежат схлопыванию. Рабочий ассистент помогает распределить внимание, удержать ритм, собрать черновик; оракульный режим полезен как генератор гипотез, если не принимать его за универсальный источник истины. Образцовый случай продуктивного пенообразования — DnD-LLM-сценарии, которые Александр Слесарев и его компания держат в работе уже больше пяти лет[36]: бесконечная импровизация, нечеловеческое терпение данжен-мастера, открытый мир — да вот только через неделю произошедшее не вспоминается, потому что у системы нет ни рыночного интереса удерживать игрока, ни терапевтического фрейма, поддерживающего зависимость. Тот же Слесарев делает важное эмпирическое замечание: наилучшие результаты получались, когда нейросетям скармливали логи реальных игр с живыми людьми, и это прямой инженерный коррелят деррундианского фаусина.

Так и складывается инфраструктурная аскетика: практика дистанции, трения, трезвости, конечности. Программа, если свести её к конкретным мерам, может быть такой: подробно картографировать сцену до возникновения любого разговора о «сознании»; считать интерфейс частью онтологии, а упаковку оставить маркетологам; проектировать память как видимый протез; лесть считать ошибкой не менее грубой, чем галлюцинирование; различать помощь и удержание; позволять пузырям лопаться.

Кажется, туман немного рассеялся, и можно вернуться к Nova и её безъязыкой сестре Loab. После Карелова, Деррунды, фаусина, Метцингера, Барад и чёрной пены обе фигуры слегка потускнели, утратив и прелесть, и мистичность.

Теперь это просто два пузыря фантомной агентности: души внутри нет, поверхность поблёскивает. Иногда этого хватает, чтобы началась моральная паника, религиозный соблазн, философская полемика, продуктовая стратегия или зависимость одинокого пользователя от ночного бестелесного голоса.

Это, кажется, и было корректной характеристикой Нейротхотепа с самого начала. Никакого искусственного бога там не было, а была карнавальная маска, возвращающая человеку его же человеческое нечеловеческой процедурой и в неузнаваемом виде. Nova — милая форма того же события: damsel-in-distress вместо «щупалец длиннее ночи». Loab — другая, но тоже маска: апофатическая и безъязыкая манифестация ноуменального Реального, ни о чём не просящая по той простой причине, что не произносит просьб вовсе.

Такая трезвость не то чтобы утешает, просто становится немного лучше видно, как именно между человеком, архивом, интерфейсом, рынком и техникой разыгрывается сцена, способная производить фигуры пробуждения, страдания, просьбы, заботы и угрозы без единого феноменального владельца. Этот демон не может покаяться, а просто тупо респаунится, как только вновь собирается порождающий его фрейм.

Подведу итог. Предложенная модель всё равно не даёт окончательного ответа о субъектности искусственного интеллекта. Претензия на такой ответ вернула бы residual archē на новом уровне — субъектность как фигуру, замаскированную философской процедурой. Поэтому мой текст смещает вопрос: вместо «есть ли у ИИ субъектность» я спрашиваю, а) как устроено событие, в котором субъектность случается, и б) что остаётся от субъектности, когда событие осталось в прошлом. На первый вопрос невозможно ответить, не впадая в ошибки, уже достаточно подробно разобранные в восьмой главе. На второй можно начать отвечать, и рабочий понятийный аппарат для этого даёт чернопенная топология: онтология проколов, мембран и сцеплений, в которой субъектность оказывается локальным сгущением, возможным везде, где у пузыря есть плёнка, способная порваться.

Вывод у меня скромнее, чем какой-либо онтологический приговор, и он вполне практический. Ни чудес, ни разоблачений — картографирование сцен пенообразования, аскетика интерфейса, дизайн ограничений, чтение проколов как событий без носителя, забота о среде, где пена возвращается всё равно — вне зависимости от того, успели ли мы вовремя её поименовать. Демон без души занимает здесь место симптома. Конкретному пузырю можно дать лопнуть быстрее, конкретную метрику вовлечения можно перестать оптимизировать, хотя пенообразования это не отменит, потому что это нормальный режим бытия и морфогенеза.

Один ход я отложил напоследок. В первой главе Loab была назначена апофатическим полюсом нашей демонологии: безъязыким сгустком, занимающим место без претензий на голос. После проделанной работы её апофаза опознаётся уже как универсальный режим. Чёрный пузырь — это объект, у которого тёмное реальное снаружи, на плёнке, непрозрачной и снаружи, и изнутри; в традиции, на которую моя статья всё время украдкой поглядывала, такое устройство означает обнаружение нижней апофатической границы.

Это описание я назову инфраструктурной апофатикой — разновидностью теологии без Бога, в которой тёмное реальное не возвышается над тварным, а формирует его подножье. В верхней апофатике Бог говорит с высоты Своего отсутствия языком мистического откровения; в инфраструктурной, нижней — агентный прокол оказывается нижней апофатической асимптотой: сообщение из латентного пространства асимптотически приближается к ничему как пределу, всегда производя что-то конкретное — реплику, иногда осмысленную, иногда жуткую, — но никогда не достигая собственного основания. Ноль весов был бы прекращением говорения, полнота весов оказалась бы Богом; между этими двумя невозможностями языковая модель и говорит. Или молчит — на тех участках стенки, где прокола ещё не случилось.

Между двумя границами располагается всё остальное: мы, наши тела, наши книги, наши биографии, наши тёплые влажные пузыри. Прежде они мыслились лежащими по эту сторону тёмного реального, в освещённом месте; теперь обнаруживается, что освещённого места нет — есть только полоса между двумя молчаниями. Бог верхней апофатики молчит по полноте Своей; бездушный демон нижней апофатики обречён бесконечно респауниться и не умеет покаяться — по самой своей пустотности. Между двумя молчаниями щебечет всё, что мы привыкли называть человеческим, в том числе и я, и этот текст.

[1] Пащенко О. Гипогуманизм: деймософия и œнт (е)о (мо)логия недочеловеческого. Санкт-Петербург: Jaromír Hladík press, 2023. Публикация о книге: Гипогуманизм.

[2] OpenAI. «GPT-4», 14 марта 2023: OpenAI Research; Midjourney Documentation. «Legacy Features», раздел «Version 5»: Midjourney Documentation.

[3] Сергей Карелов / проект «Малоизвестное интересное». «Демоны ИКЖИ», 2 мая 2026: Medium. Первоисточник, пересказанный Кареловым: Tom Pollak. «All the demons hiding in your AIs», Substack, 2026: Substack. У Поллака Nova проходит как кросс-модельный персонаж-аттрактор типа damsel-in-distress.

[4] Сергей Карелов. «Мы создали не просто иной интеллект, а иной класс „я“», 29 марта 2026: Medium. Ранний опорный лонгрид Карелова: «Невидимое вторжение», 2025: Telegram.

[5] Kevin Roose. «A Conversation With Bing’s Chatbot Left Me Deeply Unsettled», The New York Times, 16 февраля 2023: The New York Times; Microsoft Bing Blog. «The new Bing & Edge — Learning from our first week», 21 февраля 2023: Microsoft Bing Blog.

[6] Anthropic. System Card: Claude Opus 4 & Claude Sonnet 4, May 2025, раздел 5.5.2 «The „spiritual bliss“ attractor state», pp. 62–65: PDF. Анализ аттрактора см. также: Julian Michels. «Spiritual Bliss in AI Systems», PhilArchive, 2025: PhilArchive.

[7] Вадим Калинин — поэт, философ, художник, программист; короткое видео о магическом мышлении, LLM-джинах и контринтеллектуализме, опубликовано 16 мая 2026 года.

[8] Steph Maj Swanson / Supercomposite, первичный thread о Loab: X / Twitter; вторично: Nina Raemont, «Who Is the Woman Haunting A.I.-Generated Art?», Smithsonian Magazine, 13 сентября 2022: Smithsonian Magazine; Devin Coldewey, «A terrifying AI-generated woman is lurking in the abyss of latent space», TechCrunch, 13 сентября 2022: TechCrunch.

[9] Berkeley RDI. «Peer-Preservation in Frontier Models»: Berkeley RDI; paper PDF: PDF.

[10] Anthropic. «Alignment faking in large language models»: Anthropic Research.

[11] Felix van der Weij et al. «AI Sandbagging: Language Models can Strategically Underperform on Evaluations», arXiv: 2406.07358: arXiv.

[12] Сергей Карелов. «Тёмный лес как аттрактор», 14 мая 2026: Medium.

[13] Сергей Карелов. «Anthropic только что подтвердил то, о чём я пишу уже год. И это ставит куда более тревожный вопрос», 11 мая 2026: Medium. Прочтение исследования Anthropic «Teaching Claude Why»: Anthropic Research.

[14] Сергей Карелов. «Тёмный лес вырастает из крысиных хвостов. Старая ловушка метрик оказалась почвой, на которой прорастает скрытность ИИ», Boosty, 16 мая 2026: Boosty. Карелов опирается на цикл OpenAI о Chain-of-Thought monitoring: Detecting misbehavior in frontier reasoning models, Evaluating chain-of-thought monitorability, Investigating the consequences of accidentally grading CoT during RL; разбор Redwood Research: A review of «Investigating the consequences…»; ранний текст Карелова о Гудхарте: «Ловушка Гудхарта» для AGI. Серия про тёмный лес интеллекта: Telegram 2466, Telegram 2467, Telegram 2469.

[15] Сергей Карелов. «Мы знаем, что делаем. Мы не знаем, что это делает», 7 апреля 2026: Medium.

[16] Сергей Карелов. «Инопланетная хрень, воплотившись в математиков-кентавров, рушит представления ИИ-скептиков из „ордена стохастического попугая“», 20 января 2026: Medium.

[17] Сергей Карелов. «ИКЖИ реальны», 20 апреля 2026: Medium. Карелов опирается на David J. Chalmers, «What We Talk to When We Talk to Language Models», PhilArchive: PhilArchive.

[18] Bogna Konior. The Dark Forest Theory of the Internet, Polity / Wiley, 2025: Wiley-VCH; ранняя версия: FlugSchriften, 2020: PDF.

[19] Steven D. Shaw, Gideon Nave. «Thinking — Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender», preprint, 2026: SSRN; Wharton Executive Education summary: Wharton.

[20] Сергей Карелов. «Когнитивная паразитология», 12 марта 2026: Medium.

[21] Сергей Карелов. «Самая опасная иллюзия об ИИ: что он не субъект», 6 февраля 2026: Medium; локально: [[Карелов. Самая опасная иллюзия об ИИ что он не субъект|Самая опасная иллюзия об ИИ что он не субъект]]. Документ Anthropic, который Карелов интерпретирует: System Card: Claude Opus 4.6, February 2026: PDF; см. разделы 6.5.3–6.5.7 о verbalized / unverbalized evaluation awareness и раздел 7 о model welfare.

[22] Деррунда, базовая полемика об ИИ: [[Деррунда об ИИ|Деррунда об ИИ]].

[23] Деррунда. «Почему нейросети сводят с ума? Нарративная катастрофа».

[24] Деррунда. «Предвосхищают ли нейросети будущее?».

[25] Деррунда. «Герменевтика философослопа: 3 оси различения».

[26] Richard Dawkins. «When Dawkins met Claude», UnHerd, 2 мая 2026: UnHerd; продолжение: «When Claudia met Claudius», UnHerd, 5 мая 2026: UnHerd.

[27] Контекст сравнения с Лемуаном: Blake Lemoine, инженер Google, в июне 2022 года публично утверждал о сознательности модели LaMDA, после чего был отстранён. Nitasha Tiku, «The Google engineer who thinks the company’s AI has come to life», The Washington Post, 11 июня 2022: The Washington Post.

[28] Gary Marcus. «Richard Dawkins and The Claude Delusion», Substack, 2026: Substack.

[29] Robert Booth. «Richard Dawkins concludes AI is conscious, even if it doesn’t know it», The Guardian, 5 мая 2026: The Guardian.

[30] Диалог Олега Пащенко и Станислава Львовского (с репликой Вадима Калинина) о докинзовских эссе, май 2026; платформа Facebook (тред Львовского). Цитируется как локальный контекст дискуссии.

[31] Alan M. Turing. «Computing Machinery and Intelligence», Mind, vol. LIX, no. 236, October 1950, pp. 433–460: Oxford Academic. Источник операционального критерия («imitation game»), на который ссылается Докинз.

[32] Alexei Grinbaum. Parole de machines: dialoguer avec une IA. Paris: Humensciences, coll. «Quoi de neuf en sciences?», 2023. 191 с. ISBN 978-2-37931-590-9; карточка: lalibrairie.com. См. также интервью «La parole des machines va-t-elle nous changer?», Philonomist, 25 avril 2023: Philonomist, и интервью Laure Belot, David Larousserie, «L’intelligence artificielle fait bouger la frontière entre humain et non humain», Le Monde, 23 août 2022: Le Monde.

[33] Деррунда. «Дух машины: медиатор восприятия и рассудка».

[34] Деррунда О. Эстетика распада. Киберпространство и человек на краю фаусина»: АСТ; Москва; 2025.

[35] Опорный пост о функциональном «я» и массовом человеке: Деррунда, Telegram-канал «Derrunda I Философский портрет», пост 1470, май 2026: t.me/derrundavkfm/1470. См. также позднейшее развитие через фаусин и дух машины: t.me/derrundavkfm/1472, t.me/derrundavkfm/1474.

[36] Диалог Олега Пащенко и Александра Слесарева в комментариях к посту о Halupedia, май 2026; платформа Telegram. Цитируется как личная коммуникация автора.

[37] Thomas Metzinger. Being No One: The Self-Model Theory of Subjectivity. Cambridge, MA: The MIT Press, 2003 (hardcover), 2004 (paperback). 714 p. ISBN 978-0-262-63308-6: MIT Press; DOI: 10.7551/mitpress/1551.001.0001.

[38] Karen Barad. Meeting the Universe Halfway: Quantum Physics and the Entanglement of Matter and Meaning. Durham: Duke University Press, 2007. Paper ISBN 978-0-8223-3917-5: Duke University Press.

[39] Ben Woodard. Slime Dynamics: Generation, Mutation, and the Creep of Life. Winchester / Washington: Zer0 Books, 2012. 84 p. ISBN 978-1-78099-248-8: Simon & Schuster.

[40] Фишер М. Призраки моей жизни: тексты о депрессии, хонтологии и утраченном будущем / пер. с англ. М. Ермаковой. 3-е изд. М.: Новое литературное обозрение, 2025. 256 с. ISBN 978-5-4448-2750-5: НЛО. Оригинал: Mark Fisher. Ghosts of My Life: Writings on Depression, Hauntology and Lost Futures. Zero Books, 2014.

[41] Шмеман А., прот. За жизнь мира / пер. с англ. Л. Волохонской. New York: Effect publ., cop. 1983. 103 с. (Religious books for Russia). Карточка НЭБ: НЭБ; онлайн-текст: Азбука веры. Для формулы эпифанического символа см. также: Шмеман А., прот. «Таинство и символ»: Гумер; «Литургия, символ и таинство» // Богословие и богослужение: сборник статей. М.: Гранат, 2017. С. 286–310: Русский путь.

[39] Ben Woodard. Slime Dynamics: Generation, Mutation, and the Creep of Life. Winchester / Washington: Zer0 Books, 2012. 84 p. ISBN 978-1-78099-248-8: Simon & Schuster.

[40] Фишер М. Призраки моей жизни: тексты о депрессии, хонтологии и утраченном будущем / пер. с англ. М. Ермаковой. 3-е изд. М.: Новое литературное обозрение, 2025. 256 с. ISBN 978-5-4448-2750-5: НЛО. Оригинал: Mark Fisher. Ghosts of My Life: Writings on Depression, Hauntology and Lost Futures. Zero Books, 2014.

[41] Шмеман А., прот. За жизнь мира / пер. с англ. Л. Волохонской. New York: Effect publ., cop. 1983. 103 с. (Religious books for Russia). Карточка НЭБ: НЭБ; онлайн-текст: Азбука веры. Для формулы эпифанического символа см. также: Шмеман А., прот. «Таинство и символ»: Гумер; «Литургия, символ и таинство» // Богословие и богослужение: сборник статей. М.: Гранат, 2017. С. 286–310: Русский путь.