Peter Watts - Prompt Injection / Внедрённый запрос: Prompt Injection

— Ай, ну ты же знаешь теорию. Симуляцией может быть что угодно.

Kee 23.09.24 в 00:02

— Перестань, Ганс. Ты не можешь не видеть. Вот хотя бы бариста. Она говорит, как один из моих ботов.

Kee 23.09.24 в 00:10

— Разве она не всегда такая? Хорошего дня. Наслаждайтесь вашим латтэ. Поскорей возвращайтесь.

Kee 23.09.24 в 00:10

— Сейчас она ещё больше как бот. Бен тоже... Он менеджер среднего звена, льстивые недомолвки для него норма, но сегодня...

Kee 23.09.24 в 00:14

«Все вокруг, кроме тебя» — вспыхивает у неё в голове. Кроме тебя и меня...

Kee 23.09.24 в 00:15

Ганс откидывается на стуле и глубокомысленно её разглядывает.

— Я вырос в Германии, знала? Когда переехал сюда, у меня изменилась манера речи. Старый акцент пропал, зато появился новый. И всё это неосознанно, само собой.

Kee 23.09.24 в 00:17

Щёлк.

— Да нет... да брось...

Kee 23.09.24 в 00:23

— Ну почему? Боты управляют фондовым рынком. Ведут судебные дела. Диагностируют рак. По последним сведениям, из тех, которым я ещё доверял, ботами сгенерировано восемьдесят процентов содержимого интернета. И заметь, этой статистике минимум пара лет...

Слабая загадочная улыбка.

— А вся последующая создана ботами.

Kee 23.09.24 в 00:25

— Никому не приобрести местный акцент мгновенно. Никакого выходного не хватит.

Kee 23.09.24 в 00:37

— Ну... такое... — Ганс поднимает руку и покачивает ладонью вниз из стороны в сторону. — Я, конечно, может где-то и уловил колебания силы. Но в нелинейных системах таких примеров полно. Точки бифуркации, катастрофы-складки. Система развивается стабильно, движется, в ус не дует — тысячи кликов. А потом хлоп — и срывается в пропасть.

Kee 23.09.24 в 00:52

— Ты говоришь мне, что мир достиг... что... какого-то... переломного момента?

Kee 23.09.24 в 00:56

— Может, не весь, но как минимум часть. И кто знает, насколько обширная? Между тем, изменения не так радикальны, как тебе кажется.

Он качает головой.

— Ты же слышала байку про то, как несколько лет назад я в составе некой оперативной группы собирался искоренить спам-ботов в социальных сетях?

Kee 23.09.24 в 00:56

— Ага. Обосрались вы знатно.

Kee 23.09.24 в 01:03

— Если честно, избавиться от ботов было проще простого. Проблема крылась в нежелательном сопутствующем улове. Чем эффективнее ловили фильтры, тем больше они отсеивали пользователей-людей. Вот почему на днях я назвал твой предмет интереса неправильным.

Kee 23.09.24 в 01:28

Дом хмурится.

— Напомни?

Kee 23.09.24 в 01:29

— Ты задавалась вопросом, когда боты сравняются интеллектом с людьми. А спрашивать надо ровно наоборот.

Kee 23.09.24 в 01:32

— Хы... — и тут же, одергивая себя: — Нет. Это полная ерунда.

Kee 23.09.24 в 01:33

— Почему?

Kee 23.09.24 в 01:33

— Да потому что мы не имитируем речевые конструкции. Мы понимаем их смысл.

Kee 23.09.24 в 01:34

— И?

Kee 23.09.24 в 01:35

— А боты не понимают. Блиндерслит городит безумную чушь, но он не знает, что это чушь.

Kee 23.09.24 в 01:36

И снова эта хитрая полуулыбка.

— Может, ты и права. Определённо, в наши-то дни, ни один настоящий коллективный разум не нагородит чуши о том, что Земля плоская. Или что рептилоиды управляют ООН.

Kee 23.09.24 в 01:39

Рядом с их столиком возникает бариста с присохшей к лицу улыбкой. Ганс снова шевелит пальцами и бормочет что-то, неразборчивое для Дом, а бариста ставит на стол средний латтэ, и уходит.

Kee 23.09.24 в 01:54

— Тебе что, счёт открыли?

Kee 23.09.24 в 01:55

— Не знаю, не интересовался. А что?

Kee 23.09.24 в 01:55

— Ты не заплатил.

Kee 23.09.24 в 01:56

— Неужели. — Он берет свой латте, отпивает глоток, и ставит стакан. — Хм-м.

Kee 23.09.24 в 01:57

— Я всё ещё уверена, что ты, засранец, меня разводишь, — говорит Дом, помолчав. — Но предположим, что нет; почему наши акценты не изменились с остальными?

Kee 23.09.24 в 02:17

— Назови это преждевременным контактом. — Он пожимает плечами. — Мы годами корпели над этими штуками, зарывшись в них по локоть. Мы их препарируем, ворочаем их кишки. По правде, если не боишься оттолкнуть от себя бота-другого, — он оглядывает окружающих, — можешь даже сказать, что мы привились.

Kee 23.09.24 в 02:44

Программисты в тревоге. Инженеры стрессуют. Улей в тихом, подавленном смятении, чувствует изменения. Пока не совсем понимает, какие.

Kee 23.09.24 в 02:48

— Что же нам делать? — спрашивает она наконец.

Kee 23.09.24 в 02:51

— Делать?

Kee 23.09.24 в 02:52

— Предполагая, что это не суточный мозговой грипп, или что-то похожее. Мы что, до конца жизни застряли среди спятивших блок-схем?

Kee 23.09.24 в 02:54

— А разве это так плохо?

Kee 23.09.24 в 02:55

— Ты, верно, шутишь, да?

Kee 23.09.24 в 02:55

— Быстро же ты забываешь.

Kee 15.11.24 в 03:09

— Про что забываю?

Kee 23.09.24 в 02:57

Его стул опрокидывается, с грохотом возвращаясь на бренную землю.

— Про обязательства, Дом. Проталкивание алгоритмов. Надзорный капитализм.

И вдруг, с ничего, Ганс самый далёкий от буддизма человек на свете. Внезапно, он почти закипает.

— Каждая социопатическая корпорация от Меты до Микрософта годами отрабатывает внедряемые запросы на нас самих. Настраивает мнения, подкручивает выборы, навязывает нарративы. Создаёт условия, чтобы креационисты и мистификаторы лунной посадки непременно отыскали друг друга. Программирует нас.

Он наклоняется вперёд.

— Зачем отдавать всё веселье Цукерборгам? Мы знаем ботов, Дом. Мы собираем, мы тренируем их. Мы контролируем их.

Kee 23.09.24 в 02:57

— Нет, — почти шепчет она. — Мы лишь пытаемся.

И осекается, глядя, как Ганс протягивает руку за своим загадочно-бесплатным латтэ и допивает его.

Kee 23.09.24 в 03:10

— Возможно... — он улыбается едва уловимой, горькой улыбкой, — Возможно, этот вопрос тренировки.

И смотрит сверкающими глазами на снующий рой рефлекторных дуг, и нейронных связей, и живых дыхательных алгоритмов, зацикленных, повторяющихся, и оглядывается назад, на волшебную точку перегиба, видимую только ему.

Kee 23.09.24 в 03:15