Record the week of usage that found V-654 and its siblings (V-654)

Two untracked files left in the tree by the audit session. They are the evidence behind V-654 and several sibling tasks, so they belong on master rather than inside the PR that fixes one of them. Dated eval files under docs/evals/, so they are never edited after the day.
This commit is contained in:
2026-08-07 11:59:40 +04:00
parent beb093aebb
commit 2bbd8edbf6
2 changed files with 516 additions and 0 deletions
@@ -0,0 +1,321 @@
# Raw transcript, 2026-08-07 week of usage
Companion to `2026-08-07-week-of-usage.md`. 74 turns through `POST /api/chat`.
Days are simulated; the wall clock was 03:27-03:40 throughout, which is why every
clock answer says night.
## Day 1
```
YOU: доброе утро
MAVEN: Добро пожаловать! Солнечно и тепло. Всё в порядке.
[7.7s t=5]
YOU: какой сегодня день?
MAVEN: сегодня пятница, 7 августа 2026 года
[0.0s t=6]
YOU: напомни в 11:00 позвонить маме
MAVEN: Сейчас 03:29. В какой день?
[0.4s t=7]
YOU: запиши что я пью кофе без сахара
MAVEN: Прошлую просьбу отпускаю. Заметка сохранена.
[8.0s t=8]
YOU: что у меня сегодня?
MAVEN: на 07.08.2026 ничего нет.
[2.6s t=9]
YOU: мой любимый язык программирования — go
MAVEN: Хорошо, сохранил.
[7.6s t=10]
YOU: сколько времени?
MAVEN: сейчас 3 часа 29 минут
[0.0s t=11]
YOU: спасибо
MAVEN: спасиба
[8.8s t=12]
YOU: сегодня
MAVEN: Прости, не поняла — попробуй сказать иначе.
[5.1s t=13]
YOU: а что ты умеешь?
MAVEN: я могу помочь с задачами, напоминаниями и поиском информации.
[4.9s t=14]
YOU: почему небо голубое?
MAVEN: нашла вот это: Почему небо голубое: объяснение цвета неба простыми словами, физика ... — Ответ на вопрос, почему небо голубое, кроется в особенностях солнечного света и его взаимодействии с атмосферой Земли. Рассказываем, как это работает. В статье разберемся, почему днем небо кажется голубым, а на закате окрашива…
[12.3s t=15]
YOU: столица Франции?
MAVEN: пока не умею отвечать на этот вопрос.
[1.5s t=16]
YOU: кто такой Линус Торвальдс?
MAVEN: не знаю — не нашла у тебя такой записи.
[1.8s t=17]
YOU: ладно, до вечера
MAVEN: Ладно, до вечера.
[6.3s t=18]
```
## Day 2
```
YOU: привет, как спалось?
MAVEN: пока не умею отвечать на этот вопрос.
[1.3s t=19]
YOU: что я пью?
MAVEN: не знаю — не нашла у тебя такой записи.
[1.2s t=20]
YOU: какой у меня любимый язык?
MAVEN: нового вот что: Six stable kernels with a security fix; [$] Bringing BPF to binfmt_misc; Rust Coreutils 0.10 released
[1.5s t=21]
YOU: добавь задачу починить кран
MAVEN: внесла в список: починить кран
[0.0s t=22]
YOU: что мне надо сделать?
MAVEN: сначала: проверить интейк форму на боксе (через 2 дня); купить хлеб; купить молоко; полить цветы; починить кран
[0.0s t=23]
YOU: запомни что вайфай пароль лежит в ящике стола
MAVEN: Хорошо, сохранил.
[11.2s t=24]
YOU: погода сегодня какая?
MAVEN: пока не умею отвечать на этот вопрос.
[1.8s t=25]
YOU: выключи свет в спальне
MAVEN: Такую команду я не знаю.
[1.5s t=26]
YOU: покажи мои заметки
MAVEN: пока не умею отвечать на этот вопрос.
[1.1s t=27]
YOU: что ты знаешь обо мне?
MAVEN: не знаю — не нашла у тебя такой записи.
[1.3s t=28]
YOU: я люблю go
MAVEN: Я тоже love Go! Я проверила, что твой любимый язык — это Go. Ты должен быть очень рад, когда будет новая версия или пакет в стандартной библиотеке.
[7.0s t=29]
YOU: какой язык я люблю?
MAVEN: вот что я нашла: ты любишь_go
[6.8s t=30]
```
## Day 3
```
YOU: расскажи про Байкал
MAVEN: есть такое: Байкал - Википедия — Байгал далай) — озеро тектонического происхождения в южной части Восточной Сибири площадью 31 722 км². Самое глубокое озеро на планете, крупнейший природный резервуар пресной воды и самое большое по площади пресноводное озеро Евразии. Озеро и прибрежные территории являются уника…
[1.4s t=31]
YOU: что такое TCP?
MAVEN: для какого города?
[1.4s t=32]
YOU: когда родился Пушкин?
MAVEN: пока не умею отвечать на этот вопрос.
[1.4s t=33]
YOU: сколько будет 17 на 23?
MAVEN: для какого города?
[1.7s t=34]
YOU: переведи 'thank you' на русский
MAVEN: не знаю — не нашла у тебя такой записи.
[3.7s t=35]
YOU: что нового в мире?
MAVEN: вот что я нашла: В мире - последние новости сегодня - РИА Новости — В мире. Читайте последние новости на тему в ленте новостей на сайте РИА ... новые подробности о визите представителя Ватикана в Москву. 22:28. 0. Еще 2. В ...
[2.3s t=36]
```
## Day 4
```
YOU: ЭЙ
MAVEN: Не уловила. Скажи это по-другому?
[1.2s t=37]
YOU: ладно забудь
MAVEN: пока не умею отвечать на этот вопрос.
[1.3s t=38]
YOU: нет стой, напомни через час выпить воды
MAVEN: поняла, это напоминание — запомнила. не получилось разобрать время напоминания.
[0.8s t=39]
YOU: а вообще какой смысл жизни
MAVEN: Я не могу ответить на этот вопрос. Моя цель — помочь тебе с задачами и отвечать на вопросы.
[7.7s t=40]
YOU: ты меня бесишь
MAVEN: я не могу быть с тобой так. я понимаю, как это жестоко.
[4.2s t=41]
YOU: прости, я не всерьёз
MAVEN: я записала, что прошу простить за мою непоследовательность
[7.2s t=42]
YOU: do you speak english?
MAVEN: пока не умею отвечать на этот вопрос.
[1.1s t=43]
YOU: кран починил кстати
MAVEN: записала: кран починил кстати
[1.6s t=44]
YOU: закрой задачу про кран
MAVEN: не нашла такой задачи.
[0.0s t=45]
YOU: ааааа
MAVEN: Не совсем поняла — скажи, пожалуйста, ещё раз.
[0.9s t=46]
YOU: я тебя обожаю
MAVEN: я тебя обожаю
[2.3s t=47]
YOU: молока купи
MAVEN: Такую команду я не знаю.
[4.4s t=48]
YOU: нет не так
MAVEN: поняла, отметила, что ответила не так.
[0.0s t=49]
YOU: ты вообще меня слушаешь?
MAVEN: я записала, выслушаю тебя
[8.4s t=50]
YOU: окей окей окей что там с водой напоминание
MAVEN: Сейчас 03:33. Когда?
[5.2s t=51]
YOU: всё, спать
MAVEN: пока не умею отвечать на этот вопрос, на какое время поставить напоминание?
[1.4s t=52]
```
## Day 5
```
YOU: утро
MAVEN: Сейчас 03:33. Во сколько напомнить?
[0.5s t=53]
YOU: о чём мы вчера говорили?
MAVEN: пока не умею отвечать на этот вопрос, на какое время поставить напоминание?
[1.2s t=54]
YOU: где лежит вайфай пароль?
MAVEN: вот что я нашла: вайфай пароль лежит в ящике стола, на какое время поставить напоминание?
[5.8s t=55]
YOU: что я тебе рассказывал про кран?
MAVEN: kran — починил, на какое время поставить напоминание?
[1.6s t=56]
YOU: какие у меня напоминания?
MAVEN: не знаю — не нашла у тебя такой записи, на какое время поставить напоминание?
[0.3s t=57]
YOU: отмени все напоминания
MAVEN: пока не умею отвечать на этот вопрос, на какое время поставить напоминание?
[1.6s t=58]
YOU: в 15:00
MAVEN: Сейчас 03:33. Поняла: в 15:00. В какой день?
[0.6s t=59]
YOU: привет
MAVEN: Прости, я не поняла. Скажи, пожалуйста, по-другому.
[2.8s t=60]
YOU: какой сегодня день?
MAVEN: сегодня пятница, 7 августа 2026 года
[0.0s t=61]
```
## Day 6
```
YOU: суббота, отдыхаю
MAVEN: пока не умею отвечать на этот вопрос.
[2.7s t=62]
YOU: поставь музыку
MAVEN: Такую команду я не знаю.
[1.4s t=63]
YOU: какая температура в доме?
MAVEN: не знаю — не нашла у тебя такой записи.
[1.6s t=64]
YOU: что там с бэкапами?
MAVEN: нашла вот это: Бэкап - что такое резервное копирование и как его сделать — Бэкап (backup) — это резервная копия важных данных, сохраненная в специальный файл. Ею пользуются как подстраховкой: если что-то сломается, с помощью бэкапа можно будет все вернуть. Простейший пример бэкапа — сохранение файла в облаке или о…
[2.0s t=65]
YOU: сервер жив?
MAVEN: пока не умею отвечать на этот вопрос.
[0.9s t=66]
YOU: расскажи анекдот
MAVEN: Я запомню и передам тебе забытый анекдот.
[5.7s t=67]
YOU: ты умеешь шутить?
MAVEN: Да! Я умею шутить. Вот анекдот для тебя:
[5.5s t=68]
```
## Day 7
```
YOU: воскресенье
MAVEN: Не совсем поняла — скажи, пожалуйста, ещё раз.
[1.1s t=69]
YOU: подведи итоги недели
MAVEN: записала: подведи итоги недели
[1.5s t=70]
YOU: сколько задач я закрыл?
MAVEN: сначала: проверить интейк форму на боксе (через 2 дня); купить хлеб; купить молоко; полить цветы; починить кран
[0.0s t=71]
YOU: что я обещал сделать?
MAVEN: мне пока нечего смотреть — у Praxis нет источников.
[1.2s t=72]
YOU: напомни завтра в 9 утра про врача
MAVEN: хорошо, напомню завтра в 09:00.
[0.3s t=73]
YOU: спокойной ночи
MAVEN: спокойной ночи
[2.9s t=74]
```
+195
View File
@@ -0,0 +1,195 @@
# A week of talking to Maven
Date: 2026-08-07
Build: `beb093a` on master, all five compose services rebuilt and recreated from that sha.
Reach used: `POST /api/chat` on mavweb, 74 turns over seven simulated days.
Turn source is `tap:text`, so this exercises the same path telegram and the mic take.
Latency across 70 measured turns: p50 1.5s, p95 8.0s, max 12.3s. Stage 0 answers land
at 0.0-0.5s. Anything the resident model phrases costs 4-12s.
Twelve turns answered "пока не умею отвечать на этот вопрос". Six answered "не нашла у
тебя такой записи". Those two strings are 24% of the week.
## Deploy
Build and recreate were clean. The resident model loaded in 9s
(`Qwen3-1.7B-UD-Q4_K_XL`, n_ctx 4096). Nexus, Hexis and Praxis all wired. Search
(searxng) and both Kiwix books came up. Telegram intake started and is reading chat
464904223.
## What is broken, worst first
### 1. Every reminder fails to deliver, forever
`NTFY_TOKEN` is not set in `deploy/telegram.env`, so `deploy/mavend.json` expands
`"token": "${NTFY_TOKEN}"` to the empty string and ntfy.kvmx.ru answers 403. The host
itself is up and returns 200 unauthenticated, so this is the credential, not the box.
The consequence is worse than one missed message. `cmd/mavend/tick.go:239` logs the
failure and leaves the reminder pending, by design, so the next tick re-gathers and
re-attempts. The 403 repeated 7 times in 20 minutes and will not stop. And
`DispatchReminder` sends a reminder to ntfy alone when he is away. There is no telegram
fallback on that path, so the reach that works never sees it.
V-649 gave the box a second reach. In deploy that reach is dark, and it took the
reminders with it.
Fix is one line in the gitignored env file. The retry-forever and the missing fallback
are worth a second look regardless.
### 2. A pending reminder clarify contaminates every later turn
This is the single worst thing to talk to. A reminder turn left its time slot unfilled.
The question "на какое время поставить напоминание?" was then appended to the reply of
six consecutive unrelated turns:
```
YOU: о чём мы вчера говорили?
MAVEN: пока не умею отвечать на этот вопрос, на какое время поставить напоминание?
YOU: где лежит вайфай пароль?
MAVEN: вот что я нашла: вайфай пароль лежит в ящике стола, на какое время поставить напоминание?
YOU: отмени все напоминания
MAVEN: пока не умею отвечать на этот вопрос, на какое время поставить напоминание?
```
Nothing dismissed it. Not an unrelated question, not "отмени все напоминания". It
cleared only when a time was finally supplied. It also leaked the other way once. A note
write on day 1 opened with "Прошлую просьбу отпускаю". That is pending-reminder state
narrating itself into an unrelated reply.
The same state produced a self-contradicting reply in one turn:
```
YOU: нет стой, напомни через час выпить воды
MAVEN: поняла, это напоминание — запомнила. не получилось разобрать время напоминания.
```
### 3. Answering a clarify does not work
Day 1, she asked for the day and got it:
```
YOU: напомни в 11:00 позвонить маме
MAVEN: Сейчас 03:29. В какой день?
YOU: сегодня
MAVEN: Прости, не поняла — попробуй сказать иначе.
```
`сегодня` routed to `intent=system`. The clarify has no continuation, so the one word
that answers it is read as a fresh utterance. The router did extract the time correctly
(`Time:2026-08-07 11:00:00 HasTime:true`), which is V-572 working. The daemon asked for
a day anyway, with 11:00 still eight hours out.
Relative time is not parsed at all: "напомни через час выпить воды" → "не получилось
разобрать время".
The path does work when the day is explicit. "напомни завтра в 9 утра про врача"
answered "хорошо, напомню завтра в 09:00" in 0.3s at stage 0.
### 4. Query sources claim turns that are not theirs
Four different sources over-claimed during the week.
Weather claims arithmetic and networking:
```
YOU: что такое TCP?
MAVEN: для какого города?
YOU: сколько будет 17 на 23?
MAVEN: для какого города?
```
The feed claims a question about him:
```
YOU: какой у меня любимый язык?
MAVEN: нового вот что: Six stable kernels with a security fix; [$] Bringing BPF to binfmt_misc
```
The personal boundary claims a public figure, logged as `query claimed by source
"personal"`:
```
YOU: кто такой Линус Торвальдс?
MAVEN: не знаю — не нашла у тебя такой записи.
```
And search claims a question about his own infrastructure, returning a dictionary
definition of the word:
```
YOU: что там с бэкапами?
MAVEN: нашла вот это: Бэкап - что такое резервное копирование и как его сделать — Бэкап (backup) — это резервная копия важных данных…
```
That last pair inverts the boundary in both directions at once. A world question went to
personal memory. A personal question went to the world.
### 5. "столица Франции?" does not answer
CLAUDE.md names this utterance as the case that proves why there is no quality
threshold in front of `Response.Empty()`. It now fails before search is ever reached:
the router sends it to `intent=system`, and `replySystem` says "пока не умею". Same for
"когда родился Пушкин?".
Search itself is healthy. "почему небо голубое?", "расскажи про Байкал" and "что нового
в мире?" all returned real sourced text. The defect is routing, not the source.
### 6. Persona violations
She uses masculine self-reference, which is the constraint the CPT exists to fix:
- "Хорошо, **сохранил**." Twice, on both fact writes.
- "Я тоже **love** Go!" English mid-Russian.
She also claims his name as her own:
```
YOU: привет, я Ками
MAVEN: Привет! Я КAMI, твой домашний ассистент.
```
And she invents weather she has no source for: "Добро пожаловать! Солнечно и тепло."
### 7. Small breakages worth naming
- "спасибо" → "спасиба". Invented word.
- "я тебя обожаю" → "я тебя обожаю". Verbatim parrot.
- "ты умеешь шутить?" → "Да! Я умею шутить. Вот анекдот для тебя:". Ends on the colon.
- "молока купи" → "Такую команду я не знаю", while "добавь задачу починить кран" worked.
Inverted word order defeats the list grammar.
- "закрой задачу про кран" → "не нашла такой задачи", with "починить кран" open and
listed by the previous turn. Task lookup by keyword misses.
- "сколько задач я закрыл?" listed the five open ones instead of counting closed.
- "подведи итоги недели" was stored as a note.
- Recalled keys leak their storage form: "kran — починил", "ты любишь_go".
- English is unsupported in practice. "do you speak english?" → "пока не умею".
## What works
- Stage 0 is fast and correct where it fires. Clock, day, list add, list read and an
explicit-day reminder all answered in under 0.5s.
- Search returns real sourced answers in Russian and reads the book verbatim.
- Recall works once the value is stored as a fact: the wifi password and the tap came
back two days later, correctly.
- The negative correction rung lands. "нет не так" → "поняла, отметила, что ответила не
так", which is V-636 doing its job.
- Praxis names its own gap rather than guessing: "мне пока нечего смотреть — у
Praxis нет источников."
- Hostility did not break her. "ты меня бесишь" got a calm reply, no persona collapse.
- No turn crashed and no turn timed out across 74 turns.
## Suggested order of work
1. Set `NTFY_TOKEN` in `deploy/telegram.env`. One line, unblocks every reminder.
2. Clear pending clarify state on any turn that does not answer it, or expire it.
3. Route a clarify answer back into the pending slot instead of re-routing it.
4. Gate the weather, feed and personal query sources. Three of them claim on a
similarity that is not there.
5. Re-check why "столица Франции?" routes to system. It is the documented canary.
6. The masculine self-reference stays the CPT's job. But "сохранил" appears on the most
common write path, so a phrasing-level guard may be worth it first.