Модель соврёт — контрагент уйдёт
Модель врёт нам — мы перестаём доверять друг другу. Как не потерять контрагента из-за пересылки LLM-выдачи.
Модель врёт нам — мы перестаём доверять друг другу.
Рёбра некомпетентности
На границе знаний модель не говорит «не знаю» — она генерирует уверенный текст в пустоту. Проблема в том, что такие границы — рёбра некомпетентности — есть и у модели, и у тебя. И они не совпадают.
Где модель некомпетентна — она врёт. Где некомпетентен ты — ты не замечаешь враньё. На пересечении этих рёбер ты берёшь её враньё и пересылаешь дальше — сантехнику, поставщику, партнёру. Как своё.
Доверие как валюта
Я тебе плачу — ты мне делаешь. Вся деловая коммуникация построена на этом. Вообще весь капитализм на этом построен.
Текст от модели, пересланный без проверки, ломает это правило. Контрагент не знает, что ты использовал модель. Он видит письмо от твоего имени, в котором факты не бьются. Одно такое письмо — и он молча записывает тебя в неадекваты: перепроверяет всё, что ты присылаешь, и уже не воспринимает всерьёз. Скандала не будет — ты уже за сценой.
Проверка людей моделью
Работает и в обратную сторону. Ответ сантехника или поставщика теперь проверяют моделью. Там, где у модели ребро некомпетентности, она уверенно опровергнет правильный ответ — и человек, который сказал правду, выглядит лжецом. Так молодёжь привыкает не верить людям, с которыми работает.
Фильтр перед отправкой
Между выдачей модели и кнопкой «Отправить» должен стоять ты:
- Факт — по первоисточнику. Не по другой модели, не по памяти.
- Не можешь защитить голосом — не отправляй. Если контрагент позвонит и спросит «откуда эта цифра?», а ты сможешь сказать только «модель так написала» — ты сдал собственную компетентность.
- Не редактируй — перепиши. Модельный текст после косметических правок всё равно звучит как машинный. Работает только полный пересказ своими словами.