Хабр

Сколько реально стоит опечатка в раскладке, если считать в токенах LLM

Сколько реально стоит опечатка в раскладке, если считать в токенах LLM

Я написал Зябру - локальный переключатель раскладки: набрал “ghbdtn” вместо “привет”, программа сама стирает и переписывает правильно. Ключевое: она полностью локальная - не пишет набранное на диск, не ведёт журнал клавиш, не трогает буфер обмена и не открывает сеть вообще. В памяти держится только текущее незавершённое слово и одна последняя замена, ничего больше. Пользуюсь каждый день. А недавно задумался: а есть ли от неё реальная польза именно при работе с LLM, или это просто удобство без измеримого эффекта? Решил проверить не на словах, а цифрами - благо под рукой свой локальный Qwen3.8-Flash-Next на Strata.

Идея простая: беру короткие фразы, которые реально мог бы случайно отправить не в той раскладке, и для каждой шлю модели два варианта - как задумано и как получилось бы без Зябры. Без системного промпта, без истории - просто один вопрос в одно сообщение.

Результат неровный и местами пугающий:

Умничка) - 70 ток / 5.4с - 2356 ток / 148с, не расшифровала

Спасибо, то что нужно! - 84 ток / 7.5с - 440 ток / 30с, расшифровала верно

Погнали - 66 ток / 6.2с - 336 ток / 24с, расшифровала верно

На “Evybxrf)” модель реально ушла перебирать ROT13 и шифр Цезаря, потратила почти полторы сотни секунд - и в итоге сдалась, спросив, что я имел в виду. Выглядело как отличный аргумент в пользу Зябры: экономия в десятки раз.

Читать далее

🚀 Ускорьте работу вашего бизнеса

Корпоративный Яндекс Браузер с усиленной защитой данных и встроенными нейросетями. Официальная сборка для юридических лиц и ИП.

Скачать бесплатно