У меня так сильно горела жопа на этом Мобиусе с их "ИИ, ИИ, ИИ, ИИ, ИИ", что надо собраться с силами и написать более-менее развёрнутый отчёт об этом. А это лучше сделать в блоге. А т.к. я давно собирался мигрировать блог на свой сервер, то пока займусь этим.
Но чтобы не оставлять вас без обещанного, вот лишь пара примеров лишь одного доклада, о котором говорил выше. Чтобы вам было понятно, с чего же я горю.
ВК предоставили полный или практически полный доступ к исходным кодам своих решений моделям, которые развёрнуты не у них. То есть весь код ВК теперь принадлежит США (чьи модели они использовали). Я сначала думал, что они просто взяли готовые модели, взяли ollama и подняли у себя на серверах, на тех самых, которые они ПРОДАЮТ за большие деньги. Но нет, они взяли OpenCode и в нём подключили модели, которые крутятся на серверах в США. Они несколько раз проговорили про стоимость токенов и упомянули, что был риск сожрать весь годовой бюджет, выделенный на покупку токенов. Другими словами системообразующая организация платит деньги, выделенные им из налогов (ВК дотационный, если что) на то, чтобы отдать исходный код своих проектов (на скриншотах был RuStore, созданный под началом Минцифры) не просто недружественной стране, а прям центральной неджруественной.
Давайте проговорим. Наши налоги пошли, чтобы купить на них токены у организации в США. Через которые весь исходный код утёк в США и теперь принадлежит им. При этом для нас - россиян, чьи налоги были на это потрачены - исходники недоступны. И бинари обфусцированы.
Из зала был задан вопрос, а пробовали ли вы дообучить модели на своих примерах, чтобы те меньше галлюцинировали. На что ВК ответили, что нет, это дорого, мы не можем себе такое позволить. Внимание, не можем позволить:
https://cloud.vk.com/docs/ru/ml/mlplatformЭто, кстати, отдельная хохма, вот этот ВК Клауд. Хотите верьте, хотите - нет, но в ВК Клауд нельзя авторизоваться через ВК. Ваша учётная запись ВК не работает в ВК клауд и в ВК Клауд нухно регаться отдельно.
Дабы не допускать падение накала моей жопы, докладчик вещал, как они настроили процессы. Конечный результат таков, что каждый MR (для не программистов - это значит разработчик подготовил новый код и попросил проверить его и, если всё хорошо, влить в общую кодовую базу, чтобы потом выпустить новую версию продукта) проверяется ИИ агентами. У них была длинная борьба с галлюцинациями и некачественным код ревью и этой борьбе был посвящён доклад. ТАК ВООООООООООООТ.
Вы можете понять, ПОЧЕМУ же у них всё было плохо и почему они долго с этим боролись по одному факту.
Докладчик сказал, что OpenCode проверяет конфиги в ~/.config/opencode/. Что, конечно, правда. Но им это не подходит именно на стадии код ревью, т.к. там конфиги, нужные для написания кода (что подводит к совершенно очевидному: код продуктов ВК — это галлюцинации платных моделей, ревью которого — это галлюцинации этих же моделей, но с другими параметрами). Следовательно, нужно как-то подложить другие конфиги.
Чтобы сделали вы? Вот вам варианты действий:
1. используя btrfs делали бы снапшот, удаляли конфиги для кодеров, заливали бы конфиги ревьюверов, проводили ревью и откатывали бы снапшот
2. задавали бы значение для переменной окружения $XDG_CONFIG_HOME, таким образом на время меняя стандартный путь к ~/.config/, чтобы opencode не видел существующие настройки
3. использовали бы переменную окружения $OPENCODE_CONFIG, прямо описанную в документации
4. запускали бы опенкод в контейнере, а конфиг подцепляли пробросом через source:target
ВК выбрал пункт 2. Они реально перед каждым запуском ревью выставляют значение этой переменной, а после ревью удаляют её, возвращая стандартное поведение системы. Документация НА РУССКОМ ЯЗЫКЕ - это не про ВК:
https://opencode.ai/docs/ru/config/Если вам этого мало, то давайте подумаем на ещё такими словами докладчика. Тот упомянул, что БЯМ плохо считают. Это чистая правда. Они не для того созданы. Из-за этого ВК приходилось не сообщать ревью агенту, что изменения произошли в строках таких-то, а прямо указывать "было-стало". И это нормально. Модельке нужно и посмотреть сами изменения, и посмотреть конечный результат в целом.
И через несколько минут этот самый докладчик говорит. "Иногда модель выполняет одно действие несколько раз, хотя в системном промте написано: "Выполни это действие ровно один раз, ни больше ни меньше". Обычно это работает, но иногда это требование игнорируется". Из чего мы можем сделать вывод, что у самого докладчика контекст - где-то пара предложений, потому что он не может понять, а в чём подвох.
Открытым остаётся вопрос, а используется ли этот подход для Макса. Я хотел задать этот вопрос, но слушатели спрашивали всякую хреноту, а я был так сильно впечатлён, что отказался от этого желания. Повлиять на это я всё равно не смогу.
Ну штош, такие дала. Ставь Лойс, если будешь ждать запись в блоге с разбором тех докладов, которые я посетил и с которых у меня сгорела жопа.
ссыль
https://t.me/mydaybug/556
