Microservices Thoughts

Рандомный пример применения ллмок в жизни: 1. Скачиваем весь контент тг канала через @ToCsvBot 2. Закидываем csv-шку в chatgpt и просим проанализировать контент Я автор телеграм канал про бэкенд. Прикрепляю csv файл с контентом канала и метриками постов Твоя задача: 1. Выделить названия постов. Название поста обычно находится в первом абзаце и выделено жирным шрифтом (окружено символами "**") 2. На основе названий с помощью LLM выделить набор тематик 3. Построить графики, которые покажут как тем...

Про Стратоплан и менеджмент pt.2 Во время обучения у меня все чаще возникает мысль "блин, ну это же и так понятно". А потом ударяешься лицом об реальность)) Поэтому я все сильнее склоняюсь к мысли, что сами концепции менеджмента максимально простые, понятные и даже очевидные, а основной скилл — это уметь не забывать про эти концепции на практике + аккуратно учитывать человеческий/организацонный/политический контекст. Из этого простой вывод — голое изучение теории даст примерно 0 пользы (в о...

Как разобраться в новой кодовой базе По просьбе https://t.me/MicroservicesThoughts/213?comment=2217 Представим, что нам нужно сделать фичу в сервисе, про который мы примерно знаем, чем он занимается, но код в нем отродясь не писали Думаю с опытом у каждого вырабатывается свой подход, поэтому ниже субъективщина, как разбираюсь в новом сервисе я (зачастую неосознанно) 1. Посмотреть что снаружи Обычно сервис живет в рамках какого-то bounded context-а, где он закрывает определенную задачу Например: ...

Нагруженные счетчики на postgres Недавно смотрел доклад и наткнулся на интересный хак Есть классическая таблица со счетчиками create table counters ( id int primary key, cnt bigint ); И обновлениями по id update counters set cnt = cnt + 1 where id = ... Если нагрузка небольшая или размазана по счетчикам с разными id, все будет ок. При этом если начнется массовый поток апдейтов на небольшой набор каунтеров, будут интересные спецэффекты: • как известно, update физически не обновляет строку, а созд...

Внезапный пост — ищу разработчика https://yandex.ru/jobs/vacancies/razrabotchik-bekenda-v-infrastrukturu-klientskogo-servisa-yandex-crowd-40028 Без автоматизации не получить эффективный клиентский сервис. Мы как раз занимаемся разработкой low-code платформы для автоматизации поддержки: тысячи workflow, миллионы запусков в день, ML-классификаторы, RAG и вот это всё Сейчас у нас большие продуктовые планы и одновременно большая свобода, поэтому ищем сильного senior разработчика-техлида, которы...

Всегда было интересно, как AI Overview в гугле работает так быстро, и тут наткнулся на статью https://research.google/blog/looking-back-at-speculative-decoding/ Оказалось, что они используют технику speculative decoding В обычном сетапе тяжелая llm генерирует токен за токеном, что может быть слишком долго/дорого. Однако, некоторые токены предсказать довольно просто: • частые слова вроде the, is, of, and, ... • цифры / имена, которые уже были в контексте • повторяющиеся связки слов И идея заключа...

Предновогодний пост Хочу поделиться одной из наиболее релевантных тем для меня за этот год — как не загнуться в новой роли На работе за этот год я побывал в 4х ролях (или почему посты выходят раз в месяц) 1. Лид одной команды бэкендеров 2. Лид всего бэкенда (несколько команд) 3. Лид всего бэкенда + лид vteam по внедрению ml в клиентскую поддержку происходит реорг, который функциональные структуры превращает в кросс-функциональные команды + гильдии 4. Лид гильдии бэкенда + лид vteam + зам св...

Про Стратоплан и менеджмент pt.3 На новогодних закрываю долги по курсу. Очередные 4 занятия: • Основы финансового менеджмента • Построение финмоделей • Бюджетирование • Управление ресурсами Первые два занятия — введение в финансы: как двигаются деньги в компании, основные отчеты (PnL, Cash Flow, Баланс), коэффициенты рентабельности и т.п. Еще из интересного: в эксельке посмотрели на реальные финмодели из прошлой практики преподавателя и попробовали оценить целесообразность в них инвестирова...

Делать ли систему масштабируемой заранее В ответ на https://t.me/MicroservicesThoughts/213?comment=2233 Это вопрос управления рисками. Можно пользоваться простой ментальной моделью: - cost_prepare — стоимость подготовки Сколько нам будет стоить сделать систему масштабируемой заранее - growth_probability — вероятность роста нагрузки Каков шанс, что нагрузка повысится до такого уровня, что текущая архитектура не вывезет - cost_failure — стоимость фейла при внезапном росте нагрузки С...

Yet another пост про то, как победить неопределенность У меня часто возникает ситуация, что задачу вроде понятно как решать, но все равно какой-то сумбур в голове и не понятно, с чего начать Мне помогает такой способ: 1. Взять пункт, который точно придется делать 2. Подумать, что должно быть до него 3. Подумать, что должно быть после него Пример: нужно сделать гайдлайны по написанию тестов в нашей системе Что точно нужно сделать? - написать пример теста Что мне нужно для выполнения этого пункта?...