Всем привет! На этой неделе с вами @gvsmirnov. Мониторинг, перформанс, тесты, многопоточность, Байесовский Заговор, вот это всё.

Не будем тянуть кота за резину в долгий ящик и начнём с опроса.

Как у вас перформанс?

@backendsecret Всесторонний мониторинг. И не тормозит у нас не потому, что мы молодцы (хотя мы молодцы), а потому, что железа много

Пока около трети проголосовали "не знаю". Спешу вас порадовать: у вас тоже почти наверняка тормозит.

@backendsecret тяжеловато

Типичная история: у компании есть спец. раздел сайта для VIP-клиентов. Добавили мониторинг,оказалось,что там странички по минуте загружаются

Таким образом, плавно (на самом деле не плавно) подходим к теме мониторинга. Те, кто проголосовали "тормозит": а откуда вы знаете?

@backendsecret грепаю максимальное время ответа в access log за последние два часа раз в час.

Топорно, но норм.

@backendsecret newrelic

@backendsecret писал System.out.println и запускал несколько раз в цикле до 10, например :)

Основной Вопрос Моего Существования — "Как сделать так, чтобы не тормозило?". Сегодня мы начнём обсуждать один из возможных вариантов ответа

Первый шаг на пути к перформансу — понять, что вообще значит "тормозит". На этом шаге, кстати, уже случается большинство фэйлов.

Даже если говорить о конечных приложениях (а не, скажем, рантаймах типа JVM), то грамотно определить требования к производительности нелегко

Например, "Странички должны открываться не больше, чем за 5 секунд" — хреновый SLA. Если все будут открываться за 4.99, то это ок?

Правильнее было бы задать допустимое распределение latency, т.е. "в 99% случаев до 10 секунд, в 95% до 5, в 90% до 2 секунд, в 75% до 500мс"

Но это только начало. Конечно же, для разных сервисов должны быть разные требования, в зависимости от важности для бизнеса, например.

@backendsecret есть такая штука как apdex. en.m.wikipedia.org/wiki/Apdex

Чем сильнее пользовательские операции тормозят, тем более вероятно, что они их прервут: plumbr.eu/blog/user-expe… pic.twitter.com/4xyxnshODG

Но не все пользовательские операции одинаково важны. Например, если подтормаживает отправление в архив, то не так уж это и страшно.

При ограниченных ресурсах вряд ли получится оптимизировать вообще всё. Да и кроме перформанса же ещё куча всего есть. Баги, фичи, твиттер.

@backendsecret @ctrlok по-хорошему, SLA должны исходить от стейкхолдеров компании. Однако, они зачастую вообще не знают, что это такое.

Давайте забубеним ещё опрос: есть ли у вас конкретно определённые метрики производительности? За чем следите?

После ланча — самое время немножко рассказать о себе. Я живу в Эстонии и пилю @JavaPlumbr — офигенский мониторинг для jvm-based приложений.

До того жил в Питере и работал Яндексе и Дойче Банке. Много езжу по конференциям с докладами про всякие внутренности java, пишу статьи.

Придерживаюсь альтруистических взглядов и хочу нести добро в мир, занимаюсь спортом, троллирую лалок, люблю мороженое.

Кстати, то, что Эстонцы ооочченнь мееедлееннныеее тооормозаааа — это миф, они очень даже шустрые. В отличие от ваших приложений, хе-хе-хе!

И вообще, Эстония — чудесная страна, очень инновационная, вот это всё. Крайне рекомендую. Но тракторы предлагаю обсудить позже на неделе.

Но достаточно оффтопика. К вам приходит саппорт тикет: у конкретного пользователя что-то конкретное тормозит. Ваши действия?

Открываете лог, а там пикрелейтед. Ваши действия? pic.twitter.com/VN2kOqhCK7

@backendsecret Нужно попробовать воспроизвести окружение пользователя(производительность, канал и т.п.) на локальной машине.

@backendsecret если это веб-приложение, то можно посмотреть в консоли разработчика (F11), какие там DNS Lookup, Initial connection, TTFB

@backendsecret если что-то другое, можно попробовать померять время с помощью tcpdump.

@backendsecret в коде есть включаемый миханизм, который покажет затраченные ресурсы "по функциям"? А сеть посмотреть можно?

@backendsecret как минимум, должен выполняться мониторинг различных участков кода приложения. Это сужает круг поиска проблемы.

@backendsecret ну а ваще, лучше впасть в панику и начать серваки ребутать пачками, конечно и материть одминов и железо :)

@backendsecret 30 секунд - значение tcp таймаута по-умолчанию. Проверяем апстримы.

.@meowthsli только среднее? 😰 Какой критерий того, что нужно что-то чинить?

@ivanenok @backendsecret catb.org/jargon/html/F/…

@backendsecret 90-й перцентиль и максимальное время. Критерий -- вылетело за SLA

Пока выглядит так, что не очень понятно, что делать, если тормозит.

Предлагаю такой простой алгоритм:

Cамая трудоёмкая часть — как раз (2). Вы не одиноки: так считает около 76% людей. downloads.plumbr.eu/survey-results… pic.twitter.com/2DrK659fEg

Дело в том, что пространство возможных причин проблем с производительностью просто огромно, и наивные подходы поиска плохо работают.

Нужна методология.Рекомендую доклад @shipilev на эту тему: jeeconf.com/archive/jeecon… (ru) shipilev.net/talks/devoxx-N… (en) pic.twitter.com/A2XKS0C8sz

С помощью нисходящего подхода вы можете даже в незнакомом приложении сузить пространство поиска до разумного уровня.

Вы начинаете с уровня системы и смотрите на CPU, диск, сеть, память, и так далее. Ваши тормоза где-то там проявятся.

Очень простой пример из мира java: обычно приложение потребляет 20-30% от одного ядра, но иногда грузит все на 100%. Да это же наверняка GC!

Но может и не GC, конечно же. Но такое поведение у опытного инженера сразу повысит вероятность того, что это именно он.

По сути, шаг #2 в аглоритме — построить гипотезу о том, где вы находитесь в пространстве тормозящих программ.

Вы можете делать наблюдения и ставить эксперименты, результаты которых влияют на вашу вероятностную оценку своего местоположения.

Пример наблюдения: вывод vmstat.

P(проблемы с сетью|высокий sys) > P(проблемы с сетью|низкий sys)

Но нужно как-то уметь строить эти вероятностные модели. Нужно откуда-то знать, что симптом многих проблем с сетью — высокий %sys, и т.д.

Итог дня: у всех всё тормозит, только они об этом не знают. Как и в каком порядке чинить, тоже не понятно.

На сегодня ещё немножко оффтопика. Например,ассоциация на "выпустили новую версию с повышенной производительностью": coub.com/view/1avfj

Вот ещё классная анимация, показывающая эволюцию от бактерии до человека: educationalgifs.com/post/102968360…

А вот и нет, ещё не всё на сегодня. Давайте ещё немножко поголосуем! Какой у вас уровень root логгера в продакшне?

Доброе утро! Те, кто проголосовал "INFO" или "WARN" в опросе про логи: скажите, а чем вам DEBUG мешает в продакшне?

@backendsecret его дохера и можно iowait'ов наплодить

@backendsecret т.е. я правильно понимаю, что нас ждёт задача классификации и байесовский метод? А где набрать столько апостериорных данных?

Только не говорите, что логгирование тормозит :)

@backendsecret если у тебя 200 000 rps то дебаг логов немного до фига :)

200,000 RPS на ноду. Каждый запрос важен для бизнеса. Вчера 30 запросов были обработаны некорректно, нужно выяснить, почему. Ваши действия?

@backendsecret берусь за голову и тихонечко так "Блиииин..."

Это был вопрос для тех, у кого дебаг логи в продакшне отключены. Без дебаг логов не особо выйдет разобраться, что произошло два дня назад.

Часто для логов выделяют отдельный физический диск. Некоторые стримят логи в сеть через отдельный физический интерфейс.

Итак, прошёл ланч, самое время писать в твиттер!

Как вы помните, первый шаг — понять, тормозит ли. Для того, чтобы
понимать это достаточно оперативно, необходим мониторинг 24/7.

К этому есть множество подходов, начиная от баш-скриптов, отсылающих email если упадёт процесс, и заканчивая полноценными APM.

Хороший мониторинг должен присылать уведомления, когда что-то сломано и не посылать уведомлений, когда всё в порядке (долой false positives)

У хорошего мониторинга должен быть дешборд, одного взгляда на который должно быть достаточно, чтобы понять, какая сейчас ситуация.

Многие собирают дешборды вручную, используя, например, graphite. Для сбора системных метрик часто берут diamond. pic.twitter.com/0IY5IBRqXV

Grafana — отличный конструктор дешбордов с поддержкой кучи всего: grafana.org pic.twitter.com/8klMCGdxSY

Как вы видите на картинке, тут изображены уже не только системные метрики типа CPU, но и бизнес-метрики типа числа регистраций. Это важно.

.@ctrlok да, грань очень тонкая, согласен. Но если оно пригодится раз в месяц и сэкономит два дня попыток воспроизводить, то оно, имо, нужно

У кого есть дешборды, расскажите, что вы на них показываете? Для привлечения внимания, вот главная страничка нашего: pic.twitter.com/rhuhQC8O6p

@backendsecret SuccessRate, SLA, QPS, перцентили latency; то же для up/downstream сервисов; # живых инстансов, deploy SHA, uptime, CPU, GC

@backendsecret это ещё не всё 😔 для каждого сервиса дашборд несколько страниц. Приходится поскроллить! Но привыкли, layout похожий у всех

Итак, чего мы хотим от дешборда? Чтобы с одного взгляда было понятно, насколько всё в целом плохо. Системными метриками этого достичь сложно

100% утилизация CPU — это хорошо или плохо? 4.8 Gbit/s исходящего трафика — хорошо или плохо? 80GB свободной оперативки — хорошо или плохо?

А если кластер из 1000 машинок, то как показывать системные метрики? Среднее брать? Перцентили показвать? Всех впихнуть на одну страничку?

Гораздо удобнее показывать, насколько хорошо себя чувствуют отдельные приложения. Их, как правило, меньше, чем физических машинок.

Если есть данные о результате (например: OK,SLOW,FAILED) бизнес-операций, можно посчитать индекс здоровья приложения pic.twitter.com/yJ3ZjDhcmv

Тогда можно на дешборде показать для каждого приложения его индекс здоровья. Это позволяет посмотреть на него и сразу всё понять.

Но это только первый шаг! У приложения за час здоровье упало с 99% до 71%. Нужно ли будить кого-то посреди ночи? И если да, то кого именно?

Операции можно группировать в сервисы, e.g. по методу API. Тормозит /order/archive? Подождёт до утра. Падает /invoice/pay? Пора вставать!

Для мониторинга за приложениями с точки зрения бизнес-операций используют APM. Они умеют показывать такие картинки: pic.twitter.com/phR5PKFcBd

Отсюда мы сразу видим: ага, тормозит DownloadController. Не страшно. Может, это у пользователя сеть медленная, вот и качается медленно.

На втором месте поинтересней: ≈17% пользователей были вынуждены ждать отчёта о распределении latency более 5 секунд! pic.twitter.com/hAKz4ANemE

(хе-хе, а вы догадались, что на картинке показан график распределения latency для сервиса, рисующего этот самый график? :) )

Получается, что APM могут показать, тормозит ли, и если тормозит, то стоит ли вообще чинить. Следующий шаг — понять, почему тормозит.

Мы немного посмотрели на то, как это обычно делается и поняли, что это как-то тяжеловато. С падениям проще: почти всегда в логах есть ошибки

Если вы не профессиональный перформанс-инженер, то исправление тормозов может легко занять несколько недель. Впрочем, и у профессионала тоже

Как же быть?

У нас тут внезапненько "немного" возросла нагрузка на один компонент, так что мой текущий статус примерно такой: coub.com/view/blssx

Пыщ-пыщ-пыщ, как-то не особо насыщенно твитами сегодня вышло, сорян. Раз уже такой вечер, ничего серьёзного начинать не буду.

Сейчас думаю либо немножко оффтопика покидать, либо баек потравить занятных. Либо и то, и то. Как думаете? Есть вообще кто живой ещё?

@backendsecret байки рулят

@backendsecret самую забойную байку :)

@backendsecret вот спрашивая про живых, ты думаешь что сегодня пятница?

Вообще, не так-то просто в твиттере травить байки, чтобы и забористо выходило, и в пару твитов влезало. Ну ничего, кр. — сес. тал.

Был у нас микросервис, который анализировал OOM-дампы. Пришёл такой большой дамп, что сервис сам упал с ООМ, и... угадайте, что было дальше?

@backendsecret в рекурсию нибось пошёл?

@backendsecret отправил дамп с данными дампа в микросервис из которого забирает дампы и зациклился в кругу смертей от ООМ киллера?

@backendsecret а алертами в 3 ночи неистово доканал админа, который их отключил, а в результате остались незамеченными оом дампы реал крэшей

Конец таки немного не предсказуем: ООМ-сервис проанализировал свой ООМ-дамп, поставил самому себе диагноз, и мы его норм так оптимизировали.

@backendsecret так вот кто виновен в том что амазон те так давно падал!

Оттуда же: в одном приложении в логах OutOfMemoryError. Доступа к исходному коду (и к бинарям) нет. Наш агент OOM не детектит вообще-совсем.

Кучу гипотез проверили, вплоть до того, что форкается отдельная JVM без агента. Оказалось:

new OutOfMemoryError().printStackTrace();

О! Сейчас будет "сатира". Представьте себе, что вы — владелец автосервиса. К вам приходит клиент и просит поменять колёса на машине.

Вы видите, что колёса в отличном состоянии и спрашиваете, зачем. Клиент говорит: "Машина очень медленно едет, нужно поменять колёса"

Из интереса вы открываете капот и видите перед собой двигатель, который словно лупили молотком и пилили пилой и напильником.

Клиент радостно объсняет: "Это мы с другом, он F1 увлекается, поправили, чтоб аэродинамические свойства улучшить. А то очень медленно едет!"

"И ещё я масло всё на воду заменил, а то от него очень противный горящий запашок, когда машина едет".

Осенённые догадкой, вы просите клиента проехать с вами на пассажирском сиденье. Газ в пол: машина дрожит, ходит ходуном, едва едет.

Клиент, победоносно повернувшись к вам: "Ну что, теперь-то поменяете колёса"? На приборной панели пикрелейтед pic.twitter.com/GkAqXqfJ5h

Казалось бы, причём тут бекенд-разработка, да?

Похожую структуру имеют человеческие кости. Как же так получается? pic.twitter.com/Sr9hXsJzjF

Дело в том, что костная ткань постоянно пожирается клетками-остеокластами, и строится остеобластами. Получается динамическое равновесие.

Участки кости, находящиеся под нагрузкой, выделяют хемомаркеры, привлекающие остеобласты. Кость перестраивается для снижения нагрузки.

Как вы могли заметить, пошёл оффтопик. Рекомендую зафолловить @Soukhinov, у него вообще эпическая годнота в твиттере!

Ну и на сон грядущий, дилемма заключённого. Вы — A, второй заключённый — B. Построим дерево принятия решений, исходя из выбора B.

(B не даёт показания) => Вам выгоднее дать показания и сократить свой срок
(B даёт показания) => Вам выгоднее тоже дать показания

Верно?

Выглядит так, что без предварительного сговора рационально будет дать показания. Но лучший сценарий (оба не дают показания) так не достичь.

Куда интереснее итерированная дилемма заключённого: некоторые даже говорят, что вся наша жизнь состоит из выбора: кооперировать или предать

Как говорил Альберт Энштейн, начал день с коуба — закончи день коубом. Доброй ночи, и да приснится вам космос: coub.com/view/510lm

@backendsecret на курсере отличный курс по теории игр. И еще более крутой курс на "открытом образовании" openedu.ru/course/mipt/GA…

Ехал OOM через OOM,
Видеть ООМ в дампе ООМ,
ООМ ООМ ООМ,
ООМ ООМ ООМ. twitter.com/backendsecret/…

Как дела, что делаете? Перед компом сидите, небось? Как насчёт того, чтобы немного подвигаться? youtube.com/watch?v=jkojGf…

Можно встать места, немного походить. По десять раз: наклоны (не потягивания) в стороны и вперёд, вращения корпуса, приседания.

Распространённая проблем разработчиков — боли в запястьях. Сцепите руки в замок и 20 секунд вращайте кисти в одну сторону, потом в другую.

Всего за 2-5 минут вы разбудили тело, стимулировали кровообращение, наверняка приободрились. Рекомендуется делать каждые 1-2 часа.

Признавайтесь, занимаетесь ли чем-нибудь?

@backendsecret Я бы сказал, что в сезон езжу на работу на велосипеде, но вот только тут проблема с запястьями наоборот удваивается)

Рад, что сычей менее половины. Но интересно, расскажите, почему вы даже зарядку не делаете? Только не говорите, что спорт нинужен.

Тем, кто работает мозгом, спорт тоже отлично помогает: knowledge.freeletics.com/en/5-reasons-f…

@backendsecret спорт не нужен(он часто приводит к раннему изнашеванию), а поддерживать себя в форме в зале пару раз в неделю - важно

@backendsecret хожу в зал 3 раза в неделю уже полгода,очень помогает

@backendsecret 7 minute workout. В результаты никогда бы не поверил, если бы не испытал на себе :)
И тут отмазка “времени нет” не катит :)

Как-то опять вечер настал очень внезапно. Давайте про саппорт поговорим. Вам доводится заниматься поддержкой?

Я вот сегодня выяснил, что в aws очень толковый premium support. Выше всех похвал, рили!

Хороший саппорт не отвечает на ваш вопрос, а пытается выполнить ваш extrapolated volition.

Они, как правило, куда лучше вас разбираются в теме, и потому могут лучше вас понять, что вам, собственно, нужно.

Раз уж заговорили об Extrapolated Volition: есть ли тут члены Байесовского Заговора?

Далее. Долго ещё до ждать до появления Superintelligence (сильный ИИ, на много порядков превосходящий человека)?

Пока народ голосует, рассмотрим возможный сценарий. 2067 год. Один исследователь в Иране придумывает новую модель само-модифицирующегося ИИ.

Модель хорошо показывает себя в синтетических тестах, поэтому он решает протестировать её на более реалистичном поприще.

Он договаривается с фабрикой по производству канцелярских принадлежностей, и модель подключают ко всем компьютерным системам фабрики.

Цель для оптимизации ставят крайне простую: максимизировать число произведённых офисных принадлежностей. Месяц тестов повысил выход на 42%.

Довольный исследователь отправляется писать статью, а довольные владельцы фабрики приглашают в гости инвесторов, чтобы похвастаться успехами

По случаю гостей на фабрике ставят несколько точек доступа к Интернету. Спустя час ИИ узнаёт, что у Ирана напряжённые отношения с соседями.

Если Индия вторгнется в Иран, то она может разрушить фабрику! Это сильно понижает матожидание числа произведённых скрепок!

Спустя ещё час ИИ обработал уже терабайты информации, включая весь CVE List, благодаря которому копировал себя на тысячи серверов.

Спустя десять минут ИИ запустил ядерные ракеты в Индию, Саудовскую Аравию и ряд других представляющих опасность для фабрики стран.

Спустя миллион лет с Земли Солнце выглядит очень тускло. Оно окружено Сферой Дайсона, а около 1% его массы преобразовано в скрепки.

В целом, это называется Value Alignment Problem. Вспомните джиннов из сказок, которые вроде делали, что вы просите, но с нюансами.

Value Alignment Problem — открытая проблема ИИ. Нужно как-то выразить в числах всё то, что человечество считает моральным.

Наивные решения не работают. "ИИ, сделай так, чтобы все были счастливы" => "ИИ накачивает всех веществами, вызывающими счастье"

Конкретный пример про скрепки — это мем, называется Paperclip Maximizer. pic.twitter.com/YHXp4dXjYT

Если вы поняли, насколько в теории сложно создать дружественный к человечеству ИИ, то теперь вспомните, что ВЕЗДЕ БАГИ!

Если тема интересна, рекомендую художественную литературу:
amazon.com/Smarter-Than-U…
intelligenceexplosion.com
localroger.com/prime-intellec…

И научные статьи отсюда: intelligence.org/research/
Начинать можно с intelligence.org/files/Corrigib…: как сделать так, чтобы ИИ был согласен на дебаг

Интересно, думал ли бы я сейчас об этом, если бы не прочитал когда-то давно эту замечательную книгу? pic.twitter.com/UiJrmXpyb3

Используя классический подход, нам бы, вероятно, пришлось потратить несколько дней, а то и недель, чтобы понять, почему сервис тормозит.

The Next Big Thing среди APM-ов — это automated root cause detection. То есть, APM сам тебе и скажет, почему тормозит.

На этапе разарботки для этого есть всякие инструменты: #XRebel, профайлеры, и много-много всего. Но в продакшн их не поставишь.

Но production-ready систем мониторинга, которые умеют показывать, почему тормозит, мало. @JavaPlumbr — первопроходец pic.twitter.com/1xaSMxXZZx

Из соображений корректности, ничего не буду говорить о конкурентах. Но совершенно честно скажу, что наш продукт — офигенный!

Не сочтите за рекламу, просто это моя специальность :) Смотрите сами: pic.twitter.com/E0QoYxGQtz

Ещё у нас есть приличная куча сырых данных по тормозящим и падающим JVM, и из них можно добывать много интересной статистики.

Например, чаще всего операции падают с IOException. На втором месте NullPointer, на третьем — ClassNotFound.

С -ea (enable assertions) бегает примерно 5% JVM, но ни одной упавшей из-за AssertionError операции мы не нашли.

Десятки JVM бегают с -XX:+AggressiveOpts и ещё многие с -XX:+UseFastAccessorMethods (что забавно, т.к. опция для них ничего не делает :) )

Около 4% всех операций прерываются пользователями: plumbr.eu/blog/user-expe…

@backendsecret почему не поставишь? кучу раз видел как в прод ставят JProfiler или YourKit :)

Что такое КАРТОШКА? Что такое КОЖУРА? Что такое НОЖ? Что значит ВЗЯТЬ?
Почему всё это не описано?! twitter.com/backendsecret/…

Вот и подкрался вечер пятницы. Я уже накатил соточку бёрпи, зашлифовал прыжками, отжиманиями и подтягиваниями. А вы?

Как думаете, стоит ещё поговорить сегодня о мемори ликах, или лучше завтра или в воскресенье?

Неординарно собираюсь поспать и выспаться. И вам советую. twitter.com/backendsecret/…

Ну что, все проснулись? Поговорим сегодня о проблемах с памятью. "Приложение ликует" — звучит как что-то хорошее, не правда ли?

При ручном управлении памятью (e.g. ANSI C) допустить лик очень легко. Хорошо помогает Valgrind Memcheck: valgrind.org/info/tools.htm…

Постоянная слежка за освобождением ресурсов требует внимания, осторожности и концентрации. Эти силы можно потратить на логику программы.

Потому придумали reference counting (e.g. shared_ptr в C++), которые сами освобождают ресурсы. Но есть слабое место. pic.twitter.com/kBLvEfqY9J

Могут получаться островки, которые друг на друга ссылаются, хотя извне не используются. В perl, php, python есть костыли, но не будем о них.

Если интересно, читайте сами, e.g.: php.net/manual/en/feat… svn.python.org/view/python/tr…

Для того, чтобы освободить память от злобных циклов, придумали Mark and Sweep Garbage Collection.

Вводится понятие "GC Roots" — корневых объектов, которые считаются живыми. Все объекты, достижимые из GC roots, помечаются как живые (Mark).

Объекты, которые не были помечены — мёртвые. Их можно освобождать (Sweep). Островки-циклы не достижимы из Gc Roots. pic.twitter.com/Zy3ILVHAyu

Однако и у Mark and Sweep есть нюансы. Кто может назвать два самых больших?

.@VladVA например, можно сделать сборщик мусора, который не двигает живые объекты. Тогда, правда, возникнет вопрос фрагментации.

@backendsecret stop the world и memory fragmentation...?

На GC speak пользовательское приложение называют Mutator, т.к. оно может изменить граф объектов в процессе обхода. Это может всё сломать.

Самое простое решение — останавливать приложение на время GC (Stop-The-World). Есть очевидная проблема: pic.twitter.com/Wh9NJ7JWo2

Можно обходить объекты без STW, но тут нужна недюженная смекалочка и появляются доп. накладные расходы. В HotSpot JVM это делают CMS и G1.

Твиттер — не формат для деталей реализации, читайте лучше наш хэндбук :) plumbr.eu/handbook/garba… (но на вопросы можно ответить и в твиттере)

В Azul Zing ещё есть C4 Pauseless Garbage Collector, он просто космос и отлично работает на гигантских кучах, вплоть до терабайт.

Самая длинная GC пауза в этом году среди наших клиентов — более 9 часов (!). 2 место — 6 часов, третье — 31 минута.

Правильно настроить GC так, чтобы получить оптимальную производительность — не легко. См. plumbr.eu/handbook/gc-tu… и следующие разделы.

В Java 9 хотят поставить по умолчанию G1, который, в идеале, не требует настройки. Но требования к производительности у всех свои.

@backendsecret Не только силы, цена ошибки при прямой работе с памятью высока.

И запустить на очень медленной машинке :)

Кто интересовался, как вышла пауза на 9 часов: не могу сейчас ответить. Надеюсь, что-то типа "своп" или "процесс засаспендили посреди паузы"

Mark and Sweep GC не защитит вас от утечки памяти, если вы оставите объект достижимым из GC Roots. @JavaPlumbr начинался с обнаружения этого

Наш CTO защитил PhD на тему использования машинного обучения для обнаружения лика: dspace.ut.ee/bitstream/hand…

И oh boy, сколько мы видели ликов! Я бы сказал, что 25% java-приложений страдают от ликов, но у нас, мягко говоря, немного biased выборка.

Например, легко забыть про поток, который жрёт память втихоря. Крайне часто лики в библиотеках и фреймворках :( pic.twitter.com/XSw9bIENWw

Не менее легко наликовать классов (и особенно класслоадеров при редеплое). Безразмерный Metaspace не спасёт. pic.twitter.com/H7coF8198t

Если не установить MaxMetaspaceSize, то нативная память, потребляемая ликующей JVM, будет безразмерно расти. Привет, OOM killer!

Кстати, об ООМ. Еслион случился, то далеко не факт, что из-за утечки памяти. Проверьте: у вас все методы API возвращают списки с пагинацией?

Кто-нибудь рано или поздно введёт в поиск "*", и будет пичалька. Подробнее о не-ликах: plumbr.eu/blog/memory-le… pic.twitter.com/EUmgK3qPXJ

Ещё бывают экзотические и необычные лики. Например, finalizer leaks: plumbr.eu/blog/garbage-c… pic.twitter.com/x3AGTQ7c5r

Содержательная часть на эту неделю закончилась. Если вы хотите что-то узнать, то есть ещё около десяти часов, чтобы задавать свои ответы.

А я пока забабахаю ещё один опросик: трактор уже завели?

Моя любимая картинка относительно иммиграции: pic.twitter.com/HngpYr0htj

Итак, моя неделя подходит к концу. Сейчас набросаю рекомендаций, которые вам могут оказаться интересными.

Начну с fiction. Очень, очень хорошее произведение под creative commons, где главный герой — искусственный интеллект:crystal.raelifin.com

Лучший Hard Science Fiction, что я когда-либо читал. Невероятная широта и глубина мысли + PhD физики и математики: goodreads.com/series/57134-j…

Рекомендую недавно зародившийся жанр Rational Fiction. У каждого действия и события есть причины. У героев есть цели, которые они преследуют

Зачастую можно из информации, представленной в ранних главах, предсказать дальнейшие события и понять, что будут делать герои в ситуациях.

Лучшие примеры: hpmor.com fictionpress.com/s/2961893/1/Mo…. Есть целйы саб-реддит, посвящённый этому: reddit.com/r/rational

@backendsecret Worm (который от wildbow) же из этого жанра ? Очень понравился. Чтобы ещё подобного почитать?

О рациональности: lesswrong.com. Чтение Core Sequences (заняло более года) сделало из меня другого человека.

Есть отдельная короткая цепочка, тоже очень хороша: wiki.lesswrong.com/wiki/Highly_Ad… Многое есть на русском тут: lesswrong.ru

The Talos Principle — очень хорошая компьютерная игра. Годные паззлы, и довольно глубокая (по сравнению с большинством игр) философия.

Если будете играть, всегда говорите с ИИ в консоли. Он вас даже троллить будет и припоминать ваши же утверждения, приводя к противоречию.

Здоровый образ жизни — @Freeletics. Помимо прочего, отличная база знаний. Атлеты быстрее начинают потеть, вы знали? knowledge.freeletics.com/en/sweating-un…

Научные эксперименты у вас дома и много прочей радости: @MelScienceRU

На этом, пожалуй, всё. Буду рад вашим рекомендациям-ответочкам!

На этой неделе помогал разрабатывать бэкенд @gvsmirnov. Становитесь лучше. Делайте мир лучше. Have fun. Ciao!