Истории из серии «Почему Windows так медленно работает?» всегда поучительны. Поучительны не только в техническом смысле, но и в социальном.
Любой системный администратор, имеющий за плечами несколько лет опыта, расскажет о пользователях «параноиках», превращающих любую мизерную проблему в глобальную катастрофу, и пользователях абсолютных «флегматиков», которые могут работать в практически разрушенной системе месяцами, но так и не обратятся за помощью.
И те, и другие это «плохие» пользователи. Плохие в том смысле, что если проблема действительно существует, то сообщение от первых могут проигнорировать, а сообщение от вторых никогда не поступит.
Это была присказка :-) Сказака впереди.
После новогодних прадников решили обновить SCCM. Обновили сервер, всё проверили, всё работает. Выдержали паузу и приступили к обновлению клиентов SCCM на компьютерах пользователей. Раскатали новый клиент на тестовую группу — всё работает. Расширили тестовую группу — всё работает. Наконец запустили установку на всех. SCCM автоматически обновляет клиенты очень неспешно. Проходит несколько дней, обновлено уже несколько сотен клиентов, и тут тех. поддержка говорит: «А у пользователей компы тормозят жутко после установки нового клиента.»
Начинаем разбираться. Оказывается не у всех. Тем не менее один проблемный компьютер, второй, третий … Это уже опасно, если учесть «флегматиков». Остановили процесс обновления до выяснения масштабов проблемы и её серьезности.
Пока ковыряли эти три проблемных компьютера, а дело это очень медленное, так как делать это приходится удаленно, а загрузка ЦПУ 100%, и любая операция занимает десятки минут. Так вот пока разбирались с этими тремя, обнаружилось ещё две проблемные системы. Это вызывало нехорошие мысли: при пересчёте процента проблемных компьютеров на несколько тысяч систем, получалось слишком большое число, чтобы можно было просто игнорировать эту проблему — стало ясно, что придется докопаться до истинных причин проблемы и найти лекарство, желательно применимое автоматически и удаленно.
Постепенно накопили определённый опыт. Процесс SCCM клиента — 100% ЦПУ, процесс WMI — 100% ЦПУ. Если их остановить, то пользователь уже мог работать за компьютером. Это облегчило накал страстей, и дало нам время на дальнейшее изучение проблемы.
Перечитали и перепробовали всё, что нашли по проблеме 100% ЦПУ у клиента SCCM и процесса WMI. Ничего не помогло. Запустили восстановление системы — sfc, dism, даже sfcfix. Проблема не решена. Более того восстановление системы даже подвисает.
Тут вспомнилась знаменитая фраза из кинофильма «Иван Васильевич меняет профессию» — «Меня терзают смутные сомнения…». До сего момента мы следовали классическому подходу: что мы такое делали, что могло вызвать проблему? Очевидно это была установка новой версии клиента SCCM. Загрузка его процесса в 100% и множество событий с ошибкми по таймауту в логах WMI, казалось бы, на 100% подтверждали эту теорию. Но если процедура восстановления системы виснет, то это вызывает другие мысли: а может клиент SCCM тут совсем не при чём?
Требовалось удаленно посмотреть, как себя ведут другие процессы на проблемных компьютерах. В логах мы и до этого ничего криминального не видели, а вот что с загрузкой ЦПУ?
Помог PowerShell. Вот запрос, который показывает наиболее нагруженные процессы (CPU > 80%) на удаленном компьютере:
(Get-Counter '\\Computer\Process(*)\% Processor Time').CounterSamples | Where-Object { $_.CookedValue -gt 80 }
И что же мы увидели на проблемных компьютерах? Ещё два процесса с загрузкой 100% ЦПУ — svchost (связанный с Windows Update) и logonui.
Это уже явно говорило о том, что надо исследовать другую теорию — SCCM клиент не является причиной проблемы, но установка новой версии SCCM клиента проявляет уже существующую проблему. Если на компьютере есть 4 логических процессора, и два из них полностью заняты процессами svchost и logonui, то пользователь использует остальные два. Возможно он чувствует, что компьютер притормаживает, но это терпимо и работать можно. После установки новой версии клиента SCCM появляются ещё два процесса с загрузкой 100% двух оставшихся ядер. И вот тут пользователю уже ничего не осталось — компьютер тормозит так, что ничего делать невозможно.
Чтобы копнуть глубже в поисках причин проблемы, пришлось воспользоваться утилитой wpr.exe (Windows Performance Recorder). Ранее эта утилита была только в Windows Performance Toolkit (который входит в состав Windows Assessment and Deployment Kit). Это нужно установить для анализа трассировки, но wpr.exe теперь есть штатно в Windows 10. Запускаем получаем трассировку, смотрим анализ в wpa.exe.
wpr -start CPU -start DiskIO -start FileIO
wpr -stop c:\1\gdstp18-1.etl
Для всех проблемных процессов трассировка сходится в одну точку. Это наводит на мысль, что мы на правильном пути — проблема одна, и мы можем её локализовать: либо это какая-то DLL, либо какая-то структура данных (база или реестр).
И тут срабатывает двигатель прогресса — человеческая лень: если мы уже знаем признак, по которому мы можем найти проблемный компьютер до установки новой версии SCCM клиента, то стоит ли нам тратить время на дальнейшие копания в недрах Windows? Тем более что потом нам придется ещё искать способ лечения проблемы.
Идея в том, чтобы просканировать компьютеры и посчитать, сколько из них проблемных. Если мало, то нет смысла тратить время на поиск лекарства (если только из спортивного интереса), а просто переставить системы.
По сути нам надо посмотреть на всех компьютерах загрузку процесса logonui: если близко к 100%, то компьютер проблемный. Сканирование тысяч компьютеров последовательно может занять неделю времени. Тут нам помог PowerShell 7.1 и его новая возможность «Foreach-Object -Parallel», которая позволяет запускать скрипт параллельно. (В Windows PowerShell нам пришлось бы использовать стронний модуль или WorkFlow, что нетривиально.)
$a = Get-ADComputer -Properties OperatingSystem -Filter "OperatingSystem -like 'Windows 10*'"
$b = $a | ForEach-Object -Parallel { $_ | ? {Test-Connection -ComputerName ($_.Name) -Count 1 -Quiet } } -ThrottleLimit 20
$c = $b | ForEach-Object -Parallel { $_ | % { (Get-Counter "\\$($_.Name)\Process(logonui)\% Processor Time" -ErrorAction SilentlyContinue).CounterSamples | Where-Object {$_.CookedValue -gt 80} } } -ThrottleLimit 20
$c.count
Процент проблемных компьютеров на выборке оказался столь мизирным, что в пересчёте на общее количество компьютеров ожидаемое число проблемных компьютеров составило менее 15.
Примечание 1. Вычисление процента нужно было, потому что часть компьютеров выключена из-за того, что пользователи работают удаленно. В этом случае мы сможем выявить проблемный компьютер только после его включения, а это может произойти не скоро.
Примечание 2. Приведённый скрипт игнорирует ошибки. Но они могут быть полезными. Например, ошибка таймаута может говорить о том, что целевой компьютер слишком загружен, и нам стоит изучить его внимательнее. Поэтому пришлось сделать более навороченную версию скрипта, которая выводит все полезные ошибки. Этот скрипт не привожу, так как он не нашёл ни одного нового проблемного компьютера.
Вывод был однозначный: смысла искать лекарство нет, несколько выявленных проблемных компьютеров немедленно отправить на переустановку, как и те несколько, которые будут выявлены в будущем, установку новых клиентов SCCM продолжить немедленно.
Какой урок из этой истории? У меня какое-то двойственное чувство. На современных платформах процессоры имеют много ядер, и если появляется один, два «бешенных» процесса, то может ли обычный пользователь (который не «параноик» и не «флегматик») объективно почувствовать это и обратиться в тех. поддержку? У меня сомнения (помню ещё одну похожую историю, но другой природы). Если пользователь нам тут не помощник, то как нам выявлять подобные проблемы? Собирать все счетчики производительности это не вариант: системы будет сильно тормозить, а объемы данных даже для небольшой компании будут составлять терабайты в неделю, а их ещё анализировать надо. С другой стороны подобные проблемы возникают не так часто, чтобы изобретать средства непрерывного контроля. Наверное самое оптимальное просто внимательней относится к коллегам: что они делают, как, какие проблемы испытывают. Общаясь с ними в таком ключе, неизбежно посмотришь состояние их системы, приложений, оборудования. И безусловно обнаружишь то, что пользователь не в состоянии обнаружить и/или осознать и тем более исправить. Останется только распространить полученный опыт на других при необходимости: настроить политики, запустить скрипты или сделать простую рассылку по почте с разъяснениями.
Filed under: Configuration Manager, Performance, Windows, Windows 10 | Tagged: ConfigMgr, Configuration Manager, Performance, Windows, Windows 10 | 1 Comment »
ILYA Sazonov: ITPro 