А виноват ли SCCM клиент?

Истории из серии «Почему Windows так медленно работает?» всегда поучительны. Поучительны не только в техническом смысле, но и в социальном.

Любой системный администратор, имеющий за плечами несколько лет опыта, расскажет о пользователях «параноиках», превращающих любую мизерную проблему в глобальную катастрофу, и пользователях абсолютных «флегматиков», которые могут работать в практически разрушенной системе месяцами, но так и не обратятся за помощью.

И те, и другие это «плохие» пользователи. Плохие в том смысле, что если проблема действительно существует, то сообщение от первых могут проигнорировать, а сообщение от вторых никогда не поступит.

Это была присказка :-) Сказака впереди.

После новогодних прадников решили обновить SCCM. Обновили сервер, всё проверили, всё работает. Выдержали паузу и приступили к обновлению клиентов SCCM на компьютерах пользователей. Раскатали новый клиент на тестовую группу — всё работает. Расширили тестовую группу — всё работает. Наконец запустили установку на всех. SCCM автоматически обновляет клиенты очень неспешно. Проходит несколько дней, обновлено уже несколько сотен клиентов, и тут тех. поддержка говорит: «А у пользователей компы тормозят жутко после установки нового клиента.»

Начинаем разбираться. Оказывается не у всех. Тем не менее один проблемный компьютер, второй, третий … Это уже опасно, если учесть «флегматиков». Остановили процесс обновления до выяснения масштабов проблемы и её серьезности.

Пока ковыряли эти три проблемных компьютера, а дело это очень медленное, так как делать это приходится удаленно, а загрузка ЦПУ 100%, и любая операция занимает десятки минут. Так вот пока разбирались с этими тремя, обнаружилось ещё две проблемные системы. Это вызывало нехорошие мысли: при пересчёте процента проблемных компьютеров на несколько тысяч систем, получалось слишком большое число, чтобы можно было просто игнорировать эту проблему — стало ясно, что придется докопаться до истинных причин проблемы и найти лекарство, желательно применимое автоматически и удаленно.

Постепенно накопили определённый опыт. Процесс SCCM клиента — 100% ЦПУ, процесс WMI — 100% ЦПУ. Если их остановить, то пользователь уже мог работать за компьютером. Это облегчило накал страстей, и дало нам время на дальнейшее изучение проблемы.

Перечитали и перепробовали всё, что нашли по проблеме 100% ЦПУ у клиента SCCM и процесса WMI. Ничего не помогло. Запустили восстановление системы — sfc, dism, даже sfcfix. Проблема не решена. Более того восстановление системы даже подвисает.

Тут вспомнилась знаменитая фраза из кинофильма «Иван Васильевич меняет профессию» — «Меня терзают смутные сомнения…». До сего момента мы следовали классическому подходу: что мы такое делали, что могло вызвать проблему? Очевидно это была установка новой версии клиента SCCM. Загрузка его процесса в 100% и множество событий с ошибкми по таймауту в логах WMI, казалось бы, на 100% подтверждали эту теорию. Но если процедура восстановления системы виснет, то это вызывает другие мысли: а может клиент SCCM тут совсем не при чём?

Требовалось удаленно посмотреть, как себя ведут другие процессы на проблемных компьютерах. В логах мы и до этого ничего криминального не видели, а вот что с загрузкой ЦПУ?

Помог PowerShell. Вот запрос, который показывает наиболее нагруженные процессы (CPU > 80%) на удаленном компьютере:

(Get-Counter '\\Computer\Process(*)\% Processor Time').CounterSamples | Where-Object { $_.CookedValue -gt 80 }

И что же мы увидели на проблемных компьютерах? Ещё два процесса с загрузкой 100% ЦПУ — svchost (связанный с Windows Update) и logonui.

Это уже явно говорило о том, что надо исследовать другую теорию — SCCM клиент не является причиной проблемы, но установка новой версии SCCM клиента проявляет уже существующую проблему. Если на компьютере есть 4 логических процессора, и два из них полностью заняты процессами svchost и logonui, то пользователь использует остальные два. Возможно он чувствует, что компьютер притормаживает, но это терпимо и работать можно. После установки новой версии клиента SCCM появляются ещё два процесса с загрузкой 100% двух оставшихся ядер. И вот тут пользователю уже ничего не осталось — компьютер тормозит так, что ничего делать невозможно.

Чтобы копнуть глубже в поисках причин проблемы, пришлось воспользоваться утилитой wpr.exe (Windows Performance Recorder). Ранее эта утилита была только в Windows Performance Toolkit (который входит в состав Windows Assessment and Deployment Kit). Это нужно установить для анализа трассировки, но wpr.exe теперь есть штатно в Windows 10. Запускаем получаем трассировку, смотрим анализ в wpa.exe.

wpr -start CPU -start DiskIO -start FileIO

wpr -stop c:\1\gdstp18-1.etl

Для всех проблемных процессов трассировка сходится в одну точку. Это наводит на мысль, что мы на правильном пути — проблема одна, и мы можем её локализовать: либо это какая-то DLL, либо какая-то структура данных (база или реестр).

И тут срабатывает двигатель прогресса — человеческая лень: если мы уже знаем признак, по которому мы можем найти проблемный компьютер до установки новой версии SCCM клиента, то стоит ли нам тратить время на дальнейшие копания в недрах Windows? Тем более что потом нам придется ещё искать способ лечения проблемы.

Идея в том, чтобы просканировать компьютеры и посчитать, сколько из них проблемных. Если мало, то нет смысла тратить время на поиск лекарства (если только из спортивного интереса), а просто переставить системы.

По сути нам надо посмотреть на всех компьютерах загрузку процесса logonui: если близко к 100%, то компьютер проблемный. Сканирование тысяч компьютеров последовательно может занять неделю времени. Тут нам помог PowerShell 7.1 и его новая возможность «Foreach-Object -Parallel», которая позволяет запускать скрипт параллельно. (В Windows PowerShell нам пришлось бы использовать стронний модуль или WorkFlow, что нетривиально.)

$a = Get-ADComputer -Properties OperatingSystem -Filter "OperatingSystem -like 'Windows 10*'"
$b = $a | ForEach-Object -Parallel { $_ | ? {Test-Connection -ComputerName ($_.Name) -Count 1 -Quiet } } -ThrottleLimit 20
$c = $b | ForEach-Object -Parallel { $_ | % { (Get-Counter "\\$($_.Name)\Process(logonui)\% Processor Time" -ErrorAction SilentlyContinue).CounterSamples | Where-Object {$_.CookedValue -gt 80} } } -ThrottleLimit 20
$c.count

Процент проблемных компьютеров на выборке оказался столь мизирным, что в пересчёте на общее количество компьютеров ожидаемое число проблемных компьютеров составило менее 15.

Примечание 1. Вычисление процента нужно было, потому что часть компьютеров выключена из-за того, что пользователи работают удаленно. В этом случае мы сможем выявить проблемный компьютер только после его включения, а это может произойти не скоро.

Примечание 2. Приведённый скрипт игнорирует ошибки. Но они могут быть полезными. Например, ошибка таймаута может говорить о том, что целевой компьютер слишком загружен, и нам стоит изучить его внимательнее. Поэтому пришлось сделать более навороченную версию скрипта, которая выводит все полезные ошибки. Этот скрипт не привожу, так как он не нашёл ни одного нового проблемного компьютера.

Вывод был однозначный: смысла искать лекарство нет, несколько выявленных проблемных компьютеров немедленно отправить на переустановку, как и те несколько, которые будут выявлены в будущем, установку новых клиентов SCCM продолжить немедленно.

Какой урок из этой истории? У меня какое-то двойственное чувство. На современных платформах процессоры имеют много ядер, и если появляется один, два «бешенных» процесса, то может ли обычный пользователь (который не «параноик» и не «флегматик») объективно почувствовать это и обратиться в тех. поддержку? У меня сомнения (помню ещё одну похожую историю, но другой природы). Если пользователь нам тут не помощник, то как нам выявлять подобные проблемы? Собирать все счетчики производительности это не вариант: системы будет сильно тормозить, а объемы данных даже для небольшой компании будут составлять терабайты в неделю, а их ещё анализировать надо. С другой стороны подобные проблемы возникают не так часто, чтобы изобретать средства непрерывного контроля. Наверное самое оптимальное просто внимательней относится к коллегам: что они делают, как, какие проблемы испытывают. Общаясь с ними в таком ключе, неизбежно посмотришь состояние их системы, приложений, оборудования. И безусловно обнаружишь то, что пользователь не в состоянии обнаружить и/или осознать и тем более исправить. Останется только распространить полученный опыт на других при необходимости: настроить политики, запустить скрипты или сделать простую рассылку по почте с разъяснениями.

Реклама

AppLocker и CRL

Проверка списков отзыва сертификатов (CRL) полезная вещь позволяющая нам избежать взаимодействия с системами, у которых скомпрометирован сертификат.

Со временем политика использования сертификатов на Windows системах ужесточается. Мы все ощутили это в то время, когда RDP клиент на Windows 7 начал делать жесткие проверки сертификатов. Многие инфраструктуры пришлось тогда подчистить и подправить, чтобы пользователи не испытывали проблем с подключениями к удаленным рабочим столам.

Проверки CRL также могут вызывать проблемы — в виде задержек. Это уже было в нашем опыте с Sharepoint и Exchange серверами. Собственно это все тот же CAPI.

На днях выяснилось, что этой проблеме подвержен AppLocker. Оказывается, даже если он выключен, он всё равно работает где-то в недрах системы, пытается что-то проверять и даже провоцирует проверки сертификатов и CRL. А уж если он включен, и настроены правила Publisher, то и подавно.

Это имеет один неожиданный побочный эффект. Собственно так это и было обнаружено. Суть в том, что PowerShell имеет встроенную поддержку AppLocker, т.е. делает специальные вызовы API, чтобы проверить можно ли запускать тот или иной скрипт. Побочный эффект в том, что из-за проверок CRL в AppLocker PowerShell может работать медленнее: задержка запуска, задержки при загрузке модулей, задержки при выполнении скриптов.

Надо отметить, что эта проблема чаще всего возникает в изолированных сетях. Но иной раз и в сетях, которые просто неправильно сконфигурированы (фаервол и, особенно, DNS).

Неправильно сконфигурированные сети надо лечить.

Рекомендация для изолированных сетей простая: групповыми политиками уменьшить тайм-аут проверки CRL.

Ссылки:

Рекомендация отсюда

Обсуждение PowerShell

Почему мой Windows 10 загружается так долго?

Давно руки не доходили проанализировать загрузку корпоративных систем, и вот это случилось.

Есть давний инструмент Windows Performance Toolkit, который следует регулярно применять в корпоративной сети — рекомендую.

Собственно проблемы медленной загрузки можно разделить на два вида — общие (для всех корпоративных компьютеров из-за использования общих шаблонов конфигурирования) и частные (которые возникают только на отдельных компьютерах из-за их специфики). Вот примеры.

При анализе трассировки загрузки Windows 10 была обнаружена общая проблема: сервис «Служба Office Нажми и Работай» при запуске пытается сделать сетевой запрос, который тормозит. По всей видимости это запрос в Облако, а так как корпоративная сеть закрыта фаерволом, то неудивительно, что запрос тормозит и замедляет старт службы. Собственно облачные сервисы не используются, поэтому хорошо бы от этого избавиться. После перевода службы в Delayed Start загрузка системы улучшается. (Не понятны последствия для самого Office, но, как говорится, жизнь покажет, точнее, протестируем.)

Второй пример частный. При анализе трассировки загрузки системы было замечено замедление при вызове некой функции, в имени которой присутсвует Home. Имена соседних функций также информативны и говорят о сетевом запросе — очевидно проблема с монтированием сетевой домашней папки в виде диска. В свойствах доменной учётной записи на закладке Profile действительно есть эти настройки. Только указан старый, уже неиспользуемый, сервер! Так как пользователь никогда не пользовался домашней папкой, то никто не знал об ошибке конфигурации. После удаления этой настройки время загрзки улучшилось на 17 секунд, а вместе с первым изменением более чем на 20 секунд.

Общее впечатление после анализа процесса загрузки — Windows 10 поприятнее Windows 7. Я ожидал худшего на старом железе, но ожидания не оправдались.

Хотя загрузка теперь в пределах нормы (100 секунд) для корпоративной системы (с кучей групповых политик и злобным антивирусом на борту, тем не менее вижу ещё потенциал для ускорения загрузки. Возможно удастся найти другие узкие и проблемные места в загрузке из-за «ошибок» в корпоративных шаблонах конфигураций.