Я слышу мысли нейросети

Привет, %username%! И заголовок — вовсе не аллегория. Работая с LLM на MacBook Pro, я часто улавливаю едва различимый высокочастотный писк. Иногда он возникает даже в моменты, когда, казалось бы, система простаивает. Долгое время я списывал это на слуховые галлюцинации и профессиональную деформацию.

Однако выяснилось: это чистая физика.

Речь о coil whine (писке дросселей). Индуктивные катушки и керамические конденсаторы в узлах питания (VRM) видеокарт и блоков питания вибрируют из-за сочетания магнитострикции и пьезоэффекта. Частота этой вибрации обычно лежит в диапазоне 5–15 кГц, попадая прямо в верхнюю границу слышимости. Это не признак «бюджетного» железа, а скорее наоборот: как отмечено в обзоре RTX 4090, модели ASUS с массивными 70-амперными индукторами электрически более совершенны, но поют громче своих 50–55-амперных собратьев. Чем эффективнее обвязка питания, тем красноречивее она «озвучивает» свою нагрузку.

Куда интереснее причина, по которой это так отчетливо проявляется именно при инференсе. Все дело в импульсном характере нагрузки: матричные вычисления чередуются с синхронизацией, создавая резкие скачки тока, частота которых напрямую коррелирует со скоростью генерации токенов. Пользователи на r/LocalLLaMA уже научились по звуку определять статус работы модели, а на HN это сравнили с аудиосопровождением восьмибитных игр.

Моя загадка с «бездействующим» компьютером решилась просто: в фоновом режиме постоянно работала LM Studio, через которую Copilot в Obsidian индексировал заметки. Окна скрыты, но GPU активно занимается эмбеддингом, и я слышу «песню» транзисторов.

По сути, писк — это своего рода «налог на локальный инференс». В статье про локальную обработку аудио автор резонно замечает: если приватность не является приоритетом, проще делегировать задачи облачному API, «чтобы не слушать писк видеокарты». Облако работает бесшумно, а приватность — звенит.

И именно здесь кроется самое любопытное.

Железо буквально озвучивает собственный рабочий цикл.

Мы годами выстраиваем системы observability, полагаясь на явное инструментирование. Метрика существует, если мы её экспортировали; спан — если пробросили контекст; лог — если написали код. Вся наша картина мира ограничена тем, что система сама пожелала о себе рассказать.

Писк дросселей никто не инструментировал. Это не телеметрия, а «утечка данных» — побочный физический эффект, ставший источником информации. Перед нами классический акустический сайд-ченнел (acoustic side-channel): подобные методы применялись для извлечения ключей RSA или считывания набора текста по звуку клавиш. Только здесь сигнал транслируется в окружающую среду без стороннего вмешательства.

И он куда правдивее любого экспортера. Метрика может обмануть: сбои скрапинга, неверные лейблы или «зависшие» значения. Физика же неподкупна. Есть ток — есть вибрация. Нет тока — гробовая тишина. Это невозможно имитировать или скрыть.

Мне импонирует эта смена оптики: у системы всегда есть глубокий слой состояния, скрытый от программного мониторинга. Мы обычно не имеем доступа к этому слою из-за отсутствия «органов чувств» у инфраструктуры, но тут роль датчика играет дроссель, а приемником выступает человеческое ухо.

Объективная проверка проста: используем приложение вроде Spectroid, подносим смартфон к корпусу и анализируем спектрограмму. Четкий пик в диапазоне 5–15 кГц, синхронный с задачами GPU, подтверждает, что дело в железе.

arecord -f cd -d 10 test.wav
sox test.wav -n spectrogram

Важно помнить: способность слышать эти частоты говорит скорее о качестве вашего слуха, чем о мнительности. После сорока лет жизни многие перестают улавливать диапазон выше 12 кГц, так что если окружающие «ничего не слышат», это вовсе не аргумент.

Решается проблема ограничением Power Limit (через nvidia-smi -pl), андервольтингом (например, 900 мВ при 2600 МГц часто снижает шум ценой минимальной потери FPS), заменой блока питания или даже заливкой катушек диэлектрическим лаком (правда, это риск потери гарантии). Геймеры также практикуют ограничение FPS, что сглаживает скачки тока. В инференсе аналог — снижение скорости генерации токенов, но жертвовать производительностью ради тишины хочется не всегда.

Важное примечание: если писк постоянен и слышен даже при выключенном ПК — это, скорее всего, тиннитус. В таком случае стоит обратиться к ЛОРу.

И напоследок, провокационная мысль: если железо само «транслирует» свою утилизацию, не стоит ли использовать это для мониторинга? Микрофон у корпуса, спектральный анализ, алертинг по паттернам писка… Вероятно, это избыточно, ведь традиционная телеметрия точнее и масштабируемее. Однако сама концепция — доверять физической реальности системы, а не её программным отчетам — выглядит крайне изящно. Что думаете? Может, кто-то уже экспериментировал с подобным?

 

Источник

Читайте также