Любий, я скоротив node_modules! … Та покращила ефективність програми в процесі

  • розмір

Керівник команди Node.js

Зараз ранок понеділка, і вам потрібно створити новий проект. Ви встановлюєте всі необхідні пакунки npm, а потім починаєте працювати над деякими функціями. Рано чи пізно ви виявите проблему, яка вимагає виняткового кодування, тому ви звертаєтесь до Google і шукаєте відповідь - можливо пакет. Ви встановлюєте його та створюєте образ виробничого пакету. Потім ви дивитесь на його розмір і ... ось так у вас трапляється серцевий напад. "Як у мене вийшло 1 Гб node_modules ?!" - боротьба реальна, і повірте мені, у ТТГ ми були там уже кілька разів. Але не бійтеся, можна щось зробити для зменшення цього розміру! Ми створили кілька простих кроків, щоб зменшити його розмір. Просто йдіть за мною, будь ласка ...

Наша попередня історія node_modules

Не так давно ми працювали над цим британським проектом fintech, де нам довелося перенести систему на архітектуру мікросервісу за допомогою Node.js. Коли ми ознайомились з платформою, ми отримали від клієнта дві вимоги - вона повинна бути ефективною та легкою. Продуктивність не є проблемою для Node.js (якщо ви випадково не заблокуєте цикл подій), однак, це може бути легким. Початкове зображення становило 32 Мб, що є дуже приємним результатом, але швидко виявилося, що справжньою проблемою є node_modules.

На відміну від того, що ви думаєте, розмір програми важливий у кількох областях:

  • продуктивність - додаток, який є легким і працює швидше, займає менше ресурсів, тому працює ефективніше під час розробки,
  • витрати - деякі легкі програми вимагають менше ресурсів, а це означає, що витрати на інфраструктуру падають, і ви економите багато грошей.

Розробники люблять спрощувати свою роботу, щоб робити все швидше - саме тому вони включають додаткові бібліотеки. На жаль, це призводить до збільшення розміру всієї програми, що може дуже швидко вийти з-під контролю. Ось так почалася наша пригода з “схудненням”. То що ми зробили, щоб їх зменшити?

Зацікавлений у розвитку мікросервісів? 🤔 Обов’язково перегляньте наш звіт про стан мікросервісів 2020 - на основі думок 650+ експертів з мікросервісів!

Зменшити кількість залежностей

Це звучить очевидно, але перед тим, як ми перейдемо до більш інвазивних рішень, можливо, вам слід подумати про пакети, які ви встановлюєте. Вам справді потрібні всі вони?

У TSH ми використовуємо сайти, такі як npm.broofa або npm.anvaka, щоб насправді побачити цілий графік залежностей для одного пакету, а потім обговорюємо, чи це щось ми шукаємо.

Без жартів!

Багато разів я бачу людей, які встановлюють Jest лише для простих модульних тестів (близько 460+ залежностей, +/- 60 МБ), коли є менші бібліотеки, які будуть робити те саме (Mocha - 115 залежностей, 12 МБ).


Я знаю, про що ти думаєш - це просто залежність від розробника. Так, це так, але, скорочуючи кількість модулів, ви також пришвидшуєте свою розробку. Менше речей, що зберігаються в пам'яті, менше бібліотек, за якими слід IDE, все це змушує нас розвиватися швидше. Все це стосується простих реквізитів і мінусів. У нашому випадку ми почали з 700 Мб залежностей, а після кількох обмінів і видалень у нас вийшло всього 256 Мб.

Використовуйте прапор виробництва

Інший очевидний (але іноді забутий) метод - це використовувати прапор `–production` при встановленні npm . Він пропустить усі залежності від розробника та використовуватиме лише виробничі. Повірте, це того варте. У більшості наших проектів спостерігалося зменшення розміру node_modules на -33% після того, як ми його використали (176 МБ).

Видаліть непотрібні файли

Ви коли-небудь замислювалися про те, що інсталюється під час набору npm install? Я кажу не про ціле дерево залежностей, а про багато сміття всередині. Документи, тести, розмітки, зображення, джерела, багато файлів, які взагалі не корисні під час розробки (скажіть, коли ви востаннє занурювались у node_modules для читання документів, так?).

У TSH ми знайшли дві цікаві бібліотеки - node-prune та ModClean. У них обох однакова мета - видалити все, що не потрібно для упаковки. ModClean постачається з трьома моделями - безпечним, обережним та небезпечним - і іноді видаляє занадто багато файлів.

Ось чому більшу частину часу ми використовуємо обрізання вузлів, оскільки це не тільки безпечніше, але і дозволяє нам зменшити node_modules ще на 30% від виробничої версії.

Для кращої візуалізації: ми почали з 256 МБ цих модулів для версії розробника. Після виробництва ми зменшились приблизно до 176 МБ, а потім після обрізки вузлів ми знаходимося приблизно на 126 МБ. Це більше половини початкового розміру!

Шукати і чистити

Навіть після використання чорносливу, все ще можна щось зробити. У якийсь момент ми почали перевіряти розмір кожного модуля, щоб побачити, які з них найбільші. Для MacOS та Linux існує дуже проста команда:

Буде надруковано кожен модуль розміром не менше 1 Мб. Роблячи це, ви дізнаєтесь, які модулі займають найбільше місця. Це було дуже корисно, бо до того часу ми не розуміли, що RxJS/gRPC та AWS не такі вже й тонкі. Більше того, ви можете використовувати його на певному модулі, щоб визначити, який каталог винен. Це дозволило нам виявити, що RxJS має версію для пакета ts, es5, es2015 та UMD, хоча ми використовуємо dist безпосередньо.

Ці додаткові пакети зайняли 7 Мб з 11 Мб усього пакету. Більше 50%!

Та сама історія була з gRPC (там був каталог кількох третіх сторін, який ми взагалі не використовували - близько 12 МБ) та AWS (ви отримуєте версію для веб- та рідного комплекту - близько 10 МБ). Через це ми створили спеціальний сценарій оболонки, який виконував очищення.

Роблячи це, ми знизилися ще на 17%, тобто зі 126 МБ до приблизно 104 МБ.

Кінцевий результат

Ми почали з 700 Мб залежностей. Потім ми трохи подрібнили і залишили лише ті модулі, які нам насправді були потрібні. Решту з них обміняли на менші модулі або навіть замінили нашим спеціальним кодом. У підсумку ми отримали 256 Мб. Після цього ми використали виробничий прапор і перетворили його на 176 Мб. Використовуючи обрізання вузлів, ми могли б знизитися до 126 МБ, а потім скоротити його до 104 МБ після додаткового очищення.

Від 700MB до 104MB! Це чудово звучить, чи не так?

Вірте чи ні, але всі ці кроки (крім прапора виробництва) також можна використовувати у версії розробника, тому ми спробували і це. Ми отримали 161 МБ для версії для розробників. Це менше, ніж лише використання виробничого прапора.