Mirror of YDB github repos https://code.mastervirt.ru/ydb/atom?h=CLI_2.19.0 2025-01-23T12:32:48Z 2025-01-23T12:32:48Z prettyboy prettyboy@yandex-team.com 2025-01-23T12:11:11Z urn:sha1:e69661d981b700bc41768a57b472b08817afdf04 commit_hash:3433c11c4d386c785422b1e149e9a3a8de7f4f0f 2025-01-23T09:50:38Z prettyboy prettyboy@yandex-team.com 2025-01-23T09:01:53Z urn:sha1:6d7132e53353b6fe47a3ded23561e26e1d1745e1 В репозитории больше не будет `__pycache__` при запусках через ya make / test На примере devtools/ya/handlers/analyze_make/tests Время конфигурации в горячем сценарии в режиме --ext-py при изменении одного питонфайлика: `Configure time - 6.1 s` Время конфигурации в горячем сценарии в режиме --ext-py при изменении одного питонфайлика с текущими правками: `Configure time - 4.6 s` commit_hash:adf5219cd4f347bb572393d4a6debd1436dc0815 2025-01-17T22:13:15Z prettyboy prettyboy@yandex-team.com 2025-01-17T21:52:04Z urn:sha1:29c54233d8257efabcec7fd41d359d826a1bf610 Добавляется поддержка стандартной работы с байткодом для бинарей собранных с --ext-py (HIDDEN_URL На примере импорт теста для `devtools/ya/bin` `time Y_PYTHON_ENTRY_POINT=library.python.testing.import_test.import_test:main YA_TEST_CONTEXT_FILE=/tmp/test.context ./ya-bin >/dev/null` #| || Без патча ya m -r | real 0m2,934s user 0m2,772s sys 0m0,157s || || Без патча ya m -r --ext-py | real 0m10,916s user 0m9,927s sys 0m0,368s || || C патчем ya m -r | real 0m2,931s user 0m2,774s sys 0m0,156s || || C патчем ya m -r --ext-py первый запуск с записью байткода | real 0m7,482s user 0m5,174s sys 0m0,620s || || C патчем ya m -r --ext-py последующие запуски с использованием байткода с фс | real 0m3,550s user 0m2,801s sys 0m0,262s || |# commit_hash:84f7bb273b09d51b88eb5c5b6dfcd3bb7c108307 2025-01-16T19:26:51Z prettyboy prettyboy@yandex-team.com 2025-01-16T18:01:45Z urn:sha1:2f3fd95aac24e27a3b0aa2badda49db82bf36cc5 Режим позволяет перезапускать python тесты или интеграционные тесты на питон программы при внесении изменений в python файлы без перекомпиляции. Сценарий: - прогнали тесты - внесли изменение в `library/python/func/__init__.py` - перезапустили, смотрим на времена На примере интеграционного devtools/ya/handlers/analyze_make/tests в codenv (base конфигурация). #| || ya m -rA | ya m -rA --ext-py || || real 10m25,928s user 0m53,465s sys 1m14,791s ``` Total time by type: [935171 ms] [LD] [count: 3, ave time 311723.67 msec] [ 13657 ms] [prepare:AC] [count: 4, ave time 3414.25 msec] [ 10436 ms] [TM] [count: 1, ave time 10436.00 msec] [ 10387 ms] [prepare:get from local cache] [count: 1521, ave time 6.83 msec] [ 6480 ms] [TS] [count: 1, ave time 6480.00 msec] [ 3823 ms] [prepare:put into local cache, clean build dir] [count: 7, ave time 546.14 msec] [ 2279 ms] [CC] [count: 1, ave time 2279.00 msec] [ 1251 ms] [PY] [count: 1, ave time 1251.00 msec] [ 372 ms] [prepare:yt-store] [count: 2, ave time 186.00 msec] [ 154 ms] [AR] [count: 1, ave time 154.00 msec] ... ``` | real 0m22,094s user 0m26,372s sys 0m3,363s ``` Total time by type: [13140 ms] [TM] [count: 1, ave time 13140.00 msec] [ 351 ms] [prepare:yt-store] [count: 1, ave time 351.00 msec] [ 81 ms] [prepare:tools] [count: 8, ave time 10.12 msec] [ 32 ms] [prepare:AC] [count: 2, ave time 16.00 msec] [ 31 ms] [prepare:get from local cache] [count: 7, ave time 4.43 msec] [ 16 ms] [prepare:clean] [count: 3, ave time 5.33 msec] ``` || |# В codenv в base конфигуарции (4cpu) невероятно долго идёт линковка. Тот же самый сценарий, но на mous (54cpu) #| || ya m -rA | ya m -rA --ext-py || || real 0m25,435s user 0m40,242s sys 0m22,434s ``` Total time by type: [30958 ms] [prepare:get from local cache] [count: 1521, ave time 20.35 msec] [16293 ms] [prepare:AC] [count: 4, ave time 4073.25 msec] [11161 ms] [LD] [count: 3, ave time 3720.33 msec] [ 4256 ms] [TM] [count: 1, ave time 4256.00 msec] [ 3529 ms] [TS] [count: 1, ave time 3529.00 msec] [ 1542 ms] [CC] [count: 1, ave time 1542.00 msec] [ 635 ms] [PY] [count: 1, ave time 635.00 msec] ... ``` | real 0m18,321s user 0m21,673s sys 0m3,204s ``` Total time by type: [10786 ms] [TM] [count: 1, ave time 10786.00 msec] [ 1568 ms] [prepare:yt-store] [count: 1, ave time 1568.00 msec] [ 151 ms] [prepare:tools] [count: 8, ave time 18.88 msec] [ 61 ms] [prepare:get from local cache] [count: 7, ave time 8.71 msec] [ 48 ms] [prepare:AC] [count: 2, ave time 24.00 msec] [ 14 ms] [prepare:clean] [count: 3, ave time 4.67 msec] ``` || |# В новом режиме тест ожидаемо замедляется, так как все питон программы при каждом старте вынуждены читать файлы с фс (ещё через арк), а потом ещё и компилировать байткод, т.е. холодный запуск commit_hash:24c5a46a8385d3c065abfb6fc5b40f7ad24bb1cb 2024-04-13T15:08:29Z shadchin shadchin@yandex-team.com 2024-04-13T15:01:38Z urn:sha1:da6de0aefb4620d2a3515de3f478b5a0925d55ef 996025a2ee725b626c3b77aac016d8f8c0ac4e76 2024-02-29T19:09:59Z v-korovin v-korovin@yandex-team.com 2024-02-29T18:55:50Z urn:sha1:33bd3dfbfe7a189db201a984903c52c465332299 58bed0cef82a2a691f8f949d16c3d3b03d94f627 2024-02-18T23:50:43Z thegeorg thegeorg@yandex-team.com 2024-02-18T23:38:52Z urn:sha1:d96fa07134c06472bfee6718b5cfd1679196fc99 * Move src/ subdir contents to the top of the layout * Rename self-written lib -> lib2 to avoid CaseFolding warning from the VCS * Regenerate contrib/libs/python proxy-headers accordingly 4ccc62ac1511abcf0fed14ccade38e984e088f1e 2024-02-09T08:16:07Z shadchin shadchin@yandex-team.com 2024-02-09T08:05:14Z urn:sha1:24a348987aa5112cad623b5e54700ac0df8214cc 2023-12-22T19:30:08Z AlexSm alex@ydb.tech 2023-12-22T19:30:08Z urn:sha1:6b4f46a6883f21c16eef367106167ea59932515e 2023-12-12T18:39:21Z shadchin shadchin@yandex-team.com 2023-12-12T18:14:39Z urn:sha1:2ce9cccb9b0bdd4cd7a3491dc5cbf8687cda51de