OV - exec - Outputs

Executable Output


* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal. 
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 1, "n_threads_batch": 1, "pp": 0, "tg": 128, "pl": 8, "n_kv": 1024, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 274.452850, "speed_tg": 3.731060, "t": 274.452850, "speed": 3.731060}





Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_0

To display your profiling results:
####################################################################################################################################################################################################################################
#    LEVEL    |     REPORT     |                                                                                              COMMAND                                                                                              #
####################################################################################################################################################################################################################################
#  Functions  |  Cluster-wide  |  maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_0      #
#  Functions  |  Per-node      |  maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_0  #
#  Functions  |  Per-process   |  maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_0  #
#  Functions  |  Per-thread    |  maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_0  #
#  Loops      |  Cluster-wide  |  maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_0      #
#  Loops      |  Per-node      |  maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_0  #
#  Loops      |  Per-process   |  maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_0  #
#  Loops      |  Per-thread    |  maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_0  #
####################################################################################################################################################################################################################################


* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal. 
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 2, "n_threads_batch": 2, "pp": 0, "tg": 128, "pl": 8, "n_kv": 1024, "t_pp": 0.000001, "speed_pp": 0.000000, "t_tg": 137.090408, "speed_tg": 7.469523, "t": 137.090408, "speed": 7.469523}





Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_1

To display your profiling results:
####################################################################################################################################################################################################################################
#    LEVEL    |     REPORT     |                                                                                              COMMAND                                                                                              #
####################################################################################################################################################################################################################################
#  Functions  |  Cluster-wide  |  maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_1      #
#  Functions  |  Per-node      |  maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_1  #
#  Functions  |  Per-process   |  maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_1  #
#  Functions  |  Per-thread    |  maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_1  #
#  Loops      |  Cluster-wide  |  maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_1      #
#  Loops      |  Per-node      |  maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_1  #
#  Loops      |  Per-process   |  maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_1  #
#  Loops      |  Per-thread    |  maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_1  #
####################################################################################################################################################################################################################################


* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal. 
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 4, "n_threads_batch": 4, "pp": 0, "tg": 128, "pl": 8, "n_kv": 1024, "t_pp": 0.000001, "speed_pp": 0.000000, "t_tg": 69.132187, "speed_tg": 14.812203, "t": 69.132187, "speed": 14.812203}





Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_2

To display your profiling results:
####################################################################################################################################################################################################################################
#    LEVEL    |     REPORT     |                                                                                              COMMAND                                                                                              #
####################################################################################################################################################################################################################################
#  Functions  |  Cluster-wide  |  maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_2      #
#  Functions  |  Per-node      |  maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_2  #
#  Functions  |  Per-process   |  maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_2  #
#  Functions  |  Per-thread    |  maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_2  #
#  Loops      |  Cluster-wide  |  maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_2      #
#  Loops      |  Per-node      |  maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_2  #
#  Loops      |  Per-process   |  maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_2  #
#  Loops      |  Per-thread    |  maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_2  #
####################################################################################################################################################################################################################################


* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal. 
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 8, "n_threads_batch": 8, "pp": 0, "tg": 128, "pl": 8, "n_kv": 1024, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 35.252304, "speed_tg": 29.047747, "t": 35.252304, "speed": 29.047747}





Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_3

To display your profiling results:
####################################################################################################################################################################################################################################
#    LEVEL    |     REPORT     |                                                                                              COMMAND                                                                                              #
####################################################################################################################################################################################################################################
#  Functions  |  Cluster-wide  |  maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_3      #
#  Functions  |  Per-node      |  maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_3  #
#  Functions  |  Per-process   |  maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_3  #
#  Functions  |  Per-thread    |  maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_3  #
#  Loops      |  Cluster-wide  |  maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_3      #
#  Loops      |  Per-node      |  maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_3  #
#  Loops      |  Per-process   |  maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_3  #
#  Loops      |  Per-thread    |  maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_3  #
####################################################################################################################################################################################################################################


* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal. 
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 16, "n_threads_batch": 16, "pp": 0, "tg": 128, "pl": 8, "n_kv": 1024, "t_pp": 0.000001, "speed_pp": 0.000000, "t_tg": 18.800680, "speed_tg": 54.466114, "t": 18.800682, "speed": 54.466110}





Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_4

To display your profiling results:
####################################################################################################################################################################################################################################
#    LEVEL    |     REPORT     |                                                                                              COMMAND                                                                                              #
####################################################################################################################################################################################################################################
#  Functions  |  Cluster-wide  |  maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_4      #
#  Functions  |  Per-node      |  maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_4  #
#  Functions  |  Per-process   |  maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_4  #
#  Functions  |  Per-thread    |  maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_4  #
#  Loops      |  Cluster-wide  |  maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_4      #
#  Loops      |  Per-node      |  maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_4  #
#  Loops      |  Per-process   |  maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_4  #
#  Loops      |  Per-thread    |  maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_4  #
####################################################################################################################################################################################################################################


* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal. 
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 24, "n_threads_batch": 24, "pp": 0, "tg": 128, "pl": 8, "n_kv": 1024, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 14.143866, "speed_tg": 72.398880, "t": 14.143866, "speed": 72.398880}





Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_5

To display your profiling results:
####################################################################################################################################################################################################################################
#    LEVEL    |     REPORT     |                                                                                              COMMAND                                                                                              #
####################################################################################################################################################################################################################################
#  Functions  |  Cluster-wide  |  maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_5      #
#  Functions  |  Per-node      |  maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_5  #
#  Functions  |  Per-process   |  maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_5  #
#  Functions  |  Per-thread    |  maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_5  #
#  Loops      |  Cluster-wide  |  maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_5      #
#  Loops      |  Per-node      |  maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_5  #
#  Loops      |  Per-process   |  maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_5  #
#  Loops      |  Per-thread    |  maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_5  #
####################################################################################################################################################################################################################################


* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal. 
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 32, "n_threads_batch": 32, "pp": 0, "tg": 128, "pl": 8, "n_kv": 1024, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 11.408938, "speed_tg": 89.754189, "t": 11.408938, "speed": 89.754189}





Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_6

To display your profiling results:
####################################################################################################################################################################################################################################
#    LEVEL    |     REPORT     |                                                                                              COMMAND                                                                                              #
####################################################################################################################################################################################################################################
#  Functions  |  Cluster-wide  |  maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_6      #
#  Functions  |  Per-node      |  maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_6  #
#  Functions  |  Per-process   |  maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_6  #
#  Functions  |  Per-thread    |  maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_6  #
#  Loops      |  Cluster-wide  |  maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_6      #
#  Loops      |  Per-node      |  maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_6  #
#  Loops      |  Per-process   |  maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_6  #
#  Loops      |  Per-thread    |  maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_6  #
####################################################################################################################################################################################################################################


* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal. 
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 40, "n_threads_batch": 40, "pp": 0, "tg": 128, "pl": 8, "n_kv": 1024, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 10.114850, "speed_tg": 101.237289, "t": 10.114850, "speed": 101.237289}





Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_7

To display your profiling results:
####################################################################################################################################################################################################################################
#    LEVEL    |     REPORT     |                                                                                              COMMAND                                                                                              #
####################################################################################################################################################################################################################################
#  Functions  |  Cluster-wide  |  maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_7      #
#  Functions  |  Per-node      |  maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_7  #
#  Functions  |  Per-process   |  maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_7  #
#  Functions  |  Per-thread    |  maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_7  #
#  Loops      |  Cluster-wide  |  maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_7      #
#  Loops      |  Per-node      |  maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_7  #
#  Loops      |  Per-process   |  maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_7  #
#  Loops      |  Per-thread    |  maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_7  #
####################################################################################################################################################################################################################################


* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal. 
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 48, "n_threads_batch": 48, "pp": 0, "tg": 128, "pl": 8, "n_kv": 1024, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 9.238904, "speed_tg": 110.835655, "t": 9.238904, "speed": 110.835655}





Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_8

To display your profiling results:
####################################################################################################################################################################################################################################
#    LEVEL    |     REPORT     |                                                                                              COMMAND                                                                                              #
####################################################################################################################################################################################################################################
#  Functions  |  Cluster-wide  |  maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_8      #
#  Functions  |  Per-node      |  maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_8  #
#  Functions  |  Per-process   |  maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_8  #
#  Functions  |  Per-thread    |  maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_8  #
#  Loops      |  Cluster-wide  |  maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_8      #
#  Loops      |  Per-node      |  maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_8  #
#  Loops      |  Per-process   |  maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_8  #
#  Loops      |  Per-thread    |  maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_8  #
####################################################################################################################################################################################################################################


* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal. 
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 56, "n_threads_batch": 56, "pp": 0, "tg": 128, "pl": 8, "n_kv": 1024, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 9.284827, "speed_tg": 110.287460, "t": 9.284827, "speed": 110.287460}





Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_9

To display your profiling results:
####################################################################################################################################################################################################################################
#    LEVEL    |     REPORT     |                                                                                              COMMAND                                                                                              #
####################################################################################################################################################################################################################################
#  Functions  |  Cluster-wide  |  maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_9      #
#  Functions  |  Per-node      |  maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_9  #
#  Functions  |  Per-process   |  maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_9  #
#  Functions  |  Per-thread    |  maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_9  #
#  Loops      |  Cluster-wide  |  maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_9      #
#  Loops      |  Per-node      |  maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_9  #
#  Loops      |  Per-process   |  maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_9  #
#  Loops      |  Per-thread    |  maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_9  #
####################################################################################################################################################################################################################################


* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal. 
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 64, "n_threads_batch": 64, "pp": 0, "tg": 128, "pl": 8, "n_kv": 1024, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 8.769047, "speed_tg": 116.774384, "t": 8.769047, "speed": 116.774384}





Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_10

To display your profiling results:
#####################################################################################################################################################################################################################################
#    LEVEL    |     REPORT     |                                                                                              COMMAND                                                                                               #
#####################################################################################################################################################################################################################################
#  Functions  |  Cluster-wide  |  maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_10      #
#  Functions  |  Per-node      |  maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_10  #
#  Functions  |  Per-process   |  maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_10  #
#  Functions  |  Per-thread    |  maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_10  #
#  Loops      |  Cluster-wide  |  maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_10      #
#  Loops      |  Per-node      |  maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_10  #
#  Loops      |  Per-process   |  maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_10  #
#  Loops      |  Per-thread    |  maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-414-5784/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-37-12/tools/lprof_npsu_run_10  #
#####################################################################################################################################################################################################################################

Report Configuration

Executable Output