* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 1, "n_threads_batch": 1, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 343.429474, "speed_pp": 5.963379, "t_tg": 0.000000, "speed_tg": nan, "t": 343.429474, "speed": 5.963379}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_0
To display your profiling results:
###################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
###################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_0 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_0 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_0 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_0 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_0 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_0 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_0 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_0 #
###################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 2, "n_threads_batch": 2, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 175.373154, "speed_pp": 11.677957, "t_tg": 0.000000, "speed_tg": nan, "t": 175.373154, "speed": 11.677957}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_1
To display your profiling results:
###################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
###################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_1 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_1 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_1 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_1 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_1 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_1 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_1 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_1 #
###################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 4, "n_threads_batch": 4, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 91.563545, "speed_pp": 22.366980, "t_tg": 0.000000, "speed_tg": nan, "t": 91.563545, "speed": 22.366980}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_2
To display your profiling results:
###################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
###################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_2 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_2 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_2 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_2 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_2 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_2 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_2 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_2 #
###################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 8, "n_threads_batch": 8, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 54.800751, "speed_pp": 37.371750, "t_tg": 0.000000, "speed_tg": nan, "t": 54.800751, "speed": 37.371750}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_3
To display your profiling results:
###################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
###################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_3 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_3 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_3 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_3 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_3 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_3 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_3 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_3 #
###################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 16, "n_threads_batch": 16, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 39.255421, "speed_pp": 52.171139, "t_tg": 0.000000, "speed_tg": nan, "t": 39.255421, "speed": 52.171139}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_4
To display your profiling results:
###################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
###################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_4 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_4 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_4 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_4 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_4 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_4 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_4 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_4 #
###################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 24, "n_threads_batch": 24, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 33.764027, "speed_pp": 60.656273, "t_tg": 0.000000, "speed_tg": nan, "t": 33.764027, "speed": 60.656273}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_5
To display your profiling results:
###################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
###################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_5 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_5 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_5 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_5 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_5 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_5 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_5 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_5 #
###################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 32, "n_threads_batch": 32, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 32.323849, "speed_pp": 63.358791, "t_tg": 0.000001, "speed_tg": 0.000000, "t": 32.323849, "speed": 63.358791}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_6
To display your profiling results:
###################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
###################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_6 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_6 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_6 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_6 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_6 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_6 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_6 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_6 #
###################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 40, "n_threads_batch": 40, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 32.581387, "speed_pp": 62.857975, "t_tg": 0.000000, "speed_tg": nan, "t": 32.581387, "speed": 62.857975}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_7
To display your profiling results:
###################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
###################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_7 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_7 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_7 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_7 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_7 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_7 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_7 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_7 #
###################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 48, "n_threads_batch": 48, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 33.695030, "speed_pp": 60.780476, "t_tg": 0.000000, "speed_tg": nan, "t": 33.695030, "speed": 60.780476}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_8
To display your profiling results:
###################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
###################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_8 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_8 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_8 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_8 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_8 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_8 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_8 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_8 #
###################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 56, "n_threads_batch": 56, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 34.047543, "speed_pp": 60.151184, "t_tg": 0.000000, "speed_tg": nan, "t": 34.047543, "speed": 60.151184}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_9
To display your profiling results:
###################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
###################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_9 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_9 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_9 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_9 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_9 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_9 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_9 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_9 #
###################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 64, "n_threads_batch": 64, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 35.495190, "speed_pp": 57.697960, "t_tg": 0.000000, "speed_tg": nan, "t": 35.495190, "speed": 57.697960}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_10
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_10 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_10 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_10 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_10 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_10 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_10 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_10 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_10 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 72, "n_threads_batch": 72, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 37.531616, "speed_pp": 54.567329, "t_tg": 0.000001, "speed_tg": 0.000000, "t": 37.531616, "speed": 54.567329}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_11
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_11 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_11 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_11 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_11 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_11 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_11 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_11 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_11 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 80, "n_threads_batch": 80, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 39.375168, "speed_pp": 52.012478, "t_tg": 0.000000, "speed_tg": nan, "t": 39.375168, "speed": 52.012478}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_12
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_12 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_12 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_12 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_12 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_12 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_12 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_12 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_12 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 88, "n_threads_batch": 88, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 41.367500, "speed_pp": 49.507462, "t_tg": 0.000000, "speed_tg": nan, "t": 41.367500, "speed": 49.507462}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_13
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_13 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_13 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_13 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_13 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_13 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_13 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_13 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_13 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-35-140.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 96, "n_threads_batch": 96, "pp": 128, "tg": 0, "pl": 16, "n_kv": 2048, "t_pp": 46.013744, "speed_pp": 44.508442, "t_tg": 0.000000, "speed_tg": nan, "t": 46.013744, "speed": 44.508442}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_14
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_14 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_14 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_14 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_14 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_14 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_14 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_14 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-35-140.ec2.internal/176-414-9491/llama.cpp/run/oneview_runs/multicore/gcc/maqao_2025-11-26_13-42-29/tools/lprof_npsu_run_14 #
####################################################################################################################################################################################################################################
