* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 1, "n_threads_batch": 1, "pp": 0, "tg": 128, "pl": 16, "n_kv": 2048, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 553.234375, "speed_tg": 3.701867, "t": 553.234375, "speed": 3.701867}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_0
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_0 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_0 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_0 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_0 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_0 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_0 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_0 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_0 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 2, "n_threads_batch": 2, "pp": 0, "tg": 128, "pl": 16, "n_kv": 2048, "t_pp": 0.000001, "speed_pp": 0.000000, "t_tg": 275.407135, "speed_tg": 7.436264, "t": 275.407135, "speed": 7.436264}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_1
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_1 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_1 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_1 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_1 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_1 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_1 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_1 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_1 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 4, "n_threads_batch": 4, "pp": 0, "tg": 128, "pl": 16, "n_kv": 2048, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 138.222427, "speed_tg": 14.816698, "t": 138.222427, "speed": 14.816698}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_2
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_2 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_2 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_2 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_2 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_2 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_2 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_2 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_2 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 8, "n_threads_batch": 8, "pp": 0, "tg": 128, "pl": 16, "n_kv": 2048, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 69.856750, "speed_tg": 29.317139, "t": 69.856750, "speed": 29.317139}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_3
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_3 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_3 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_3 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_3 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_3 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_3 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_3 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_3 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 16, "n_threads_batch": 16, "pp": 0, "tg": 128, "pl": 16, "n_kv": 2048, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 36.116482, "speed_tg": 56.705414, "t": 36.116482, "speed": 56.705414}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_4
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_4 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_4 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_4 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_4 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_4 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_4 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_4 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_4 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 24, "n_threads_batch": 24, "pp": 0, "tg": 128, "pl": 16, "n_kv": 2048, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 26.195873, "speed_tg": 78.180252, "t": 26.195873, "speed": 78.180252}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_5
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_5 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_5 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_5 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_5 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_5 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_5 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_5 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_5 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 32, "n_threads_batch": 32, "pp": 0, "tg": 128, "pl": 16, "n_kv": 2048, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 19.857237, "speed_tg": 103.136200, "t": 19.857237, "speed": 103.136200}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_6
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_6 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_6 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_6 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_6 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_6 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_6 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_6 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_6 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 40, "n_threads_batch": 40, "pp": 0, "tg": 128, "pl": 16, "n_kv": 2048, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 17.380371, "speed_tg": 117.834076, "t": 17.380371, "speed": 117.834076}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_7
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_7 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_7 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_7 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_7 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_7 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_7 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_7 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_7 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 48, "n_threads_batch": 48, "pp": 0, "tg": 128, "pl": 16, "n_kv": 2048, "t_pp": 0.000001, "speed_pp": 0.000000, "t_tg": 15.449883, "speed_tg": 132.557648, "t": 15.449883, "speed": 132.557632}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_8
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_8 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_8 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_8 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_8 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_8 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_8 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_8 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_8 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 56, "n_threads_batch": 56, "pp": 0, "tg": 128, "pl": 16, "n_kv": 2048, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 14.411266, "speed_tg": 142.111038, "t": 14.411266, "speed": 142.111038}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_9
To display your profiling results:
####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_9 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_9 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_9 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_9 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_9 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_9 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_9 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_9 #
####################################################################################################################################################################################################################################
* [MAQAO] Info: Detected 1 Lprof instances in ip-172-31-46-37.ec2.internal.
If this is incorrect, rerun with number-processes-per-node=X
{"n_kv_max": 16384, "n_batch": 2048, "n_ubatch": 512, "flash_attn": -1, "is_pp_shared": 0, "n_gpu_layers": -1, "n_threads": 64, "n_threads_batch": 64, "pp": 0, "tg": 128, "pl": 16, "n_kv": 2048, "t_pp": 0.000000, "speed_pp": nan, "t_tg": 12.814223, "speed_tg": 159.822403, "t": 12.814223, "speed": 159.822403}
Your experiment path is /home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_10
To display your profiling results:
#####################################################################################################################################################################################################################################
# LEVEL | REPORT | COMMAND #
#####################################################################################################################################################################################################################################
# Functions | Cluster-wide | maqao lprof -df xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_10 #
# Functions | Per-node | maqao lprof -df -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_10 #
# Functions | Per-process | maqao lprof -df -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_10 #
# Functions | Per-thread | maqao lprof -df -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_10 #
# Loops | Cluster-wide | maqao lprof -dl xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_10 #
# Loops | Per-node | maqao lprof -dl -dn xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_10 #
# Loops | Per-process | maqao lprof -dl -dp xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_10 #
# Loops | Per-thread | maqao lprof -dl -dt xp=/home/eoseret/Tools/QaaS/qaas_runs/ip-172-31-46-37.ec2.internal/176-415-3385/llama.cpp/run/oneview_runs/multicore/gcc_5/maqao_2025-11-26_16-50-35/tools/lprof_npsu_run_10 #
#####################################################################################################################################################################################################################################
