options

Loops Index

Columns Filter

Level Max Thread Time / Walltime 1x1 (%) Max Thread Time / Walltime 1x2 (%) Max Thread Time / Walltime 1x4 (%) Max Thread Time / Walltime 1x8 (%) Max Thread Time / Walltime 1x16 (%) Max Thread Time / Walltime 1x24 (%) Max Thread Time / Walltime 1x32 (%) Max Thread Time / Walltime 1x40 (%) Max Thread Time / Walltime 1x48 (%) Max Thread Time / Walltime 1x56 (%) Max Thread Time / Walltime 1x64 (%) Max Thread Time / Walltime 1x72 (%) Max Thread Time / Walltime 1x80 (%) Max Thread Time / Walltime 1x88 (%) Max Thread Time / Walltime 1x96 (%) Exclusive Coverage 1x1 (%) Exclusive Coverage 1x2 (%) Exclusive Coverage 1x4 (%) Exclusive Coverage 1x8 (%) Exclusive Coverage 1x16 (%) Exclusive Coverage 1x24 (%) Exclusive Coverage 1x32 (%) Exclusive Coverage 1x40 (%) Exclusive Coverage 1x48 (%) Exclusive Coverage 1x56 (%) Exclusive Coverage 1x64 (%) Exclusive Coverage 1x72 (%) Exclusive Coverage 1x80 (%) Exclusive Coverage 1x88 (%) Exclusive Coverage 1x96 (%) Inclusive Coverage 1x1 (%) Inclusive Coverage 1x2 (%) Inclusive Coverage 1x4 (%) Inclusive Coverage 1x8 (%) Inclusive Coverage 1x16 (%) Inclusive Coverage 1x24 (%) Inclusive Coverage 1x32 (%) Inclusive Coverage 1x40 (%) Inclusive Coverage 1x48 (%) Inclusive Coverage 1x56 (%) Inclusive Coverage 1x64 (%) Inclusive Coverage 1x72 (%) Inclusive Coverage 1x80 (%) Inclusive Coverage 1x88 (%) Inclusive Coverage 1x96 (%) Max Exclusive Time Over Threads 1x1 (s) Max Exclusive Time Over Threads 1x2 (s) Max Exclusive Time Over Threads 1x4 (s) Max Exclusive Time Over Threads 1x8 (s) Max Exclusive Time Over Threads 1x16 (s) Max Exclusive Time Over Threads 1x24 (s) Max Exclusive Time Over Threads 1x32 (s) Max Exclusive Time Over Threads 1x40 (s) Max Exclusive Time Over Threads 1x48 (s) Max Exclusive Time Over Threads 1x56 (s) Max Exclusive Time Over Threads 1x64 (s) Max Exclusive Time Over Threads 1x72 (s) Max Exclusive Time Over Threads 1x80 (s) Max Exclusive Time Over Threads 1x88 (s) Max Exclusive Time Over Threads 1x96 (s) Max Inclusive Time Over Threads 1x1 (s) Max Inclusive Time Over Threads 1x2 (s) Max Inclusive Time Over Threads 1x4 (s) Max Inclusive Time Over Threads 1x8 (s) Max Inclusive Time Over Threads 1x16 (s) Max Inclusive Time Over Threads 1x24 (s) Max Inclusive Time Over Threads 1x32 (s) Max Inclusive Time Over Threads 1x40 (s) Max Inclusive Time Over Threads 1x48 (s) Max Inclusive Time Over Threads 1x56 (s) Max Inclusive Time Over Threads 1x64 (s) Max Inclusive Time Over Threads 1x72 (s) Max Inclusive Time Over Threads 1x80 (s) Max Inclusive Time Over Threads 1x88 (s) Max Inclusive Time Over Threads 1x96 (s) Exclusive Time w.r.t. Wall Time 1x1 (s) Exclusive Time w.r.t. Wall Time 1x2 (s) Exclusive Time w.r.t. Wall Time 1x4 (s) Exclusive Time w.r.t. Wall Time 1x8 (s) Exclusive Time w.r.t. Wall Time 1x16 (s) Exclusive Time w.r.t. Wall Time 1x24 (s) Exclusive Time w.r.t. Wall Time 1x32 (s) Exclusive Time w.r.t. Wall Time 1x40 (s) Exclusive Time w.r.t. Wall Time 1x48 (s) Exclusive Time w.r.t. Wall Time 1x56 (s) Exclusive Time w.r.t. Wall Time 1x64 (s) Exclusive Time w.r.t. Wall Time 1x72 (s) Exclusive Time w.r.t. Wall Time 1x80 (s) Exclusive Time w.r.t. Wall Time 1x88 (s) Exclusive Time w.r.t. Wall Time 1x96 (s) Inclusive Time w.r.t. Wall Time 1x1 (s) Inclusive Time w.r.t. Wall Time 1x2 (s) Inclusive Time w.r.t. Wall Time 1x4 (s) Inclusive Time w.r.t. Wall Time 1x8 (s) Inclusive Time w.r.t. Wall Time 1x16 (s) Inclusive Time w.r.t. Wall Time 1x24 (s) Inclusive Time w.r.t. Wall Time 1x32 (s) Inclusive Time w.r.t. Wall Time 1x40 (s) Inclusive Time w.r.t. Wall Time 1x48 (s) Inclusive Time w.r.t. Wall Time 1x56 (s) Inclusive Time w.r.t. Wall Time 1x64 (s) Inclusive Time w.r.t. Wall Time 1x72 (s) Inclusive Time w.r.t. Wall Time 1x80 (s) Inclusive Time w.r.t. Wall Time 1x88 (s) Inclusive Time w.r.t. Wall Time 1x96 (s) Nb Threads 1x1 Nb Threads 1x2 Nb Threads 1x4 Nb Threads 1x8 Nb Threads 1x16 Nb Threads 1x24 Nb Threads 1x32 Nb Threads 1x40 Nb Threads 1x48 Nb Threads 1x56 Nb Threads 1x64 Nb Threads 1x72 Nb Threads 1x80 Nb Threads 1x88 Nb Threads 1x96 Vectorization Ratio (%) Vector Length Use (%) Speedup If No Scalar Integer Speedup If FP Vectorized Speedup If Fully Vectorized Speedup If Perfect Load Balancing 1x1 Speedup If Perfect Load Balancing 1x2 Speedup If Perfect Load Balancing 1x4 Speedup If Perfect Load Balancing 1x8 Speedup If Perfect Load Balancing 1x16 Speedup If Perfect Load Balancing 1x24 Speedup If Perfect Load Balancing 1x32 Speedup If Perfect Load Balancing 1x40 Speedup If Perfect Load Balancing 1x48 Speedup If Perfect Load Balancing 1x56 Speedup If Perfect Load Balancing 1x64 Speedup If Perfect Load Balancing 1x72 Speedup If Perfect Load Balancing 1x80 Speedup If Perfect Load Balancing 1x88 Speedup If Perfect Load Balancing 1x96 Stride 0 Stride 1 Stride n Stride Unknown Stride Indirect Array Access Efficiency (1x1) Efficiency (1x1) Potential Speed-Up (%) (1x2) Efficiency (1x2) Potential Speed-Up (%) (1x4) Efficiency (1x4) Potential Speed-Up (%) (1x8) Efficiency (1x8) Potential Speed-Up (%) (1x16) Efficiency (1x16) Potential Speed-Up (%) (1x24) Efficiency (1x24) Potential Speed-Up (%) (1x32) Efficiency (1x32) Potential Speed-Up (%) (1x40) Efficiency (1x40) Potential Speed-Up (%) (1x48) Efficiency (1x48) Potential Speed-Up (%) (1x56) Efficiency (1x56) Potential Speed-Up (%) (1x64) Efficiency (1x64) Potential Speed-Up (%) (1x72) Efficiency (1x72) Potential Speed-Up (%) (1x80) Efficiency (1x80) Potential Speed-Up (%) (1x88) Efficiency (1x88) Potential Speed-Up (%) (1x96) Efficiency (1x96) Potential Speed-Up (%) Level Max Thread Time / Walltime Exclusive Coverage Inclusive Coverage Max Exclusive Time Over Threads Max Inclusive Time Over Threads Exclusive Time w.r.t. Wall Time Inclusive Time w.r.t. Wall Time Nb Threads Vectorization Ratio Vector Length Use Speedup If No Scalar Integer Speedup If FP Vectorized Speedup If Fully Vectorized Speedup If Perfect Load Balancing Stride 0 Stride 1 Stride n Stride Unknown Stride Indirect Array Access Efficiency Efficiency Potential Speed-Up
Run 1 Run 2 Run 3 Run 4 Run 5 Run 6 Run 7 Run 8 Run 9 Run 10 Run 11 Run 12 Run 13 Run 14 Run 15
Loop idSource LocationSource FunctionLevelMax Thread Time / Walltime 1x1 (%)Max Thread Time / Walltime 1x2 (%)Max Thread Time / Walltime 1x4 (%)Max Thread Time / Walltime 1x8 (%)Max Thread Time / Walltime 1x16 (%)Max Thread Time / Walltime 1x24 (%)Max Thread Time / Walltime 1x32 (%)Max Thread Time / Walltime 1x40 (%)Max Thread Time / Walltime 1x48 (%)Max Thread Time / Walltime 1x56 (%)Max Thread Time / Walltime 1x64 (%)Max Thread Time / Walltime 1x72 (%)Max Thread Time / Walltime 1x80 (%)Max Thread Time / Walltime 1x88 (%)Max Thread Time / Walltime 1x96 (%)Exclusive Coverage 1x1 (%)Exclusive Coverage 1x2 (%)Exclusive Coverage 1x4 (%)Exclusive Coverage 1x8 (%)Exclusive Coverage 1x16 (%)Exclusive Coverage 1x24 (%)Exclusive Coverage 1x32 (%)Exclusive Coverage 1x40 (%)Exclusive Coverage 1x48 (%)Exclusive Coverage 1x56 (%)Exclusive Coverage 1x64 (%)Exclusive Coverage 1x72 (%)Exclusive Coverage 1x80 (%)Exclusive Coverage 1x88 (%)Exclusive Coverage 1x96 (%)Inclusive Coverage 1x1 (%)Inclusive Coverage 1x2 (%)Inclusive Coverage 1x4 (%)Inclusive Coverage 1x8 (%)Inclusive Coverage 1x16 (%)Inclusive Coverage 1x24 (%)Inclusive Coverage 1x32 (%)Inclusive Coverage 1x40 (%)Inclusive Coverage 1x48 (%)Inclusive Coverage 1x56 (%)Inclusive Coverage 1x64 (%)Inclusive Coverage 1x72 (%)Inclusive Coverage 1x80 (%)Inclusive Coverage 1x88 (%)Inclusive Coverage 1x96 (%)Max Exclusive Time Over Threads 1x1 (s)Max Exclusive Time Over Threads 1x2 (s)Max Exclusive Time Over Threads 1x4 (s)Max Exclusive Time Over Threads 1x8 (s)Max Exclusive Time Over Threads 1x16 (s)Max Exclusive Time Over Threads 1x24 (s)Max Exclusive Time Over Threads 1x32 (s)Max Exclusive Time Over Threads 1x40 (s)Max Exclusive Time Over Threads 1x48 (s)Max Exclusive Time Over Threads 1x56 (s)Max Exclusive Time Over Threads 1x64 (s)Max Exclusive Time Over Threads 1x72 (s)Max Exclusive Time Over Threads 1x80 (s)Max Exclusive Time Over Threads 1x88 (s)Max Exclusive Time Over Threads 1x96 (s)Max Inclusive Time Over Threads 1x1 (s)Max Inclusive Time Over Threads 1x2 (s)Max Inclusive Time Over Threads 1x4 (s)Max Inclusive Time Over Threads 1x8 (s)Max Inclusive Time Over Threads 1x16 (s)Max Inclusive Time Over Threads 1x24 (s)Max Inclusive Time Over Threads 1x32 (s)Max Inclusive Time Over Threads 1x40 (s)Max Inclusive Time Over Threads 1x48 (s)Max Inclusive Time Over Threads 1x56 (s)Max Inclusive Time Over Threads 1x64 (s)Max Inclusive Time Over Threads 1x72 (s)Max Inclusive Time Over Threads 1x80 (s)Max Inclusive Time Over Threads 1x88 (s)Max Inclusive Time Over Threads 1x96 (s)Exclusive Time w.r.t. Wall Time 1x1 (s)Exclusive Time w.r.t. Wall Time 1x2 (s)Exclusive Time w.r.t. Wall Time 1x4 (s)Exclusive Time w.r.t. Wall Time 1x8 (s)Exclusive Time w.r.t. Wall Time 1x16 (s)Exclusive Time w.r.t. Wall Time 1x24 (s)Exclusive Time w.r.t. Wall Time 1x32 (s)Exclusive Time w.r.t. Wall Time 1x40 (s)Exclusive Time w.r.t. Wall Time 1x48 (s)Exclusive Time w.r.t. Wall Time 1x56 (s)Exclusive Time w.r.t. Wall Time 1x64 (s)Exclusive Time w.r.t. Wall Time 1x72 (s)Exclusive Time w.r.t. Wall Time 1x80 (s)Exclusive Time w.r.t. Wall Time 1x88 (s)Exclusive Time w.r.t. Wall Time 1x96 (s)Inclusive Time w.r.t. Wall Time 1x1 (s)Inclusive Time w.r.t. Wall Time 1x2 (s)Inclusive Time w.r.t. Wall Time 1x4 (s)Inclusive Time w.r.t. Wall Time 1x8 (s)Inclusive Time w.r.t. Wall Time 1x16 (s)Inclusive Time w.r.t. Wall Time 1x24 (s)Inclusive Time w.r.t. Wall Time 1x32 (s)Inclusive Time w.r.t. Wall Time 1x40 (s)Inclusive Time w.r.t. Wall Time 1x48 (s)Inclusive Time w.r.t. Wall Time 1x56 (s)Inclusive Time w.r.t. Wall Time 1x64 (s)Inclusive Time w.r.t. Wall Time 1x72 (s)Inclusive Time w.r.t. Wall Time 1x80 (s)Inclusive Time w.r.t. Wall Time 1x88 (s)Inclusive Time w.r.t. Wall Time 1x96 (s)Nb Threads 1x1Nb Threads 1x2Nb Threads 1x4Nb Threads 1x8Nb Threads 1x16Nb Threads 1x24Nb Threads 1x32Nb Threads 1x40Nb Threads 1x48Nb Threads 1x56Nb Threads 1x64Nb Threads 1x72Nb Threads 1x80Nb Threads 1x88Nb Threads 1x96Vectorization Ratio (%)Vector Length Use (%)Speedup If No Scalar IntegerSpeedup If FP VectorizedSpeedup If Fully VectorizedSpeedup If Perfect Load Balancing 1x1Speedup If Perfect Load Balancing 1x2Speedup If Perfect Load Balancing 1x4Speedup If Perfect Load Balancing 1x8Speedup If Perfect Load Balancing 1x16Speedup If Perfect Load Balancing 1x24Speedup If Perfect Load Balancing 1x32Speedup If Perfect Load Balancing 1x40Speedup If Perfect Load Balancing 1x48Speedup If Perfect Load Balancing 1x56Speedup If Perfect Load Balancing 1x64Speedup If Perfect Load Balancing 1x72Speedup If Perfect Load Balancing 1x80Speedup If Perfect Load Balancing 1x88Speedup If Perfect Load Balancing 1x96Stride 0Stride 1Stride nStride UnknownStride IndirectArray Access Efficiency(1x1) Efficiency(1x1) Potential Speed-Up (%)(1x2) Efficiency(1x2) Potential Speed-Up (%)(1x4) Efficiency(1x4) Potential Speed-Up (%)(1x8) Efficiency(1x8) Potential Speed-Up (%)(1x16) Efficiency(1x16) Potential Speed-Up (%)(1x24) Efficiency(1x24) Potential Speed-Up (%)(1x32) Efficiency(1x32) Potential Speed-Up (%)(1x40) Efficiency(1x40) Potential Speed-Up (%)(1x48) Efficiency(1x48) Potential Speed-Up (%)(1x56) Efficiency(1x56) Potential Speed-Up (%)(1x64) Efficiency(1x64) Potential Speed-Up (%)(1x72) Efficiency(1x72) Potential Speed-Up (%)(1x80) Efficiency(1x80) Potential Speed-Up (%)(1x88) Efficiency(1x88) Potential Speed-Up (%)(1x96) Efficiency(1x96) Potential Speed-Up (%)
2416libggml-cpu.so - quants.c:1089-1112 [...]ggml_vec_dot_q8_0_q8_0Single69.3269.2170.5768.5269.1169.8968.7169.0171.6469.7768.5868.0869.1469.2869.4470.7770.6270.8170.5769.7769.2068.5870.1969.9570.7270.4669.1670.6770.8369.8670.7770.6270.8170.5769.7769.2068.5870.1969.9570.7270.4669.1670.6770.8369.867.827.747.937.687.797.847.717.748.007.847.707.657.807.747.777.827.747.937.687.797.847.717.748.007.847.707.657.807.747.777.517.427.497.447.367.337.157.437.347.457.477.317.527.447.367.517.427.497.447.367.337.157.437.347.457.477.317.527.447.3696969696969696969696969696969653.8563.461.21.081.421.071.071.081.061.081.11.091.071.121.071.061.071.061.071.08000000.00101.010101.0101.0201.0201.0501.0101.0201.0101.0101.03010.141.0101.020
72libggml-cpu.so - ggml-cpu.c:533-2897 [...]ggml_graph_compute_threadInnermost1.371.341.511.381.331.291.921.031.081.601.381.251.241.301.340.560.560.630.570.550.540.650.450.490.620.630.500.510.560.540.560.560.630.570.550.540.650.450.490.620.630.500.510.560.540.160.150.170.160.150.140.220.120.120.180.160.140.140.140.150.160.150.170.160.150.140.220.120.120.180.160.140.140.140.150.060.060.070.060.060.060.070.050.050.070.070.050.050.060.060.060.060.070.060.060.060.070.050.050.070.070.050.050.060.06848185838285868482858483858082050111.082.342.212.332.262.262.322.892.172.042.492.072.332.322.092.3NANANANANA0.00101.0100.890.070.980.011.0201.0400.880.081.2401.1500.910.060.880.071.1101.080101.040
73libggml-cpu.so - ggml-cpu.c:533-2897 [...]ggml_graph_compute_threadOutermost0.930.890.801.030.931.250.940.670.941.160.800.850.970.851.070.390.370.370.410.360.420.360.300.340.390.320.330.400.340.330.950.931.000.980.900.961.010.750.831.010.950.830.910.910.880.100.100.090.110.100.140.100.080.110.130.090.090.110.100.120.250.240.240.240.240.280.280.180.210.300.220.190.220.220.210.040.040.040.040.040.040.040.030.040.040.030.030.040.040.040.100.100.110.100.100.100.110.080.090.110.100.090.100.100.09929495949293909194909293929193041.071142.52.552.32.692.733.152.652.312.963.012.652.742.532.583.4NANANANANA0.00101.0501.0400.960.021.100.930.031.0901.301.160101.2301.200.970.011.1501.170
908libggml-cpu.so - vec.cpp:311-316ggml_vec_dot_f16Single1.331.161.161.201.381.251.561.071.031.201.161.291.201.071.120.310.300.270.270.280.290.300.280.270.300.280.270.260.280.270.310.300.270.270.280.290.300.280.270.300.280.270.260.280.270.150.130.130.140.160.140.180.120.120.140.130.140.130.120.130.150.130.130.140.160.140.180.120.120.140.130.140.130.120.130.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.033232323232323232323232323232321001001111.581.421.571.61.771.581.891.371.381.471.491.741.661.421.4920000100.00101.0401.1401.1201.0901.0601.0401.0801.1301.0301.0801.1401.1701.1201.120
56libggml-cpu.so - ggml-cpu.c:1125-1395 [...]ggml_compute_forward_mul_matInBetween0.530.400.450.490.440.490.450.540.540.490.400.440.580.450.450.190.200.230.230.200.210.190.190.200.220.190.210.210.220.200.310.330.350.350.330.330.300.300.310.340.320.320.330.330.330.060.050.050.050.050.060.050.060.060.050.040.050.060.050.050.070.080.060.070.070.070.070.070.070.070.070.070.080.070.070.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.030.030.040.040.040.030.030.030.030.040.030.030.030.030.03959696949294919295959494939695050.29111.272.982.232.12.322.322.472.4132.872.372.242.242.822.262.36NANANANANA0.00100.9900.830.040.860.030.970.010.90.021.0201.0300.960.010.870.031.0100.910.020.890.020.90.020.940.01
1898libggml-cpu.so - ops.cpp:8792-8880 [...]ggml_compute_forward_flash_attn_extInBetween0.800.630.710.760.750.710.761.200.900.890.800.710.750.810.850.160.170.160.180.160.160.160.170.170.150.170.170.160.150.170.300.290.290.300.300.300.300.310.290.280.320.300.300.280.310.090.070.080.090.090.080.090.140.100.100.090.080.090.090.090.150.130.130.130.160.140.160.150.150.170.150.130.150.140.140.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.030.030.030.030.030.030.030.030.030.030.030.030.030.030.033332323232333433323232323232328.4238.162.262.51.181.911.351.611.551.751.651.842.681.962.091.711.521.741.931.79NANANANANA0.00100.940.010.9700.890.021.0100.960.01100.930.010.950.011.0200.920.010.920.010.9901.0400.910.02
1910libggml-cpu.so - vec.h:491-497ggml_compute_forward_flash_attn_extInnermost0.800.630.710.540.750.670.620.670.540.670.670.580.710.720.710.140.120.130.130.150.140.140.140.130.130.150.130.140.130.140.140.120.130.130.150.140.140.140.130.130.150.130.140.130.140.090.070.080.060.090.080.070.080.060.070.080.060.080.080.080.090.070.080.060.090.080.070.080.060.070.080.060.080.080.080.010.010.010.010.020.010.010.020.010.010.020.010.010.010.010.010.010.010.010.020.010.010.020.010.010.020.010.010.010.013232323232323232323232323232321001001112.091.831.991.551.861.731.651.681.541.91.631.661.821.961.8420000100.00101.1201.0701.1100.940.010.9901.0200.960.011.101.0900.930.011.0900.9801.0500.980
53libggml-cpu.so - ggml-cpu.c:1183-1194 [...]ggml_compute_forward_mul_matInnermost0.270.270.220.310.220.310.270.270.220.220.220.220.220.220.270.080.090.080.090.090.090.080.080.080.080.090.090.090.090.080.080.090.080.090.090.090.080.080.080.080.090.090.090.090.080.030.030.030.040.030.040.030.030.030.030.030.030.030.030.030.030.030.030.040.030.040.030.030.030.030.030.030.030.030.030.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.01828477797874787776758181847578052.17111.73.062.822.413.112.22.933.062.912.392.482.352.382.412.192.8210000100.00100.90.011.0100.90.010.910.010.90.011.0601.0101.0101.0700.930.010.9400.920.010.940.010.970
1596libggml-cpu.so - ops.cpp:6220-6245 [...]ggml_compute_forward_rope_f32(ggml_compute_params const*, ggml_tensor*, bool)Innermost0.180.220.310.180.270.180.220.220.270.220.270.270.270.220.220.070.060.070.060.080.070.070.060.080.070.070.080.070.050.060.070.060.070.060.080.070.070.060.080.070.070.080.070.050.060.020.030.040.020.030.020.030.030.030.020.030.030.030.030.030.020.030.040.020.030.020.030.030.030.020.030.030.030.030.030.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.0164717669747578717572737879667027.2736.3611.883.051.942.773.642.492.922.262.772.913.022.673.2433.413.332.922001083.33101.0300.90.011.1900.870.010.9800.9501.0800.880.010.9800.9700.840.010.9501.3301.10
2401libggml-cpu.so - ggml-impl.h:355-404 [...]quantize_row_q8_0Single0.350.220.180.220.270.220.220.270.270.270.220.220.270.310.220.060.070.070.060.060.060.050.070.060.070.060.070.060.070.060.060.070.070.060.060.060.050.070.060.070.060.070.060.070.060.040.030.020.030.030.030.020.030.030.030.030.030.030.040.030.040.030.020.030.030.030.020.030.030.030.030.030.030.040.030.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.0166727364726768777174707173706670.2172.861.131.031.134.472.772.12.53.722.753.373.43.493.422.732.693.423.682.66000000.00100.910.010.850.010.920.011.0200.9601.1800.860.010.9700.910.010.920.010.890.010.920.010.890.010.950
2417libggml-cpu.so - quants.c:910-948 [...]ggml_vec_dot_q8_0_q8_0Single0.090.090.090.180.130.130.090.180.130.180.180.220.180.090.130.040.050.050.040.060.030.030.010.040.030.010.010.080.010.040.040.050.050.040.060.030.030.010.040.030.010.010.080.010.040.010.010.010.020.010.010.010.020.020.020.020.020.020.010.010.010.010.010.020.010.010.010.020.020.020.020.020.020.010.010.000.010.010.000.010.000.000.000.000.000.000.000.010.000.000.000.010.010.000.010.000.000.000.000.000.000.000.010.000.0061768561765247373299582245681.2584.38111.161.651.411.633.012.022.691.841.22.521.872.41.6721.852.180007050.00100.690.020.710.020.9100.660.021.2701.4607.3500.850.011.204.9204.9200.450.052.8400.960
54libggml-cpu.so - ggml-cpu.c:1125-1395 [...]ggml_compute_forward_mul_matInnermost0.130.130.180.180.180.130.180.130.180.180.180.130.130.130.180.030.040.040.030.040.030.030.030.030.040.040.020.030.030.040.030.040.040.030.040.030.030.030.030.040.040.020.030.030.040.010.010.020.020.020.020.020.020.020.020.020.020.020.010.020.010.010.020.020.020.020.020.020.020.020.020.020.020.010.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.005456585058394443385049354244490551112.382.182.942.992.672.292.932.32.532.72.252.232.382.42.65NANANANANA0.00100.8800.860.011.0200.780.011.3201.1401.2101.1300.9200.780.011.4401.2801.2300.920
916libggml-cpu.so - vec.h:1045-1072 [...]ggml_vec_swiglu_f32Innermost2.172.191.742.362.081.741.922.051.612.232.001.912.211.841.970.020.020.020.030.020.020.020.020.020.030.020.020.030.020.020.020.020.020.030.020.020.020.020.020.030.020.020.030.020.020.250.250.200.260.230.190.210.230.180.250.220.220.250.200.220.250.250.200.260.230.190.210.230.180.250.220.220.250.200.220.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0011121212112111283.3391.671.04111111.9611.9511.96111.911111.96NANANANANA0.0010101.2600.9101.0501.2201.1501.0401.3600.9801.0401.1400.9801.1901.080
0libggml-cpu.so - ggml-cpu.c:3228-3229 [...]ggml_cpu_fp32_to_fp16Single0.310.270.090.090.180.130.180.360.090.220.310.130.220.130.130.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.040.030.010.010.020.010.020.040.010.020.040.010.030.020.010.040.030.010.010.020.010.020.040.010.020.040.010.030.020.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001311915111815871091013151497.2298.611114.143.31.81.873.142.734.271.43.573.712.53.422.252.4720000100.00101.102.201.3801.5801.0901.1101.4602.201.5801.2901.8301.1601.101.290
437libggml-cpu.so - binary-ops.cpp:10-32 [...]ggml_compute_forward_add_non_quantizedInnermost0.930.760.940.540.670.620.530.451.080.620.930.671.110.580.760.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.110.090.110.060.070.070.060.050.120.070.110.080.130.060.080.110.090.110.060.070.070.060.050.120.070.110.080.130.060.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.002111111111111120301141.9111111111111111.890003050.00101.2901.0501.8301.4701.5601.8502.1900.9101.5801.0401.4600.8801.6901.220
58libggml-cpu.so - ggml-cpu.c:1289-1297ggml_compute_forward_mul_matInnermost0.130.040.180.090.090.040.090.090.090.090.040.090.090.090.090.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.020.010.020.010.010.010.010.010.010.010.010.010.010.010.010.020.010.020.010.010.010.010.010.010.010.010.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001718171414141115131610171916170501122.4313.091.871.8711.831.671.861.8811.891.91.781.791001075.00101.1700.9501.401.4101.4901.7701.1601.501.2402.0901.1601.0501.1601.10
541libggml-cpu.so - binary-ops.cpp:18-32 [...]ggml_compute_forward_mulInnermost0.840.670.850.760.620.940.620.760.670.800.710.890.800.810.800.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.090.080.090.080.070.110.070.090.080.090.080.100.090.090.090.090.080.090.080.070.110.070.090.080.090.080.100.090.090.090.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00111111111111111028.951141111111111111110003050.00101.270101.1201.3600.901.3701.1101.2601.0601.1800.9501.0501.0501.050
1588libggml-cpu.so - ops.cpp:6210-6484 [...]ggml_compute_forward_rope_f32(ggml_compute_params const*, ggml_tensor*, bool)Outermost0.090.130.130.090.040.090.130.090.090.090.130.130.090.090.090.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.090.090.090.080.090.090.090.080.100.090.090.100.090.070.080.010.020.010.010.010.010.020.010.010.010.010.020.010.010.010.040.040.030.030.030.030.030.030.030.020.030.040.030.030.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.010.010.010.010.010.010.010.010.010.010.010.0116171412101813141391511161312043.5112.741.682.432.211.7111.712.441.651.731.82.372.541.451.731.6NANANANANA0.00100.910101.3601.9100.901.201.1101.2601.910101.4600.8601.2601.260
1591libggml-cpu.so - ops.cpp:6446-6456 [...]ggml_compute_forward_rope_f32(ggml_compute_params const*, ggml_tensor*, bool)Innermost0.090.130.090.090.090.090.130.090.090.090.090.090.090.130.130.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.020.010.010.010.010.010.010.010.010.010.010.010.010.010.010.020.010.010.010.010.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001413101610141415141415151413866.6747.221.071.582.311.752.291.331.521.671.652.211.671.651.751.871.761.752.292.180102066.67100.9401.0700.7601.3400.9300.8500.8800.94010100.940100.9401.450
2503libllama.so - stl_heap.h:140-263 [...]llama_token_data_array_partial_sort_inplace(llama_token_data_array*, int)Outermost0.400.130.220.180.270.310.040.270.270.270.180.270.270.310.220.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.010.030.020.030.040.000.030.030.030.020.030.030.040.020.040.020.030.020.030.040.000.030.040.040.020.040.030.040.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00111111111111111037.54.6712.87111111111111111NANANANANA0.0010301.802.2501.5101.2809.0901.4901.501.502.2401.501.501.2801.790
1587libggml-cpu.so - ops.cpp:6210-6462 [...]ggml_compute_forward_rope_f32(ggml_compute_params const*, ggml_tensor*, bool)InBetween0.040.040.040.040.040.040.040.090.040.040.040.090.090.090.090.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.070.070.080.060.080.070.080.070.080.070.070.080.070.050.070.000.010.010.010.000.010.010.010.010.010.010.010.010.010.010.020.030.020.020.040.020.020.020.020.030.020.030.040.020.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.010.010.010.010.010.010.010.010.010.010.010.01766764987951176106.5852.35.921.71.3511111111.781111.831.561.711.82NANANANANA0.00101.1701.170101.1701.7400.7900.770100.7801.3900.5800.780100.630
1354libggml-cpu.so - vec.h:677-682ggml_compute_forward_rms_normInnermost0.220.000.270.090.040.000.130.220.090.130.000.090.090.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.030.000.030.010.000.000.020.030.010.010.000.010.010.000.000.030.000.030.010.000.000.020.030.010.010.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0010111011110111110010011110111011110111110000100.00100.8302.505.0201.6800.9902.4901.6702.4902.504.9904.980
407libggml-cpu.so - traits.cpp:13-17 [...]ggml_cpu_extra_compute_forwardSingle0.040.040.090.040.040.040.040.040.040.040.040.040.040.090.040.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.010.010.010.000.000.010.010.010.010.010.010.010.010.010.010.010.010.010.000.000.010.010.010.010.010.010.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.005555492124645974050112111.6711111111111.7510102074.3810100.830101.2500.5502.5200.4101.2500.8401.250100.5500.6201.250
1916libggml-cpu.so - vec.h:677-682ggml_compute_forward_flash_attn_extInnermost0.040.040.090.040.040.090.090.090.090.130.090.090.040.090.090.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.010.010.010.010.010.010.010.010.010.020.010.010.010.010.010.010.010.010.010.010.010.010.010.010.020.010.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.005664788117675787100100111111.71111.781.781.691.752.251.751.4311.781.7510000100.00100.8300.7101.2500.7200.5500.5600.3800.6200.6300.6200.7100.7100.5500.620
1895libggml-cpu.so - vec.h:375-751 [...]ggml_compute_forward_flash_attn_extInBetween0.040.040.040.040.040.040.040.040.040.090.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.300.300.290.310.310.310.300.320.300.290.330.300.300.290.320.010.010.000.000.010.010.010.000.010.010.010.010.000.010.010.130.110.090.130.140.090.090.160.100.100.130.120.110.130.130.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.030.030.030.030.030.030.030.030.030.030.030.030.030.030.03422364236452452047.62.011.341.341111111111.611111NANANANANA0.001020201.3300.6700.9902.0201.3200.6700.800.801.990100.801.990
60libggml-cpu.so - ggml-cpu.c:1289-1297ggml_compute_forward_mul_matOutermost0.040.040.040.040.040.040.040.040.040.040.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.020.010.010.010.010.010.010.010.010.010.010.010.010.010.010.000.000.010.000.000.010.010.000.010.000.000.000.010.010.010.000.010.010.010.010.010.010.000.010.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.003242152222211130501121111111111111111001075.00101.500.7501.503.0100.601.5101.4901.501.501.4902.990302.99010
1497libggml-cpu.so - ops.cpp:5352-5517 [...]ggml_compute_forward_get_rowsOutermost0.040.040.040.040.040.040.040.040.040.040.000.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.000.000.000.000.010.010.000.000.000.000.010.000.010.010.000.010.000.000.000.010.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00331313152101242057.5111111111111101111NANANANANA0.00101030103.0100.9903.0300.601.503.0102.9901.500.7501.490
3379exec - sampling.cpp:125-126common_sampler::set_logits(llama_context*, int)Single0.130.180.130.220.310.310.310.090.130.270.180.180.180.130.220.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.020.010.020.030.040.040.010.020.030.020.020.020.020.020.020.020.010.020.030.040.040.010.020.030.020.020.020.020.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001111111111111117587.5111.11111111111111110101075.00100.750100.600.4300.4300.4301.490100.500.7500.7500.750100.60
55libggml-cpu.so - ggml-cpu.c:1125-1395 [...]ggml_compute_forward_mul_matOutermost0.040.040.040.000.040.040.000.040.000.040.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.310.330.350.000.330.330.000.300.000.340.320.320.330.330.330.010.000.000.000.010.000.000.010.000.000.000.000.000.000.000.050.040.040.000.020.040.000.040.000.040.030.030.030.040.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.030.030.040.000.040.030.000.030.000.040.030.030.040.030.03313011010121111NANANANANA111011010111111NANANANANA0.001030103.0102.9802.9803.0101.4902.990302.9902.990
59libggml-cpu.so - ggml-cpu.c:1289-1297ggml_compute_forward_mul_matInBetween0.090.040.040.040.040.040.040.090.040.040.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.000.010.000.000.010.000.010.010.010.010.010.000.000.010.010.010.010.010.010.010.000.010.010.010.010.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00234321335312525053.57111.541.331111111.511111111001075.0010100.750101.5102.9801.0100.7500.60102.9901.500.601.500.60
1353libggml-cpu.so - ops.cpp:4325-4326ggml_compute_forward_rms_normInnermost0.090.130.220.130.220.180.180.450.040.040.220.130.270.090.220.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.010.010.030.010.030.020.020.050.010.000.030.010.030.010.020.010.010.030.010.030.020.020.050.010.000.030.010.030.010.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0011111111111111291.6787.5111.11111111111111111.6701000100.00100.6700.400.6700.400.500.500.20202.0100.400.6600.330100.330
3083libllama.so - hashtable.h:2074-2077 [...]std::_Hashtable<std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::pair<std::pai...Single0.090.000.040.090.090.130.090.090.090.000.000.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.010.010.010.010.010.000.000.000.000.000.000.010.000.000.010.010.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00101111111000101050112101111111000101NANANANANA0.00102010100.6601.0100.99010201.990
3227libllama.so - new_allocator.h:172-172 [...]std::_Hashtable<std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::pair<std::pai...Single0.090.000.040.090.090.130.130.090.040.130.040.090.090.090.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.010.010.020.010.010.010.000.010.010.010.000.010.000.000.010.010.010.020.010.010.010.000.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00101111111111111050112101111111111111NANANANANA0.00102010100.6600.6700.990200.6701.9901010101.990
299libggml-cpu.so - repack.cpp:1968-1981 [...]ggml_backend_cpu_repack_buffer_type()Single0.040.040.000.000.040.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00210010000000010062.5111110010000000010NANANANANA0.0010202.01020
3374libllama.so - hashtable.h:2077-2077 [...]std::_Hashtable<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, unsigned char>, s...Single0.090.130.040.090.090.040.000.130.040.000.040.040.040.090.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.010.010.000.000.010.010.000.000.010.000.010.000.010.010.000.010.010.000.000.010.010.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001111110110111110501121111110110111110002050.00100.6702010101.9800.660201.9901.99020101.990
95libggml-cpu.so - ggml-cpu.cpp:39-63 [...]ggml_backend_cpu_get_extra_buffer_types()Single0.040.040.040.040.040.000.040.040.000.040.040.040.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.010.000.000.010.000.000.010.000.000.000.010.000.000.010.000.010.000.000.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00111220120233401062.5111111110110111101NANANANANA0.001010100.500.501.0100.500.500.3300.3300.25010
1487exec - regex_executor.tcc:180-513 [...]std::__detail::_Executor<__gnu_cxx::__normal_iterator<char const*, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::allocator<std::__cxx11::sub_match<__gnu_cxx::__normal_iterator<ch...Single0.040.090.090.180.090.180.090.130.040.090.040.040.180.040.090.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.020.010.020.010.010.010.010.000.010.020.000.010.000.010.010.020.010.020.010.010.010.010.000.010.020.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00111111111111111035.31117.38111111111111111NANANANANA0.00100.500.500.2500.500.2500.500.330100.5010100.250100.50
3065libllama.so - hashtable.h:2627-2644 [...]std::_Hashtable<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, int>, std::alloca...Outermost0.040.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00100000010000000NANANANANA100000010000000NANANANANA0.00100.990
2874libllama.so - llama-vocab.cpp:2160-2301 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)Innermost0.040.000.000.000.040.040.040.040.000.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00100011110111100044.79114.52100011110111100NANANANANA0.0010100.9901.0100.99010101010
1913libggml-cpu.so - vec.h:740-745ggml_compute_forward_flash_attn_extInnermost0.040.000.000.040.000.040.040.040.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0010030111001000010010011110010111001000010000100.00100.3300.9901.0100.99010
2877libllama.so - new_allocator.h:172-172 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)Single0.040.000.090.000.000.000.040.090.000.000.000.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001010001100001017.9248.894.8711.13101000110000101NANANANANA0.00100.501.0100.501010
3244libllama.so - vector.tcc:114-694 [...]unicode_cpts_from_utf8(std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const&)Single0.040.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00100010000000000050111.15100010000000000NANANANANA0.001010
3224libllama.so - new_allocator.h:172-172 [...]llama_vocab::impl::~impl()Single0.040.000.040.040.040.000.000.000.000.000.040.000.000.090.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00101110000010011045.83111.71011100000100110001.5050.0010101010100.5010
1317libggml-cpu.so - ops.cpp:4319-4365 [...]ggml_compute_forward_rms_normInBetween0.040.000.000.040.040.000.000.040.000.040.000.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.010.000.000.010.000.000.000.000.000.010.000.000.000.000.000.020.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001001100102001013.9456.13.451.141.35100110010100101NANANANANA0.001010100.9900.501010
1505libggml-cpu.so - vec.h:89-89ggml_compute_forward_get_rowsInnermost0.040.040.000.040.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0011010000001000066.6783.33111.0911010000001000002000100.0010101010
1484exec - stl_algobase.h:401-405 [...]std::vector<std::__cxx11::sub_match<__gnu_cxx::__normal_iterator<char const*, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > > >, std::allocator<std::__cxx11::sub_match<__gnu_cxx::__no...Single0.040.000.090.000.040.000.040.000.000.040.000.000.040.090.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00101010100100110035.42113.011010101001001100020075.00100.50101.01010100.50
408libggml-cpu.so - traits.cpp:26-30 [...]ggml_cpu_extra_work_sizeSingle0.000.000.040.040.000.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00001100011000000048.44112.520011000110000000102074.3810101010
280libggml-base.so - ggml-impl.h:192-297 [...]ggml_backend_sched_get_tensor_backendSingle0.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000000100035113.50000000000001001000233.3310
3369libllama.so - char_traits.h:381-381 [...]std::_Hashtable<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, unsigned char>, s...Outermost0.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000010000075111000000000010000NANANANANA0.0010
453libllama.so - stl_bvector.h:100-1542 [...]llama_batch_allocr::init(llama_batch const&, llama_vocab const&, llama_memory_i const*, unsigned int, unsigned int, bool)InBetween0.000.000.000.000.040.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001000010000029.9160.022.311.18000010000100000NANANANANA0.001010
2851libllama.so - basic_string.h:218-1084 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)Innermost0.000.000.000.000.000.040.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000001000001000043.75111.33000001000001000NANANANANA0.001010
1561libllama.so - llama-kv-cache.cpp:1239-1436 [...]llama_kv_cache::set_input_kq_mask(ggml_tensor*, llama_ubatch const*, bool) constInnermost0.000.000.000.000.000.000.040.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000100010000029.552.7513.89000000100010000NANANANANA0.001010
1457exec - regex_executor.tcc:47-88 [...]std::__detail::_Executor<__gnu_cxx::__normal_iterator<char const*, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::allocator<std::__cxx11::sub_match<__gnu_cxx::__normal_iterator<ch...Single0.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000010000000000045.63111.2500001000000000010000100.0010
2868libllama.so - llama-vocab.cpp:2310-2348 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)InBetween0.000.040.040.040.040.000.040.040.000.040.000.040.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00011110110101011042.36114011110110101011NANANANANA0.0010101010101010101010
489libggml-base.so - ggml-quants.c:408-412 [...]dequantize_row_q8_0Single0.000.040.000.000.000.040.040.000.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.010.000.000.000.000.000.000.000.010.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0001000120111000067.3571.681.211.031.06010001101110000000000.00101010101010
2867libllama.so - char_traits.h:381-381 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)Innermost0.000.040.040.000.000.000.000.000.040.000.000.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.010.000.000.000.000.000.000.000.010.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00011000001000011048.08114011000001000011NANANANANA0.001010101010
3064libllama.so - hashtable.h:2077-2077 [...]std::__detail::_Map_base<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, int>, st...Single0.000.000.090.000.000.000.040.000.000.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.010.000.000.000.000.000.010.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000010001001110000501120010001001110000002050.001010101010
26libggml-base.so - ggml.c:1211-1699 [...]ggml_new_tensor_implOutermost0.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0001000000000000023.0865111010000000000000NANANANANA0.0010
3252libllama.so - unicode.cpp:130-131 [...]unicode_cpt_flags_array()Innermost0.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00010000000000000012.51180100000000000001017058.3310
1094libggml-base.so - stl_uninitialized.h:642-642 [...]std::vector<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::allocator<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > > >::_M_default_appe...Single0.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000100000000053.13111.880000001000000001001075.0010
1564libllama.so - stl_algobase.h:952-952llama_kv_cache::set_input_kq_mask(ggml_tensor*, llama_ubatch const*, bool) constSingle0.000.000.000.000.040.040.000.000.000.000.000.040.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001100000100110010011100001100000100101000100.0010101010
1507libggml-cpu.so - ops.cpp:5311-5321ggml_compute_forward_get_rowsSingle0.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000100000000054.171120000001000000003002166.6710
1014libggml-base.so - new_allocator.h:172-172 [...]void std::_Destroy_aux<false>::__destroy<gguf_kv*>(gguf_kv*, gguf_kv*)Innermost0.000.000.040.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00001000000000010050112001000000000010000.50075.001010
1499libggml-cpu.so - ops.cpp:5371-5517 [...]ggml_compute_forward_get_rowsInBetween0.000.000.000.040.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000100000010000071.25111000100000010000NANANANANA0.001010
1894libggml-cpu.so - ops.cpp:8884-8885 [...]ggml_compute_forward_flash_attn_extInnermost0.000.000.040.000.000.040.000.040.040.040.000.040.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000100101210110187.581.2511100100101110110111000100.001010101010101010
2505libllama.so - stl_heap.h:229-235llama_token_data_array_partial_sort_inplace(llama_token_data_array*, int)Innermost0.000.040.000.000.040.040.000.000.040.040.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.010.000.000.010.000.000.000.000.010.000.000.000.000.000.000.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00010011001101010035.71614010011001101010NANANANANA0.0010101010101010
2479libllama.so - llama-sampling.cpp:370-463 [...]llama_sampler_chain_apply(llama_sampler*, llama_token_data_array*)Single0.000.000.000.000.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000001100000000501120000001100000000102066.671010
1517libllama.so - stl_tree.h:2111-2115 [...]llama_kv_cache::apply_ubatch(llama_kv_cache::slot_info const&, llama_ubatch const&)Innermost0.000.000.000.000.000.040.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000001000000010NANA1NANA0000010000000100001125.001010
41exec - main.cpp:663-681 [...]mainInnermost0.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000010000036.05114000000000010000NANANANANA0.0010
3085libllama.so - hashtable.h:2627-2644 [...]std::_Hashtable<std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::pair<std::pai...Innermost0.000.090.040.000.130.090.040.090.090.040.040.090.090.040.090.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.010.000.010.010.000.000.010.010.000.010.000.010.000.000.010.010.000.010.010.000.000.010.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00011011111111111050112011011111111111NANANANANA0.0010101010101010101010101010
61libggml-cpu.so - ggml-cpu.c:2129-2860 [...]ggml_graph_planOutermost0.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000010000000000040.63113.17000010000000000NANANANANA0.0010
1896libggml-cpu.so - ops.cpp:8777-8919 [...]ggml_compute_forward_flash_attn_extOutermost0.000.000.040.000.000.000.000.000.000.040.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.300.000.000.000.000.000.000.290.000.300.300.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.090.000.000.000.000.000.000.100.000.130.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.030.000.000.000.000.000.000.030.000.030.030.000.00001000000101100050112001000000101100NANANANANA0.0010101010
1477libllama.so - llama-kv-cells.h:125-129 [...]llama_kv_cache::prepare(std::vector<llama_ubatch, std::allocator<llama_ubatch> > const&)Innermost0.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000000100033.33113.480000000000001003000537.5010
2917libllama.so - new_allocator.h:172-172 [...]llama_decode_text(std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const&)Single0.000.000.000.040.000.000.000.000.000.000.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000100000000110040.44114.39000100000000110NANANANANA0.00101010
1397libllama.so - basic_string.h:194-4082 [...]gguf_kv_to_str[abi:cxx11](gguf_context const*, int)Outermost0.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000100000NANANANANA000000000100000NANANANANA0.0010
1063libggml-base.so - gguf.cpp:142-144 [...]gguf_kv::gguf_kv<int>(std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const&, std::vector<int, std::allocator<int> > const&)Single0.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000000100000002511400000000100000020000100.0010
2507libllama.so - stl_heap.h:229-235llama_token_data_array_partial_sort_inplace(llama_token_data_array*, int)Innermost0.000.000.000.000.000.000.000.000.040.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000001000100035.911.33140000000010001000004050.001010
606exec - stl_tree.h:1947-1948 [...]common_params_parser_init(common_params&, llama_example, void (*)(int, char**))Single0.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000000000000010501120000000000000010001125.0010
3066libllama.so - hashtable.h:2627-2644 [...]std::_Hashtable<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, int>, std::alloca...Innermost0.000.040.000.040.040.000.090.000.040.000.040.000.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.010.000.010.000.000.000.000.000.000.000.010.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00010110101010111050112010110101010111NANANANANA0.00101010101010101010
1355libggml-cpu.so - ops.cpp:4319-4338 [...]ggml_compute_forward_rms_normInBetween0.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000000000000108.3551.921.821.241.480000000000000100002.33050.0010
2546libllama.so - llama-sampling.cpp:309-310llama_sampler_top_p_apply(llama_sampler*, llama_token_data_array*)Single0.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000000000100002511400000000000100010000100.0010
1654libllama.so - llama-kv-cells.h:14-14 [...]llama_kv_cells::~llama_kv_cells()Single0.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000001000050112000000000001000000000.0010
1136exec - basic_string.h:198-433 [...]std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >* std::__do_uninit_copy<__gnu_cxx::__normal_iterator<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > co...Innermost0.000.000.000.000.000.000.000.000.000.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000010100042.05113.17000000000010100NANANANANA0.001010
3077libllama.so - stl_uninitialized.h:642-642 [...]std::vector<llama_vocab::token_data, std::allocator<llama_vocab::token_data> >::_M_default_append(unsigned long)Single0.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000001000078.57111.20000000000010000001050.0010
2843libllama.so - new_allocator.h:172-172 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)InBetween0.000.000.000.000.000.000.000.090.040.000.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.000.010.000.000.000.000.000.000.000.000.000.000.010.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000000110010103.3343.86.0911.07000000011001010NANANANANA0.0010101010
2939libllama.so - stl_tree.h:1963-1964 [...]llama_vocab_is_eogSingle0.000.000.000.000.000.000.040.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000001101000000501120000001101000000001050.00101010
2876exec - common.cpp:1012-1319 [...]common_init_from_params(common_params&)Single0.000.000.000.000.040.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000010000010000045.83112.74000010000010000NANANANANA0.001010
3084libllama.so - hashtable.h:2627-2644 [...]std::_Hashtable<std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::pair<std::pai...Outermost0.000.000.000.000.000.000.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000001100000NANANANANA000000001100000NANANANANA0.001010
713libllama.so - llama-context.cpp:1007-1251 [...]llama_context::decode(llama_batch const&)InBetween0.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000000001045.9111000000000000001NANANANANA0.0010
1075libggml-cpu.so - ops.cpp:708-713ggml_compute_forward_dupInBetween0.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000100000000000060111.180001000000000001001075.0010
39exec - new_allocator.h:151-191 [...]mainInnermost0.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000000100047.95111.2000000000000100NANANANANA0.0010
1074libggml-cpu.so - ops.cpp:711-713ggml_compute_forward_dupInnermost0.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000100000000000501120000100000000001001075.0010
1073libggml-cpu.so - ops.cpp:708-713ggml_compute_forward_dupOutermost0.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000001000000057.14111.170000000010000001001075.0010
1646libllama.so - stl_vector.h:368-735 [...]std::vector<llama_kv_cache::slot_info, std::allocator<llama_kv_cache::slot_info> >::~vector()Outermost0.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000100000000050112000000100000000NANANANANA0.0010
1398libllama.so - ostream:578-673 [...]gguf_kv_to_str[abi:cxx11](gguf_context const*, int)Innermost0.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000010000000042.38111000000010000000NANANANANA0.0010
435libggml-cpu.so - binary-ops.cpp:84-84ggml_compute_forward_add_non_quantizedInnermost0.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000010000000050112000000010000000NANANANANA0.0010
1515libllama.so - stl_tree.h:1947-1948 [...]llama_kv_cache::apply_ubatch(llama_kv_cache::slot_info const&, llama_ubatch const&)Innermost0.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000000100000000501120000000100000000001050.0010
1508libggml-cpu.so - ops.cpp:5552-5563ggml_compute_forward_set_rowsInnermost0.000.000.000.000.040.000.000.040.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000100100010000501120000100100010003002080.00101010
689libllama.so - shared_ptr_base.h:337-1068 [...]llama_context::process_ubatch(llama_ubatch const&, llm_graph_type, llama_memory_context_i*, ggml_status&)Single0.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000010000000052.08111000000010000000NANANANANA0.0010
978libggml-base.so - new_allocator.h:172-172 [...]bool gguf_read_emplace_helper<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >(gguf_reader const&, std::vector<gguf_kv, std::allocator<gguf_kv> >&, std::__cxx11::basic_string<c...Innermost0.000.000.000.000.000.000.000.000.040.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000001010100050112000000001010100NANANANANA0.00101010
×