Net Performance. Зачем нужна производительность

Сентябрь 13, 2022

Главная
Алгебра
Net Performance. Зачем нужна производительность

Содержание

2. Зачем нужна производительность?
3. Как понять, на каком уровне проблема?
4. Инструменты dotTrace dotMemory BenchmarkDotNet Visual Studio profiler CodeTrack CLR Profiler
5. Инструменты BenchmarkDotNet CodeTrack CLR Profiler
6. Инструменты Performance Monitor
7. Инструменты ETW Windows Performance Analyzer
8. Инструменты MS Message Analyzer
9. Lock-free & Wait-free
10. Lock-free & Wait-free
11. Lock-free & Wait-free double CompareExchange (ref double location1, double value, double comparand); Compare and Swap Interlocked
12. ConcurrentDictionary
13. ConcurrentDictionary Сильная деградация при попытке получить все блокировки
14. SIMD Single instruction, Multiple data float[] values = GetValues(); float increment = GetIncrement(); for (int i
15. SIMD Single instruction, Multiple data
16. Task.Yield async Task LongRunningCpuBoundWorkAsync() { for (int i = 0; i != 1000000; ++i) { ...
17. Task.Yield async Task LongRunningCpuBoundWorkAsync() { for (int i = 0; i != 1000000; ++i) { ...
18. Long switch-case switch (packetID) { case BncsPacketId.Null: break; case BncsPacketId.EnterChat: string ecUniqueName = pck.ReadNTString(); string ecStatstring
19. Long switch-case Dictionary > switch (packetID) { case BncsPacketId.Null: break; case BncsPacketId.EnterChat: string ecUniqueName = pck.ReadNTString();
20. GC Клиентский режим Серверный режим
21. ConcurrentBag Оптимизация потребления памяти
22. async/await
23. async/await
24. async/await
25. async/await Task.FromResult(0) Task.CompletedResult .Net 4.6
26. Аллокация на стеке .net core 2.1 Span C# 7.2 int* block = stackalloc int[100]; Span span
27. JIT оптимизация [AggressiveInlining] спасет всех Generic типы инлайнятся Типичные заблуждения: Компилятор умный internal static class FreeObjectUtils
28. JIT оптимизация [AggressiveInlining] спасет всех Generic типы инлайнятся Типичные заблуждения: Компилятор умный internal static class FreeObjectUtils
29. JIT оптимизация [AggressiveInlining] спасет всех Generic типы инлайнятся Типичные заблуждения: Компилятор умный internal static class FreeObjectUtils
30. JIT оптимизация public Dictionary(IEqualityComparer comparer); public struct LongEqualityComparer : IEqualityComparer { public static readonly IEqualityComparer BoxedInstanceInt64
31. JIT оптимизация [MethodImpl(MethodImplOptions.AggressiveInlining)] public void Clear() { if (typeof(T) == typeof(int) || typeof(T) == typeof(uint) ||
32. MemoryStream
33. MemoryStream
34. MemoryStream То же самое для: List Collection Dictionary и прочих коллекций
35. struct[] -> IList int[] a = new int[10]; DoSomething(a); public void DoSomething (IList list) { }
36. LINQ // [18 7 - 18 80] IL_000e: ldarg.0 // this IL_000f: call instance class [mscorlib]System.Collections.Generic.IEnumerable`1
37. LINQ public IEnumerable FindChildren(Guid parentId) { return this.AllParts.Where(part => part.ParentGuid == parentId).ToList(); } public IEnumerable FindChildren(Guid
38. LINQ public IEnumerable FindChildren(Guid parentId) { return this.AllParts.Where(part => part.ParentGuid == parentId).ToList(); } public IEnumerable FindChildren(Guid
39. Строки Вместо конкатенаций используй StringBuilder Вместо string.Format используй конкатенацию string first = "first"; string second =
40. Boxing public void Info(params object[] args) log.Info(1, 2, 3, 4, 5); Как надо? public static void
41. Heap Allocation Viewer
42. Почитать? Federico Lois Sasha Goldstein Андрей Акиньшин
44. Скачать презентацию

Слайд 2

Зачем нужна производительность?

Слайд 3

Как понять, на каком уровне проблема?

Слайд 4

Инструменты
dotTrace
dotMemory
BenchmarkDotNet
Visual Studio profiler
CodeTrack
CLR Profiler

Слайд 5

Инструменты
BenchmarkDotNet
CodeTrack
CLR Profiler

Слайд 6

Инструменты
Performance Monitor

Слайд 7

Инструменты
ETW
Windows Performance Analyzer

Слайд 8

Инструменты
MS Message Analyzer

Слайд 9

Lock-free & Wait-free

Слайд 10

Lock-free & Wait-free

Слайд 11

Lock-free & Wait-free
double CompareExchange (ref double location1, double value, double comparand);

Compare and Swap

Interlocked

Слайд 12

ConcurrentDictionary

Слайд 13

ConcurrentDictionary
Сильная деградация при попытке
получить все блокировки

Слайд 14

SIMD
Single instruction, Multiple data
float[] values = GetValues();
float increment = GetIncrement();
for (int

i = 0; i < values.Length; i++)
{
values[i] += increment;
}

Vector values = GetValues();
Vector increment = GetIncrement();
Vector result = values + increment;

Vector.IsHardwareAccelerated

Слайд 15

SIMD
Single instruction, Multiple data

Слайд 16

Task.Yield
async Task LongRunningCpuBoundWorkAsync()
{
for (int i = 0; i != 1000000;

++i)
{
... // CPU-bound work.
}
}

Слайд 17

Task.Yield
async Task LongRunningCpuBoundWorkAsync()
{
for (int i = 0; i != 1000000;

++i)
{
... // CPU-bound work.
await Task.Yield();
}
}

Слайд 18

Long switch-case
switch (packetID)
{
case BncsPacketId.Null:
break;
case BncsPacketId.EnterChat:
string ecUniqueName =

pck.ReadNTString();
string ecStatstring = pck.ReadNTString();
string ecAcctName = pck.ReadNTString();
var args = new EventArgs(ecUniqueName, ecStatstring, ecAcctName);
OnEnteredChat(args);
break; ...
// ну и так и далее
}

Слайд 19

Long switch-case
Dictionary>
switch (packetID)
{
case BncsPacketId.Null:
break;
case BncsPacketId.EnterChat:
string ecUniqueName

= pck.ReadNTString();
string ecStatstring = pck.ReadNTString();
string ecAcctName = pck.ReadNTString();
var args = new EventArgs(ecUniqueName, ecStatstring, ecAcctName);
OnEnteredChat(args);
break; ...
// ну и так и далее
}

Слайд 20

GC
Клиентский режим
Серверный режим

Слайд 21

ConcurrentBag
Оптимизация потребления памяти

Слайд 22

async/await

Слайд 23

async/await

Слайд 24

async/await

Слайд 25

async/await
Task.FromResult(0)
Task.CompletedResult
.Net 4.6

Слайд 26

Аллокация на стеке
.net core 2.1
Span
C# 7.2
int* block = stackalloc int[100];
Span

span = size <= 128 ? stackalloc byte[size] : new byte[size];

ValueTask

Слайд 27

JIT оптимизация
[AggressiveInlining] спасет всех
Generic типы инлайнятся
Типичные заблуждения:
Компилятор умный
internal static class

FreeObjectUtils
{
public void Free(T instance)
where T : IChildItems
{
bool needDispose = typeof(IDisposable).IsAssignableFrom(typeof(T));
foreach (var element in instance.ChildItems) element.Dispose();
if (needDispose)
DisposableUtils.Clean(instance);
else
instance.ChildItems.Clear();
}
}

interface IChildItems
{
Collection ChildItems { get; }
}

Слайд 28

JIT оптимизация
[AggressiveInlining] спасет всех
Generic типы инлайнятся
Типичные заблуждения:
Компилятор умный
internal static class

FreeObjectUtils
{
public void Free(T instance)
where T : IChildItems
{
foreach (var element in instance.ChildItems) element.Dispose();
if (false)
DisposableUtils.Clean(instance);
else
instance.ChildItems.Clear();
}
}

interface IChildItems
{
Collection ChildItems { get; }
}

Слайд 29

JIT оптимизация
[AggressiveInlining] спасет всех
Generic типы инлайнятся
Типичные заблуждения:
Компилятор умный
internal static class

FreeObjectUtils
{
public void Free(T instance)
where T : IChildItems
{
foreach (var element in instance.ChildItems) element.Dispose();
instance.ChildItems.Clear();
}
}

interface IChildItems
{
Collection ChildItems { get; }
}

Слайд 30

JIT оптимизация
public Dictionary(IEqualityComparer comparer);
public struct LongEqualityComparer : IEqualityComparer
{
public static

readonly IEqualityComparer BoxedInstanceInt64 = new LongEqualityComparer();
[MethodImpl(MethodImplOptions.AggressiveInlining)]
public bool Equals(long x, long y)
{
return x == y;
}
}

Слайд 31

JIT оптимизация
[MethodImpl(MethodImplOptions.AggressiveInlining)]
public void Clear()
{
if (typeof(T) == typeof(int)

|| typeof(T) == typeof(uint) || typeof(T) == typeof(byte) ||
typeof(T) == typeof(short) || typeof(T) == typeof(long) || typeof(T) == typeof(ulong))
{
_size = 0;
_version++;
}
else
{
int size = (int)_size;
_size = 0;
_version++;
if (size > 0)
Array.Clear(_items, 0, size);
}
}

Слайд 32

MemoryStream

Слайд 33

MemoryStream

Слайд 34

MemoryStream
То же самое для:
List
Collection
Dictionary
и прочих коллекций

Слайд 35

struct[] -> IList
int[] a = new int[10];
DoSomething(a);
public void DoSomething(IList list)
{
}

Слайд 36

LINQ
// [18 7 - 18 80]
IL_000e: ldarg.0 // this

IL_000f: call instance class [mscorlib]System.Collections.Generic.IEnumerable`1 WpfApp3.Class2::get_AllParts()
IL_0014: ldloc.0 // 'CS$<>8__locals0'
IL_0015: ldftn instance bool WpfApp3.Class2/'<>c__DisplayClass2_0'::'b__0'(class WpfApp3.RibbonPartMetadata)
IL_001b: newobj instance void class [mscorlib]System.Func`2::.ctor(object, native int)
IL_0020: call class [mscorlib]System.Collections.Generic.IEnumerable`1 [System.Core]System.Linq.Enumerable::Where(class [mscorlib]System.Collections.Generic.IEnumerable`1, class [mscorlib]System.Func`2)
IL_0025: call class [mscorlib]System.Collections.Generic.List`1 [System.Core]System.Linq.Enumerable::ToList(class [mscorlib]System.Collections.Generic.IEnumerable`1)
IL_002a: stloc.1 // V_1
IL_002b: br.s IL_002d

public IEnumerable FindChildren(Guid parentId)
{
return this.AllParts.Where(part => part.ParentGuid == parentId).ToList();
}

Слайд 37

LINQ
public IEnumerable FindChildren(Guid parentId)
{
return this.AllParts.Where(part => part.ParentGuid == parentId).ToList();
}
public IEnumerable

FindChildren(Guid parentId)
{
var list = new List();
foreach (RibbonPartMetadata part in this.AllParts)
{
if (part.ParentGuid == parentId)
{
list.Add(part);
}
}
return list;
}

Слайд 38

LINQ
public IEnumerable FindChildren(Guid parentId)
{
return this.AllParts.Where(part => part.ParentGuid == parentId).ToList();
}
public IEnumerable

FindChildren(Guid parentId)
{
var list = new List(this.AllPart.Count);
foreach (RibbonPartMetadata part in this.AllParts)
{
if (part.ParentGuid == parentId)
{
list.Add(part);
}
}
return list;
}

Слайд 39

Строки
Вместо конкатенаций используй StringBuilder
Вместо string.Format используй конкатенацию
string first = "first";

string second = "second";
return $"{first}{second}";

string first = "first";
string second = "second";
return first + second;

Слайд 40

Boxing
public void Info(params object[] args)
log.Info(1, 2, 3, 4, 5);
Как надо?
public static

void Info();
public static void Info(T1 arg1);
…
public static void Info(T1 arg1, T2 arg2, T3 arg3);

static Logger log = new Logger();

log.Info();

new object[0]

Слайд 41

Heap Allocation Viewer

Слайд 42

Net Performance. Зачем нужна производительность

Содержание

Зачем нужна производительность?

Как понять, на каком уровне проблема?

ИнструментыdotTracedotMemoryBenchmarkDotNetVisual Studio profilerCodeTrackCLR Profiler

ИнструментыBenchmarkDotNetCodeTrackCLR Profiler

ИнструментыPerformance Monitor

ИнструментыETWWindows Performance Analyzer

ИнструментыMS Message Analyzer

Lock-free & Wait-free

Lock-free & Wait-free

Lock-free & Wait-freedouble CompareExchange (ref double location1, double value, double comparand);

ConcurrentDictionary

ConcurrentDictionaryСильная деградация при попытке получить все блокировки

SIMDSingle instruction, Multiple datafloat[] values = GetValues();float increment = GetIncrement();for (int

SIMDSingle instruction, Multiple data

Task.Yieldasync Task LongRunningCpuBoundWorkAsync(){ for (int i = 0; i != 1000000;

Task.Yieldasync Task LongRunningCpuBoundWorkAsync(){ for (int i = 0; i != 1000000;

Long switch-caseswitch (packetID){ case BncsPacketId.Null: break; case BncsPacketId.EnterChat: string ecUniqueName =

Long switch-caseDictionary>switch (packetID){ case BncsPacketId.Null: break; case BncsPacketId.EnterChat: string ecUniqueName

GCКлиентский режимСерверный режим

ConcurrentBagОптимизация потребления памяти

async/await

async/await

async/await

async/awaitTask.FromResult(0) Task.CompletedResult .Net 4.6

Аллокация на стеке.net core 2.1SpanC# 7.2int* block = stackalloc int[100]; Span

JIT оптимизация[AggressiveInlining] спасет всехGeneric типы инлайнятсяТипичные заблуждения:Компилятор умный internal static class

JIT оптимизация[AggressiveInlining] спасет всехGeneric типы инлайнятсяТипичные заблуждения:Компилятор умный internal static class

JIT оптимизация[AggressiveInlining] спасет всехGeneric типы инлайнятсяТипичные заблуждения:Компилятор умный internal static class

JIT оптимизация public Dictionary(IEqualityComparer comparer);public struct LongEqualityComparer : IEqualityComparer{ public static

JIT оптимизация [MethodImpl(MethodImplOptions.AggressiveInlining)] public void Clear() { if (typeof(T) == typeof(int)

MemoryStream

MemoryStream

MemoryStreamТо же самое для:ListCollectionDictionaryи прочих коллекций

struct[] -> IListint[] a = new int[10];DoSomething(a);public void DoSomething(IList list){}

LINQ // [18 7 - 18 80] IL_000e: ldarg.0 // this

LINQpublic IEnumerable FindChildren(Guid parentId){ return this.AllParts.Where(part => part.ParentGuid == parentId).ToList();}public IEnumerable

LINQpublic IEnumerable FindChildren(Guid parentId){ return this.AllParts.Where(part => part.ParentGuid == parentId).ToList();}public IEnumerable

СтрокиВместо конкатенаций используй StringBuilderВместо string.Format используй конкатенацию string first = "first";

Boxingpublic void Info(params object[] args)log.Info(1, 2, 3, 4, 5);Как надо?public static

Heap Allocation Viewer

Почитать?Federico LoisSasha GoldsteinАндрей Акиньшин

Похожие презентации

Инструменты
dotTrace
dotMemory
BenchmarkDotNet
Visual Studio profiler
CodeTrack
CLR Profiler

Инструменты
BenchmarkDotNet
CodeTrack
CLR Profiler

Инструменты
Performance Monitor

Инструменты
ETW
Windows Performance Analyzer

Инструменты
MS Message Analyzer

Lock-free & Wait-free
double CompareExchange (ref double location1, double value, double comparand);

ConcurrentDictionary
Сильная деградация при попытке
получить все блокировки

SIMD
Single instruction, Multiple data
float[] values = GetValues();
float increment = GetIncrement();
for (int

SIMD
Single instruction, Multiple data

Task.Yield
async Task LongRunningCpuBoundWorkAsync()
{
for (int i = 0; i != 1000000;

Task.Yield
async Task LongRunningCpuBoundWorkAsync()
{
for (int i = 0; i != 1000000;

Long switch-case
switch (packetID)
{
case BncsPacketId.Null:
break;
case BncsPacketId.EnterChat:
string ecUniqueName =

Long switch-case
Dictionary>
switch (packetID)
{
case BncsPacketId.Null:
break;
case BncsPacketId.EnterChat:
string ecUniqueName

GC
Клиентский режим
Серверный режим

ConcurrentBag
Оптимизация потребления памяти

async/await
Task.FromResult(0)
Task.CompletedResult
.Net 4.6

Аллокация на стеке
.net core 2.1
Span
C# 7.2
int* block = stackalloc int[100];
Span

JIT оптимизация
[AggressiveInlining] спасет всех
Generic типы инлайнятся
Типичные заблуждения:
Компилятор умный
internal static class

JIT оптимизация
[AggressiveInlining] спасет всех
Generic типы инлайнятся
Типичные заблуждения:
Компилятор умный
internal static class

JIT оптимизация
[AggressiveInlining] спасет всех
Generic типы инлайнятся
Типичные заблуждения:
Компилятор умный
internal static class

JIT оптимизация
public Dictionary(IEqualityComparer comparer);
public struct LongEqualityComparer : IEqualityComparer
{
public static

JIT оптимизация
[MethodImpl(MethodImplOptions.AggressiveInlining)]
public void Clear()
{
if (typeof(T) == typeof(int)

MemoryStream
То же самое для:
List
Collection
Dictionary
и прочих коллекций

struct[] -> IList
int[] a = new int[10];
DoSomething(a);
public void DoSomething(IList list)
{
}

LINQ
// [18 7 - 18 80]
IL_000e: ldarg.0 // this

LINQ
public IEnumerable FindChildren(Guid parentId)
{
return this.AllParts.Where(part => part.ParentGuid == parentId).ToList();
}
public IEnumerable

LINQ
public IEnumerable FindChildren(Guid parentId)
{
return this.AllParts.Where(part => part.ParentGuid == parentId).ToList();
}
public IEnumerable

Строки
Вместо конкатенаций используй StringBuilder
Вместо string.Format используй конкатенацию
string first = "first";

Boxing
public void Info(params object[] args)
log.Info(1, 2, 3, 4, 5);
Как надо?
public static

Почитать?
Federico Lois
Sasha Goldstein
Андрей Акиньшин