B4M36ESW - Efektivní software / Effective Software

O předmětu / About

V předmětu Effektivní software se seznámíte s problematikou optimalizace softwaru a algoritmů při omezených zdrojích. Předmět se zaměřuje na efektivní využití moderních hardwarových architektur, tj. vícejádrových a víceprocesorových systémů se sdílenou pamětí. Přednášené techniky se student naučí implementovat v jazycích C a Java. Hlavní témata jsou: optimalizace kódu, efektivní datové struktury a využití cache paměti procesoru, datové struktury ve vícevláknových aplikacích, implementace výkonných síťových serverů.

Within the course of Efficient software you will get familiar with the area of software and algorithm optimization under limited resources. The course is focused on the efficient usage of modern hardware architectures - multi-core and multi-processor systems with shared memory. Students will practically implmenet and use presented techniques in C and Java. Main topics are: code optimization, effective data structures and processor cache usage, data structures in multi-threaded applications and implementation of efficient network servers.

Způsob hodnocení předmětu / Assessment

Hodnocení předmětu je založeno na bodovém systému, kde výsledná klasifikace se stanovuje dle klasifikační stupnice ve Studijním a zkušebním řádu ČVUT, článek 12. 60 bodů může student získat za práci během semestru a 30 bodů za písemnou zkoušku. Ústní zkouška je nepovinná a student může dle svých znalostí získat až 10 bodů. Pro získání zápočtu musí student získat minimálně 30 bodů za práci během semestru. Pro úspěšné zakončení předmětu musí student získat minimálně 20 bodů za zkoušku.

Graded assessment is based on the point evaluation, where the final grade is given by the evaluation scale The study and examination code of CTU, article 15. A student can obtain 60 points for the work during the practical part of the course and 30 points for the written final evaluation. Oral examination is optional and a student can obtain up to 10 points. In order to get zápočet/basic assessment (the condition prior final examination), a student must have at least 30 points for the work during the practical part of the course. A student can pass examination if he/she has at least 20 points from final examination. The final grade is given by the sum of points according to the evaluation scale. }

Přednášky / Lectures

Přednáška / Lecture Materiály / Materials
Úvod: jak psát efektivní programy, moderní počítačové architektury, spotřeba energie slides
Měření výkonnosti programu, metriky, statistiky, WCET, timestamping, profiling (perf, *trace, cachegrind) slides code
Běh programu - virtuální stroj, byte-code, kompilátor jazyka Java, JIT kompilátor, vazba na strojový kód, analýza byte-code, zpětná dekompilace Java byte-code, optimalizace v kompilátorech, analýza výkonnosti programu
Virtual machine, byte-code, (de-)compilers, disassembler, profiling
slides
Škálovatelná synchronizace - od mutexů k RCU (read-copy-update), transakční paměť, škálovalné API, SIM komutativita slides
Konkurence v JVM - více-vláknové přístupy k datům, monitoring zámků, atomické operace, lock-less/block-free datové struktury, neblokující algoritmy (fronta, zásobník, množina, slovník)
Data races, synchronization, atomic operations, non-blocking algorithms
slides
Efektivní servery, C10K problém, využití neblokujících IO pro efektivní zpracování síťových požadavků, nativní vyrovnávací paměť v JVM
Non-blocking I/O, C10K, efficient networking
slides
Serializace datových struktur - JSON, XML, protobufs, AVRO, cap’n’proto, mmap/sdílená paměť slides slides2
Přístup k paměti - efektivní programování s použitím vyrovnávací paměti, dynamická alokace paměti (malloc, NUMA, …) slides animations
Reprezentace objektu v JVM - statická a dynamická analýza paměti, reprezentace dat, datové struktury redukující zátěž správy paměti
JVM - Memory analysis, data structures, collections for performance
slides
JVM - alokace objektu, bloom filters, typy odkazů na instance, efektivní vyrovnávací paměť
JVM - Object allocation, bloom filters, references, effective caching
slides
Správa paměti v JVM - organizace paměti, algoritmy správy paměti a jejich parametrizace
Memory Management in JVM – Memory Layout, Garbage Collectors
slides
Virtualizace (IOMMU, SR-IOV, PCI pass-through, virtio, …) slides code
Běh programu - kompilátor jazyka C (modifikátor restrict, optimalizace), SIMD esw13_2017.pdf

Doplňková literatura / Literature

  • MIT: Performance-engineering-of-software-systems
  • Oaks, S.: Java Performance: The Definitive Guide. O'Reilly, USA 2014.
  • Jones, R., Hosking, A., Moss, E.: The Garbage Collection Handbook - The Art of Automatic Memory Management. CRC Press, USA 2012.
  • Herlihy, M., Shavit, N.: The Art of Multiprocessor Programming. Morgan Kaufman, 2008.
  • Fog, A.: The microarchitecture of Intel, AMD and VIA CPU, 2016.(online: http://www.agner.org/optimize/microarchitecture.pdf)
  • Drepper U.: What every programmer should know about memory, 2007
  • Jain, R.: The Art of Computer Systems Performance Evaluation. Wiley, New York 1991. (slides, book)
  • Lilja, D. J.: Measuring Computer Performance: A Practitioner's Guide. Cambridge University Press, 2000. (book web site, Supplemental Teaching Materials)
 
Groups:
courses/b4m36esw/start.txt · Last modified: 2017/05/22 12:43 by sojkam1